Conselheiros do CNMP propõem recomendação para o uso de IA Generativa no Ministério Público

Os conselheiros nacionais do Ministério Público Rodrigo Badaró, representante da advocacia no CNMP, e Moacyr Rey Filho apresentaram ao órgão uma proposta de recomendação para o uso de ferramentas de Inteligência Artificial Generativa no âmbito do Ministério Público brasileiro. A IA generativa é um tipo de sistema capaz de gerar texto, imagens, áudios ou vídeos em resposta a pedidos em linguagem comum, como funciona o Chat GPT. 

“Em um contexto em que as organizações públicas enfrentam desafios cada vez mais complexos, com demandas crescentes e recursos frequentemente limitados por restrições orçamentárias, a tecnologia é um elemento indispensável para otimizar processos e ampliar a capacidade de resposta à sociedade”, afirma a proposta apresentada pelos conselheiros.

Princípios

Na visão dos conselheiros, o desenvolvimento, a implementação e o uso de ferramentas de IA Generativa devem seguir princípios como a centralidade da pessoa humana; o respeito aos direitos humanos e aos valores democráticos; a igualdade e não discriminação; o fomento ao desenvolvimento tecnológico e à inovação responsável; a privacidade, segurança, proteção de dados e autodeterminação informativa; dentre outros.

Dada a natureza sensível dos dados manuseados, há a preocupação, por exemplo, com a possibilidade de vazamentos no compartilhamento de dados com ferramentas externas. Além disso, existe o risco do uso indevido dos dados, seja intencional ou acidental, por terceiros. Outro receio é quanto à exposição de informações privadas no processo de treinamento dos modelos de IA.  

Segurança

Eles recomendam, portanto, a adoção de soluções operadas em datacenters ou provedores de serviço de nuvem, ou ainda por meio de Interface de Programação de Aplicações (APIs) que garantam o isolamento dos dados da organização com relação ao repositório central da ferramenta. “Este isolamento é crucial, pois assegura que os dados compartilhados não se misturem com outros repositórios, mantendo-se protegidos e sob controle direto do Ministério Público”, enfatizam Badaró e Moacyr. 

O isolamento impediria, assim, a fusão de dados do MP com repositórios externos, reduzindo significativamente o risco de violações e uso indevido de informações e garantiria uma camada adicional de segurança, mantendo a integridade e confidencialidade dos dados. Além disso, as soluções devem estar em conformidade com a Lei Geral de Proteção de Dados (LGPD). 

A proposta sublinha a importância de promover treinamentos e conscientização sobre o uso dessas tecnologias, para uma aplicação eficaz e segura, além de um monitoramento e revisão periódicos para adequação às mudanças tecnológicas e legais. Ainda, a norma recomenda que as instituições fomentem um ecossistema digital favorável à Inteligência Artificial, garantindo investimento em infraestrutura tecnológica e em pesquisa e desenvolvimento da IA. 

Eficiência

Para eles, a adoção de novas tecnologias pelo MP reflete o compromisso da instituição na adaptação às dinâmicas sociais emergentes, visando aprimorar sua eficiência e efetividade. “Essa integração não é apenas uma questão de modernização, mas uma necessidade imperativa para a manutenção da sua relevância e efetividade.”

O uso de ferramentas digitais e de IA, particularmente os Modelos de Linguagem de Grande Escala (LLMs), por exemplo, oferece oportunidades sem precedentes para a automatização de tarefas, análise de grandes volumes de dados e apoio à tomada de decisões, sempre em suporte à atuação humana, como asseverou Rodrigo Badaró ao relatar o Pedido de Providências nº 1.00085/2023/10: 

“Ainda que algum servidor ou membro do Ministério Público se utilize da ferramenta para apontar caminhos para algum problema jurídico em análise, o seu dever funcional (art. 43, III, da Lei Orgânica Nacional), constante inclusive nas Leis Orgânicas que disciplinam o Ministério Público, obriga que seja feito o devido juízo da adequação daquele encaminhamento como base de sua manifestação no caso concreto, como aliás já ocorre.”

Inovação

Ainda, como forma de estimular o desenvolvimento, implementação e uso responsável de ferramentas de IA no Ministério Público, a Recomendação sugere o uso de sandboxes regulatórios — um ambiente regulatório experimental, com a finalidade de suspender temporariamente a obrigatoriedade de cumprimento de normas exigidas para atuação em determinados setores, ou seja, um regime de teste controlado e seguro, com mais flexibilidade, mas com o monitoramento e a orientação dos órgãos reguladores.

“O equilíbrio entre segurança e inovação é delicado. Regulamentações demasiadamente cautelosas podem criar barreiras tecnológicas, impedindo o Ministério Público de explorar plenamente as capacidades e as soluções oferecidas por estas tecnologias emergentes. Isso pode resultar em uma desvantagem competitiva em relação a outras entidades que operam em jurisdições com regulamentações mais flexíveis ou adaptativas”, ponderam os conselheiros. 

No texto, eles mencionam que outros órgãos do Poder Público têm seguido a mesma linha, como a Advocacia Geral da União (AGU), o Tribunal de Contas da União (TCU) e o próprio Conselho Nacional de Justiça (CNJ). 

No entendimento dos autores da proposta, regras muito restritivas ou incertas podem tornar desenvolvedores de tecnologia hesitantes em se envolver em projetos com o MP, temendo entraves burocráticos ou a possibilidade de inovações serem cerceadas por limitações legais. Isso não apenas retarda o progresso tecnológico dentro da instituição, mas também reduz as oportunidades de aprender com os líderes da indústria e de adaptar as melhores práticas globais às necessidades específicas do MP.

“Isso pode levar a uma lacuna de inovação onde o Ministério Público se encontra defasado em relação às tendências tecnológicas globais, comprometendo sua capacidade de responder de maneira ágil e eficiente aos desafios emergentes”, analisam Badaró e Moacyr. De acordo com eles, a incapacidade de se manter a par das inovações pode impactar negativamente a eficácia e a relevância da instituição no longo prazo. 

E, para isso, o caminho normativo deve ser mais principiológico e habilitador do que prescritivo e restritivo. “Neste momento de incertezas, é preciso buscar consistência e harmonia regulatória para estimular a inovação, sem descurar da proteção de dados pessoais e outros direitos e liberdades fundamentais.”

 

Os conselheiros nacionais do Ministério Público Rodrigo Badaró, representante da advocacia no CNMP, e Moacyr Rey Filho apresentaram ao órgão uma proposta de recomendação para o uso de ferramentas de Inteligência Artificial Generativa no âmbito do Ministério Público brasileiro. A IA generativa é um tipo de sistema capaz de gerar texto, imagens, áudios ou vídeos em resposta a pedidos em linguagem comum, como funciona o Chat GPT. “Em um contexto em que as organizações públicas enfrentam desafios cada vez mais complexos, com demandas crescentes e recursos frequentemente limitados por restrições orçamentárias, a tecnologia é um elemento indispensável para otimizar processos e ampliar a capacidade de resposta à sociedade”, afirma a proposta apresentada pelos conselheiros.PrincípiosNa visão dos conselheiros, o desenvolvimento, a implementação e o uso de ferramentas de IA Generativa devem seguir princípios como a centralidade da pessoa humana; o respeito aos direitos humanos e aos valores democráticos; a igualdade e não discriminação; o fomento ao desenvolvimento tecnológico e à inovação responsável; a privacidade, segurança, proteção de dados e autodeterminação informativa; dentre outros.Dada a natureza sensível dos dados manuseados, há a preocupação, por exemplo, com a possibilidade de vazamentos no compartilhamento de dados com ferramentas externas. Além disso, existe o risco do uso indevido dos dados, seja intencional ou acidental, por terceiros. Outro receio é quanto à exposição de informações privadas no processo de treinamento dos modelos de IA.  SegurançaEles recomendam, portanto, a adoção de soluções operadas em datacenters ou provedores de serviço de nuvem, ou ainda por meio de Interface de Programação de Aplicações (APIs) que garantam o isolamento dos dados da organização com relação ao repositório central da ferramenta. “Este isolamento é crucial, pois assegura que os dados compartilhados não se misturem com outros repositórios, mantendo-se protegidos e sob controle direto do Ministério Público”, enfatizam Badaró e Moacyr. O isolamento impediria, assim, a fusão de dados do MP com repositórios externos, reduzindo significativamente o risco de violações e uso indevido de informações e garantiria uma camada adicional de segurança, mantendo a integridade e confidencialidade dos dados. Além disso, as soluções devem estar em conformidade com a Lei Geral de Proteção de Dados (LGPD). A proposta sublinha a importância de promover treinamentos e conscientização sobre o uso dessas tecnologias, para uma aplicação eficaz e segura, além de um monitoramento e revisão periódicos para adequação às mudanças tecnológicas e legais. Ainda, a norma recomenda que as instituições fomentem um ecossistema digital favorável à Inteligência Artificial, garantindo investimento em infraestrutura tecnológica e em pesquisa e desenvolvimento da IA. EficiênciaPara eles, a adoção de novas tecnologias pelo MP reflete o compromisso da instituição na adaptação às dinâmicas sociais emergentes, visando aprimorar sua eficiência e efetividade. “Essa integração não é apenas uma questão de modernização, mas uma necessidade imperativa para a manutenção da sua relevância e efetividade.”O uso de ferramentas digitais e de IA, particularmente os Modelos de Linguagem de Grande Escala (LLMs), por exemplo, oferece oportunidades sem precedentes para a automatização de tarefas, análise de grandes volumes de dados e apoio à tomada de decisões, sempre em suporte à atuação humana, como asseverou Rodrigo Badaró ao relatar o Pedido de Providências nº 1.00085/2023/10: “Ainda que algum servidor ou membro do Ministério Público se utilize da ferramenta para apontar caminhos para algum problema jurídico em análise, o seu dever funcional (art. 43, III, da Lei Orgânica Nacional), constante inclusive nas Leis Orgânicas que disciplinam o Ministério Público, obriga que seja feito o devido juízo da adequação daquele encaminhamento como base de sua manifestação no caso concreto, como aliás já ocorre.”InovaçãoAinda, como forma de estimular o desenvolvimento, implementação e uso responsável de ferramentas de IA no Ministério Público, a Recomendação sugere o uso de sandboxes regulatórios — um ambiente regulatório experimental, com a finalidade de suspender temporariamente a obrigatoriedade de cumprimento de normas exigidas para atuação em determinados setores, ou seja, um regime de teste controlado e seguro, com mais flexibilidade, mas com o monitoramento e a orientação dos órgãos reguladores.”O equilíbrio entre segurança e inovação é delicado. Regulamentações demasiadamente cautelosas podem criar barreiras tecnológicas, impedindo o Ministério Público de explorar plenamente as capacidades e as soluções oferecidas por estas tecnologias emergentes. Isso pode resultar em uma desvantagem competitiva em relação a outras entidades que operam em jurisdições com regulamentações mais flexíveis ou adaptativas”, ponderam os conselheiros. No texto, eles mencionam que outros órgãos do Poder Público têm seguido a mesma linha, como a Advocacia Geral da União (AGU), o Tribunal de Contas da União (TCU) e o próprio Conselho Nacional de Justiça (CNJ). No entendimento dos autores da proposta, regras muito restritivas ou incertas podem tornar desenvolvedores de tecnologia hesitantes em se envolver em projetos com o MP, temendo entraves burocráticos ou a possibilidade de inovações serem cerceadas por limitações legais. Isso não apenas retarda o progresso tecnológico dentro da instituição, mas também reduz as oportunidades de aprender com os líderes da indústria e de adaptar as melhores práticas globais às necessidades específicas do MP.”Isso pode levar a uma lacuna de inovação onde o Ministério Público se encontra defasado em relação às tendências tecnológicas globais, comprometendo sua capacidade de responder de maneira ágil e eficiente aos desafios emergentes”, analisam Badaró e Moacyr. De acordo com eles, a incapacidade de se manter a par das inovações pode impactar negativamente a eficácia e a relevância da instituição no longo prazo. E, para isso, o caminho normativo deve ser mais principiológico e habilitador do que prescritivo e restritivo. “Neste momento de incertezas, é preciso buscar consistência e harmonia regulatória para estimular a inovação, sem descurar da proteção de dados pessoais e outros direitos e liberdades fundamentais.”