Preocupada com os riscos, potencialidades, limitações e implicações jurídicas e éticas do uso de ferramentas de Inteligência Artificial no Ministério Público de Mato Grosso do Sul, a Corregedoria-Geral do MPMS publicou nesta terça-feira (19), em Diário Oficial, uma recomendação quanto ao uso seguro da IA entre seus membros.
Conforme o documento assinado pelo Corregedor-Geral do Ministério Público, Helton Fonseca Bernardes, como a recomendação aplica-se ao uso de ferramentas de IA no Ministério Público, o membro do MPMS deverá orientar os servidores, estagiários e demais integrantes da equipe para assegurar a utilização dentro dos padrões da recomendação.
"Especialmente aquelas não homologadas institucionalmente, como soluções abertas, experimentais ou adotadas por iniciativa individual no exercício funcional", expõe o texto em seu primeiro artigo.
É importante esclarecer que, enquanto não há uma regulamentação específica por parte da Procuradoria-Geral de Justiça, tal recomendação aparece apenas com caráter orientador e supletivo.
De olho na IA
Fica claro no texto o reconhecimento do potencial IA para "qualificar e modernizar a atuação institucional", portanto tais ferramentas devem observar os princípios que estão pactuados na Constituição Federal, como: legalidade, impessoalidade, moralidade, eficiência e transparência.
O texto leva em conta o que diz a Lei Geral de Proteção de Dados (Lei nº 13.709/2018, conhecida como LGPD), que já traz diretrizes para o tratamento de dados pessoais, destacando a necessidade de controle das informações que serão processadas nesses sistemas de inteligência artificial.
Quanto à transparência, a recomendação deixa clara a necessidade de ser possível a checagem e a correção dos resultados pelo membro do Ministério Público, ressaltando que essencial a supervisão humana contínua.
"Sendo a decisão final sempre do membro do Ministério Público, não se recomendando a substituição da análise técnico-jurídica por mecanismos automatizados", complementa o trecho do quarto inciso do segundo artigo da recomendação.
IA e segurança de dados
Com um artigo específico, e o mais extenso entre os quatro que compõem a recomendação, a terceira parte desse documento trata exclusivamente das cautelas quanto à segurança da informação.
Nesse sentido, entre os sete incisos, a Corregedoria-Geral recomenda:
- Dar preferência por soluções corporativas ou contratadas que assegurem níveis adequados de confidencialidade, integridade e rastreabilidade das informações processadas, evitando o uso de plataformas gratuitas sem garantias formais de proteção de dados;
- Promover a "anonimização" ou "pseudonimização" de dados pessoais ao se utilizar plataformas abertas, gratuitas ou não homologadas institucionalmente;
- Abster-se de inserir, processar ou compartilhar dados sensíveis ou sigilosos em plataformas de IA abertas, diante da inexistência de garantias formais de proteção e controle das informações;
- Evitar o fornecimento de feedbacks ou qualquer espécie de autorização para que a ferramenta de IA possa utilizar a pesquisa desenvolvida para (re)treinamento do modelo de linguagem;
- Abster-se de utilizar credenciais institucionais, como endereço de e-mail e telefones funcionais como login de acesso às IA não corporativas;
- Evitar que a plataforma de IA escolhida seja utilizada como ferramenta de extração indevida de dados nem represente vetor de risco de ataques cibernéticos aos sistemas ou base de dados institucionais.
- Evitar a instalação de aplicativos de IA em dispositivos institucionais, dando preferência a utilização de navegação web;
Sendo que a IA pode ser empregada como ferramenta de apoio em processos internos, para triagem, organizar e analisar dados, o Ministério Público não recomenda a "utilização autônoma na tomada de decisões administrativas ou judiciais".
Ou seja, o membro do MPMS precisa revisar e validar de forma crítica os resultados que esses sistemas de IA geram, antes de usá-los para fundamentar manifestações, recomendações ou providências oficiais.
Tudo isso, segundo o texto, é para prevenir que ocorram as chamadas "alucinações", que basicamente são os conteúdos inverídicos ou incorretos que podem ser gerados pelo sistema de inteligência artificial.
"É vedada a delegação de responsabilidade técnico-jurídica à IA, que deve ser utilizada apenas como subsídio complementar, sob supervisão humana, ficando o usuário responsável pelo seu uso indevido", completa o segundo parágrafo do quarto artigo da recomendação.
