Juiz do CNJ alerta que IA pode ser manipulada para vazar dados sigilosos da Justiça

Reação do Judiciário e regulamentação

Frente a essa ameaça, o CNJ criou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA), visando monitorar e mitigar riscos de manipulação dessas ferramentas.

O presidente do Superior Tribunal de Justiça (STJ), ministro Luis Felipe Salomão, relatou que sua corte detectou 116 casos suspeitos de comandos ocultos, com 40 confirmados após análise.

Além do monitoramento, o CNJ estabelece regras para o uso da IA no Judiciário, permitindo sua utilização para tarefas como resumo de documentos e organização de provas, mas proibindo que as etapas decisórias centrais do julgamento sejam delegadas a sistemas automatizados.

Desafios em segurança e transparência

Especialistas destacam que o risco de vazamento de dados depende também das permissões concedidas aos agentes e da segurança dos ambientes digitais onde operam. Atos como phishing, por meio de páginas falsas, representam outras ameaças ao sistema.

Há ainda preocupações quanto ao uso de plataformas comerciais de IA, como ChatGPT e Claude, devido a potenciais conflitos de interesse e dificuldades em fiscalização, já que essas ferramentas são amplamente utilizadas por magistrados e servidores, muitas vezes sem registro formal de seu uso.

Fiscalização e controle

Embora a resolução do CNJ exija registro interno do uso da IA na redação de atos judiciais, não há obrigação de informar às partes dos processos, o que pode limitar a transparência.

As corregedorias nos tribunais acompanham o uso individual, enquanto o CNJ atua na supervisão institucional, mas ambos os mecanismos ainda estão em aprimoramento, principalmente diante da utilização desses sistemas em dispositivos pessoais dos magistrados.

Esse cenário impõe ao Judiciário a necessidade de investir em cibersegurança robusta e estabelecer controle rigoroso sobre o uso da inteligência artificial para garantir a proteção dos dados judiciais e a integridade dos processos.