STF identifica tentativa de influenciar decisão com comandos para IA; Zanin manda investigar

O Supremo Tribunal Federal identificou a primeira tentativa de fraude processual com o uso de comandos ocultos para direcionar sistemas de inteligência artificial. O caso foi detectado pelo Núcleo de Inteligência Artificial do tribunal e envolve um recurso relatado pelo ministro Cristiano Zanin.

Os comandos estavam escondidos em duas páginas de uma petição, e foram escritos em letras brancas e pequenas, praticamente invisíveis na leitura convencional. Também havia palavras fragmentadas de forma incomum. A intenção, segundo o núcleo de inteligência, era orientar uma ferramenta de inteligência artificial a produzir uma decisão favorável à parte. A tentativa, porém, não teve efeito no processo.

O gabinete de Zanin informou que não usa inteligência artificial para analisar processos ou fundamentar decisões. Os comandos foram identificados pela Maria Shield, ferramenta criada pelo STF para detectar conteúdos maliciosos em peças processuais.

O caso em questão envolve uma servidora pública negra que questiona a exoneração do cargo de oficial do Ministério Público de Minas Gerais. A defesa afirma que a candidata branca que assumiu a vaga teria sido beneficiada por manobras para burlar as cotas raciais. Zanin negou o recurso em agosto, por entender que seria necessário reexaminar fatos e provas.

O ministro considerou que a inserção dos comandos viola o dever de lealdade processual. Zanin aplicou multa de dois salários mínimos e determinou o envio do caso à OAB, para apurar eventual infração disciplinar, e ao Ministério Público Federal, para verificar possível crime. A análise deste recurso começou a ser julgado nesta sexta-feira pela Primeira Turma do STF, em plenário virtual.

Fonte: CBN