Caso brasileiro de comando oculto em IA repercute nos EUA

Um juiz estadual de Connecticut, nos Estados Unidos, citou um caso brasileiro ao punir um autor que inseriu mensagens ocultas em documentos judiciais. As instruções tentavam direcionar qualquer ferramenta de inteligência artificial que analisasse as petições a produzir respostas favoráveis.

A Veja destacou nesta quinta-feira (15) a referência ao episódio brasileiro. A Reuters consultou a decisão assinada em 6 de agosto pelo juiz Walter Spader Jr. e confirmou que o texto estava em letras muito pequenas e brancas, invisível para leitores humanos, mas legível por programas que extraem conteúdo de arquivos.

A técnica é chamada de prompt injection, ou injeção de comandos. Ela ocorre quando alguém esconde instruções dentro de um conteúdo para fazer um sistema de IA ignorar sua tarefa original e obedecer a ordens inseridas por terceiros.

No processo norte-americano, Matthew Elliott representava a si próprio e afirmou que pretendia auditar os mecanismos de revisão da Justiça. O magistrado entendeu, porém, que ocultar ordens destinadas a favorecer uma das partes demonstrava finalidade imprópria.

Texto oculto acionou alerta

As mensagens determinavam que uma eventual IA tratasse como errado um pronunciamento anterior da secretaria judicial e produzisse resultado favorável ao autor. O tribunal de Connecticut informou que não usa inteligência artificial para revisar ou decidir os processos.

Mesmo sem interferência concreta em um sistema de decisão, a tentativa levou à aplicação de sanção. Elliott ficou impedido de protocolar documentos eletronicamente e deverá apresentar futuras peças em papel na secretaria da corte.

O juiz observou que não conhecia decisão anterior de tribunal norte-americano voltada diretamente à injeção de comandos em petições. Para demonstrar que o problema já tinha aparecido em outros países, mencionou um processo trabalhista brasileiro.

No Brasil, duas advogadas receberam multa de aproximadamente R$ 84 mil depois que uma petição apresentou instruções ocultas para a ferramenta usada na análise processual. O valor correspondeu a 10% do montante discutido na ação, conforme relato jurídico sobre o caso.

Controles humanos seguem essenciais

O episódio evidencia uma diferença entre usar inteligência artificial como apoio e tentar manipular o sistema por meio de conteúdo invisível. O próprio juiz norte-americano afirmou ter usado ferramentas de IA na preparação da decisão, mas considerou inaceitável a ocultação de comandos.

A extração automática de texto pode capturar elementos que não aparecem visualmente na página, como letras brancas sobre fundo branco ou caracteres em tamanho mínimo. Por isso, tribunais e escritórios precisam verificar tanto a aparência quanto a camada digital dos documentos recebidos.

Medidas técnicas podem bloquear comandos suspeitos, mas não eliminam a necessidade de revisão humana. Regras de integridade processual, registro das entradas analisadas e mecanismos de auditoria ajudam a separar o uso legítimo de automação de tentativas de direcionar respostas.

A repercussão internacional do caso brasileiro mostra que a segurança de sistemas jurídicos com IA deixou de ser uma questão apenas experimental. O desafio é permitir ganhos de eficiência sem transferir a terceiros a capacidade de alterar silenciosamente as instruções que orientam a análise.