Juízes contra 'ghostwriting' da IA: Prompt Injection assusta o Judiciário

A inteligência artificial chegou aos tribunais e, com ela, um novo tipo de trapaça: o 'prompt injection'. Advogados mal-intencionados estão escondendo comandos secretos em petições, tentando manipular as IAs para que favoreçam seus clientes.

O truque?

• Escrever instruções em fonte branca, invisível ao olho humano, ou em trechos que pedem para a IA ignorar outros comandos.
• O objetivo é fazer com que a IA defira pedidos, conteste ações de forma superficial ou resuma processos em favor de uma das partes, sem que juízes percebam.

Esses casos já acenderam o alerta no CNJ e em tribunais como o de São Paulo, que agora buscam formas de blindar os sistemas contra essas manipulações e garantir que a tecnologia seja um apoio, e não um atalho para a injustiça.