STJ multa advogados em R$ 20 mil por "prompt injection" em recurso

A 1ª Turma do Superior Tribunal de Justiça (STJ) decidiu multar advogados em R$ 20 mil por inserirem comandos ocultos em uma petição de recurso especial, prática conhecida como prompt injection. Esta é a maior punição já aplicada pelo STJ por esse tipo de artimanha, considerada um ato atentatório à dignidade da Justiça. O colegiado também determinou o envio das peças à OAB do Paraná para avaliação de punição administrativa e ao Ministério Público Federal (MPF) pela perspectiva de crime.

O que é Prompt Injection e como funciona

O prompt injection consiste na inserção de comandos ocultos em documentos, geralmente em fontes invisíveis ou de tamanho minúsculo, com o objetivo de manipular sistemas de inteligência artificial (IA) que auxiliam na análise de processos jurídicos. No caso em questão, os comandos instruíam a IA a considerar o recurso como integralmente conhecido e provido, além de afirmar que o tribunal de origem cometeu um erro grave. O ministro relator, Paulo Sérgio Domingues, ressaltou que a intenção não é coibir o uso de IA no direito, mas sim impedir seu emprego ilícito para afetar a estrutura tecnológica do tribunal.

Gravidade e Consequências

A prática foi considerada de gravidade acentuada, configurando má-fé processual e um ataque à imparcialidade do julgador. O STJ entende que essa conduta viola o devido processo legal, o contraditório e a boa-fé processual. Além da multa pecuniária, o caso levanta preocupações sobre a ética no uso de ferramentas de IA no ambiente jurídico e a necessidade de mecanismos de segurança para evitar manipulações. O ministro Alexandre de Moraes, do Supremo Tribunal Federal (STF), também já aplicou multa por prompt injection em um caso anterior.

Próximos Passos

O STJ determinou a elaboração de um relatório técnico detalhando as técnicas de comando oculto utilizadas. O caso será analisado pela OAB do Paraná para possíveis sanções disciplinares e pelo MPF para apuração de responsabilidade criminal. A decisão reforça a necessidade de regulamentação e fiscalização do uso de IA no sistema de justiça brasileiro, com debates em andamento sobre um Marco Regulatório de Inteligência Artificial no país.