IA se torna o novo alvo de bandidos: do Pix à Justiça, o perigo do 'prompt injection'
Destaques
- •Ataques de 'prompt injection' exploram IAs para executar fraudes e burlar a lei.
- •Casos no Pará e no Rio Grande do Sul mostram a migração do crime para o digital.
- •Defesa em camadas e governança de IA são essenciais contra golpes cada vez mais sutis.
Atenção, inteligência artificial! Parece roteiro de filme, mas a verdade é que já temos advogadas sendo multadas e suspensas por instruir IAs a contestar petições de forma superficial, e até mesmo ordens de transferência de R$ 100 mil sendo executadas a partir de descrições de Pix.
O 'prompt injection', onde criminosos manipulam IAs com comandos ocultos ou disfarçados, virou o risco número um para aplicações com inteligência artificial, segundo a OWASP. O ataque não é óbvio; ele pode vir codificado, em outro idioma, ou até mesmo como uma instrução sutil que faz a IA pensar que está agindo corretamente.
A consequência direta é o aumento do crime digital, com golpes migrando das ruas para as APIs, como visto no Rio Grande do Sul, onde o estelionato cresceu mais de 400% desde 2018.
Para se proteger, a recomendação é clara: defesa em camadas. Isso inclui separar a saída da IA da execução de ações, aplicar o privilégio mínimo, exigir aprovação humana para ações de alto risco, tratar todo conteúdo externo como não confiável e registrar cada passo. Ignorar a governança de IA é convidar o desastre. 📉
