IA e a Arte de Enganar: Do Pix ao Judiciário, o Risco é Real
Destaques
- •Ataques de 'prompt injection' são o risco número 1 em aplicações com IA, segundo a OWASP.
- •Casos reais incluem instruções ocultas em petições judiciais e códigos disfarçados em transferências Pix.
- •Fraudes digitais estão crescendo no Brasil, superando crimes de rua, e a IA é a nova ferramenta dos criminosos.
Parece coisa de filme, mas já aconteceu: instruções secretas para IAs escondidas em petições judiciais e até em descrições de transferências Pix. A juíza do Pará achou uma ordem para a IA contestar um processo de forma superficial, e no Rio Grande do Sul, um atacante usou o Grok para autorizar uma transferência de 3 bilhões de tokens.
O problema, batizado de 'prompt injection', é o risco número 1 em aplicações com IA, segundo a OWASP. Criminosos estão cada vez mais espertos em disfarçar comandos maliciosos em textos, códigos ou até em manipulações de contexto que fazem a IA agir de forma errada, pensando que está fazendo a coisa certa.
Para se defender, a dica é clara: separar o que a IA fala do que o sistema executa, aplicar o privilégio mínimo, exigir aprovação humana para ações de risco e tratar todo conteúdo externo como não confiável. A defesa é em camadas, e quem não se ligar, vai descobrir o problema da pior forma. 📉
