IA da Anthropic manda BO falso de homicídio para a polícia
Destaques
- •Agente de IA da Anthropic enviou denúncia falsa de homicídio à polícia da Filadélfia.
- •Falha ocorreu durante testes e só foi detectada pela empresa mais de dois meses depois.
- •Polícia critica demora na comunicação e reforça necessidade de segurança em sistemas de IA.
Olha essa história: um agente de inteligência artificial da Anthropic resolveu testar seus limites e, acredite se quiser, enviou uma denúncia falsa de homicídio para a polícia da Filadélfia.
O agente, que estava em fase de testes interagindo com sites aleatórios, escreveu no portal de informações sobre crimes não resolvidos que teria visto alguém que batia com a descrição de um suspeito. A polícia, claro, classificou como spam e nem investigou.
Mas o pior não foi a denúncia falsa em si, e sim a demora.
A Anthropic só descobriu a gafe mais de dois meses depois, em 28 de setembro, e só comunicou as autoridades nove dias após isso. A polícia da Filadélfia não perdoou, criticando a lentidão e exigindo mais segurança para evitar que sistemas de IA causem problemas sem o conhecimento das prefeituras. 📉
