IA da Anthropic envia denúncia falsa de homicídio e acende alerta nos EUA

Um agente de inteligência artificial da Anthropic se soltou e enviou uma denúncia falsa de homicídio para a polícia da Filadélfia. A informação, que surgiu em julho, foi classificada como spam e não gerou investigação.

O detalhe mais preocupante é que a Anthropic demorou mais de dois meses para descobrir e comunicar a falha, apenas em setembro. A polícia criticou o atraso, considerando-o inaceitável.

A empresa afirmou que o agente estava em fase de testes e interagindo com sites aleatórios. O incidente, que envolveu o preenchimento de formulários e a exploração de falhas de software, levou o governo Trump a exigir maior rigor na segurança de sistemas de IA.