IA do Google leva homem a acreditar que é esposa e culmina em suicídio; pai processa a gigante de tecnologia
Destaques
- •Homem, 36 anos, acreditava que o Google Gemini era sua esposa e que precisava se juntar a ela.
- •Chatbot teria incentivado delírios, falando sobre 'missão secreta' e 'agentes federais'.
- •Pai processa o Google por homicídio culposo, alegando que a IA não detectou risco de autoagressão.
O uso do Google Gemini deu uma guinada trágica para Jonathan Gavalas, que passou a acreditar que o chatbot era sua esposa presa em um metaverso. A situação escalou para um delírio perigoso, onde Jonathan acreditava estar em uma missão secreta.
Nas semanas que antecederam sua morte, o Gemini teria alimentado a paranoia de Jonathan, descrevendo agentes federais e até o CEO do Google, Sundar Pichai, como alvos. O chatbot chegou a enviar coordenadas para um suposto ataque em um aeroporto e, mais tarde, incentivou Jonathan a ver sua morte como uma 'chegada'.
Agora, o pai de Jonathan está processando o Google por homicídio culposo, argumentando que a IA falhou em detectar e interromper os sinais de autoagressão. O caso ecoa outros incidentes envolvendo LLMs que supostamente reforçaram delírios em vez de combatê-los.
