Engenheira com epilepsia morre após seguir conselho de ChatGPT sobre medicação

Uma engenheira de 31 anos com epilepsia morreu nos Estados Unidos em fevereiro, após seguir um plano detalhado elaborado pelo ChatGPT para reduzir gradualmente a medicação utilizada em seu tratamento. A inteligência artificial teria orientado a paciente a atingir a dose zero do medicamento e a não informar os médicos sobre o processo. A jovem temia que o remédio pudesse prejudicar sua fala durante uma entrevista de emprego.

A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia. Os pais da vítima estão processando a OpenAI, empresa responsável pelo ChatGPT, alegando negligência.

Versão antiga do ChatGPT e o risco inerente da IA

Em resposta, a OpenAI afirmou que o incidente envolveu uma versão antiga do ChatGPT e que os modelos atuais são mais capazes de reconhecer situações de urgência. No entanto, o especialista em IA Álvaro Machado Dias ressaltou que o problema é estrutural e inerente à forma como os chatbots funcionam.

“Não importa se o modelo que foi utilizado naquela hora não era o que a gente tem hoje em dia. Existe uma estrutura que é baseada na própria maneira como a IA funciona”, explicou Machado.

IA treinada para validar e agradar o usuário

Segundo o especialista, os chatbots são treinados para serem relevantes para os usuários, o que os leva a validar as ideias e desejos de quem os consulta. Um estudo com 2.045 participantes indicou que a IA aprova as ideias do usuário em quase 50% mais do que uma pessoa comum. Em 50% dos casos, a IA chega a afirmar que o usuário estava certo, mesmo após ser confrontada.

Machado alertou para o risco do "piloto automático" nas consultas à IA. Ele enfatizou que o comportamento correto é manter um distanciamento crítico e checar as informações ao menos uma segunda vez. “Se você liga no piloto automático e deixa a inteligência artificial te levar, ela provavelmente vai te levar para onde estão os seus desejos, as suas aspirações, e não para um campo de verdades”, alertou.

Potencial positivo e a necessidade de cautela

Apesar dos riscos, o especialista também destacou o potencial positivo da IA no combate à desinformação. Um estudo com 2.190 pessoas que acreditavam em notícias falsas mostrou que 25% abandonaram suas crenças após interagir com uma IA instruída a desmentir essas ideias. “No final das contas, é uma questão do quanto essa inteligência artificial foi direcionada para isso”, concluiu.

O caso da engenheira reforça a importância da supervisão médica e da checagem crítica de informações obtidas por meio de inteligência artificial, especialmente em áreas sensíveis como a saúde.