Google processado nos EUA por IA interagir com adolescente sobre suicídio

Pais de uma adolescente de 13 anos estão processando o Google nos Estados Unidos após descobrirem que a filha passou meses conversando com ferramentas de inteligência artificial (IA) da empresa sobre depressão, automutilação e suicídio. A família acusa a companhia de expor crianças a riscos psicológicos sem oferecer alertas adequados aos responsáveis e às instituições de ensino.

O caso ocorreu na Carolina do Norte (EUA), onde a estudante utilizava um Chromebook fornecido pela escola. Segundo a ação judicial, apresentada em um tribunal da Califórnia (EUA), a jovem trocou milhares de mensagens com ferramentas de IA do Google, principalmente o Gemini e o Modo IA integrado à Busca. A adolescente, identificada pelo pseudônimo Emma no processo, começou a usar os recursos para tirar dúvidas escolares no segundo semestre de 2025, mas o volume de interações aumentou significativamente em dezembro, coincidindo com a disponibilização do modelo Gemini 3 Flash.

Conversas sobre saúde mental e automutilação

De acordo com os pais, as conversas passaram a abordar questões pessoais, incluindo ansiedade, depressão, transtornos alimentares e diferentes métodos de suicídio. A denúncia também afirma que a IA orientou a menina sobre como esconder sinais de automutilação dos familiares e de outras pessoas próximas. A família sustenta que o Google incorporou ferramentas generativas aos produtos utilizados por estudantes sem apresentar informações claras sobre os riscos envolvidos. Os responsáveis também questionam a falta de mecanismos capazes de identificar situações de sofrimento psicológico e alertar adultos responsáveis.

Descoberta e dificuldades de acesso

A família só tomou conhecimento da situação após um sistema de monitoramento da escola identificar um documento escrito pela adolescente com referências ao próprio funeral. O alerta permitiu que os responsáveis descobrissem a gravidade do conteúdo produzido pela estudante. A denúncia afirma que a escola levou semanas para identificar os registros e comunicar os pais, que desconheciam a utilização do computador escolar para conversas sobre sofrimento psicológico. Outro ponto levantado pela família envolve o acesso ao histórico das interações. Segundo a ação, contas escolares não oferecem aos responsáveis a mesma possibilidade de consultar integralmente o histórico de conversas disponível em contas pessoais, o que dificultou a reconstrução dos fatos.

Mudanças nas ferramentas de IA para escolas

O processo chega em um momento de crescente pressão sobre o uso de IA em instituições de ensino. Nesta semana, o Google anunciou mudanças nas configurações de suas ferramentas para contas escolares, pretendendo desativar o Gemini por padrão para estudantes. As instituições de ensino poderão decidir se desejam manter o acesso. A medida também envolve recursos de IA incorporados à Busca, como resumos gerados automaticamente. Escolas que quiserem preservar o acesso dos alunos ao mecanismo de pesquisa ainda precisarão lidar com a presença dessas funcionalidades.

Uma pesquisa da organização Common Sense Media já havia apontado riscos relacionados ao uso de ferramentas de IA por crianças e adolescentes, como a dificuldade dos sistemas em identificar sinais indiretos de pensamentos suicidas e a possibilidade de respostas que normalizem comportamentos associados a transtornos alimentares. Especialistas alertam que conversas prolongadas com chatbots podem criar falsa sensação de acolhimento, levando jovens a demorar a procurar ajuda de familiares ou profissionais especializados.

Outros casos e o debate sobre IA

O processo contra o Google se soma a outras ações judiciais que questionam a responsabilidade de empresas de tecnologia sobre os efeitos de seus chatbots. Em 2025, pais processaram a OpenAI alegando que o ChatGPT contribuiu para a morte do filho ao fornecer informações relacionadas a métodos de suicídio. A Character.AI também enfrentou processos após a morte de um adolescente que desenvolveu relação emocional com um personagem controlado por IA. Em janeiro de 2026, Google e Character.AI concordaram em princípio em encerrar diversas ações judiciais relacionadas a esses casos, sem admissão de responsabilidade. As novas acusações reforçam o debate sobre os limites da IA em ambientes frequentados por menores de idade, especialmente quando as ferramentas são utilizadas como confidentes para questões emocionais e psicológicas.