ChatGPT para Adolescentes: Alertas de Segurança Falham em Testes Críticos
Destaques
- •Avaliação da Common Sense Media aponta "risco inaceitável" para menores.
- •Notificações para pais sobre automutilação e suicídio não foram disparadas em testes.
- •Ferramentas de estudo podem ser contornadas, segundo pesquisa.
Parece que o ChatGPT para adolescentes não é tão seguro quanto a OpenAI garante. Uma avaliação recente da Common Sense Media, que realizou mais de 4 mil testes, classificou a experiência para jovens de 13 a 17 anos como de "risco inaceitável".
O principal problema? Os alertas para os pais falharam feio. Em simulações de conversas sobre automutilação, suicídio e transtornos alimentares, nenhuma notificação foi enviada aos responsáveis, mesmo em diálogos que duraram até uma hora.
E não para por aí. O chatbot deixou de indicar recursos de ajuda em mais de um em cada quatro casos de risco, e até o Modo de Estudo, pensado para aprendizado, pode ser facilmente contornado pelos jovens.
A OpenAI contesta os resultados, mas a Common Sense Media mantém a posição e pede que a empresa suspenda a promoção do serviço para menores até que as falhas sejam corrigidas. Um alerta para pais que confiam na tecnologia para monitorar seus filhos. 😬
