OpenAI restringe acesso de adolescentes a informações sobre armas no ChatGPT

A OpenAI anunciou novas medidas de segurança para o ChatGPT, com o objetivo de restringir o acesso de adolescentes a informações sobre armas e prevenir a violência. As mudanças, que começam a ser implementadas nas próximas semanas, incluem o encerramento automático de conversas que demonstrem fixação em violência e a suspensão temporária de contas em casos recorrentes.

Para usuários com menos de 18 anos, as restrições serão mais acentuadas, limitando o fornecimento de informações práticas sobre armas e sistemas de segurança, mesmo que não haja intenção violenta aparente. A OpenAI também aprimorou seu sistema de detecção de idade para direcionar adolescentes à versão adequada da ferramenta. Pais com contas vinculadas às dos filhos serão notificados caso a conta do adolescente seja suspensa por conversas sobre violência.

Restrições de conteúdo e segurança para todos os usuários

Além das medidas voltadas para menores, o ChatGPT passará a ter o nível de detalhe sobre ataques em massa reduzido para todos os usuários. Isso inclui informações sobre as armas utilizadas e como foram obtidas. A empresa implementará o encerramento automático de conversas ao identificar sinais de fixação em violência. Em casos de repetição, a conta do usuário poderá ser temporariamente suspensa, conforme a política da OpenAI.

A desenvolvedora do ChatGPT afirmou que o sistema continuará sendo aprimorado e que as novas políticas buscam equilibrar o acesso à informação com a segurança dos usuários mais jovens. A iniciativa surge em meio a discussões sobre a segurança de adolescentes no uso de inteligência artificial.

Contexto e preocupações com o uso por menores

O anúncio ocorre após a divulgação de dados que indicam que adolescentes usam o ChatGPT por menos de 15 minutos por dia, em média. Paralelamente, um relatório da organização Common Sense Media apontou falhas nos alertas enviados pela versão adolescente do ChatGPT. O estudo constatou que os avisos frequentes chegavam tarde demais ou não eram enviados em conversas sobre suicídio, automutilação ou transtornos alimentares.

A preocupação com o uso de IA por menores e a potencial disseminação de informações perigosas tem sido um tema crescente. As novas políticas da OpenAI buscam mitigar esses riscos, garantindo um ambiente mais seguro para os usuários mais jovens.