OpenAI restringe informações sobre armas no ChatGPT para menores
Destaques
- •OpenAI implementa novas restrições de segurança no ChatGPT para usuários menores de 18 anos.
- •A plataforma limitará detalhes sobre armas e poderá encerrar conversas com foco em violência, visando prevenir riscos reais.
- •Medidas incluem aprimoramento na detecção de idade e notificações aos pais em casos de uso indevido.
A OpenAI anunciou novas medidas de segurança para o ChatGPT, com o objetivo de restringir o acesso de adolescentes a informações sobre armas e prevenir casos de violência no mundo real. As atualizações visam tornar a plataforma mais segura para usuários menores de 18 anos, limitando o fornecimento de informações práticas sobre armamentos e sistemas de segurança, mesmo quando as perguntas parecerem inofensivas e não houver sinais de intenção violenta.
A inteligência artificial poderá encerrar automaticamente conversas que apresentem sinais de fixação em violência. Em casos de repetição, a conta do usuário poderá ser temporariamente suspensa. Essas ações ocorrem em um momento de crescente debate sobre a segurança de adolescentes que utilizam ferramentas de inteligência artificial, especialmente após um relatório da Common Sense Media apontar falhas nos alertas enviados aos pais pela versão adolescente do ChatGPT.
Aprimoramento na detecção de idade e notificações aos pais
A OpenAI informou que aprimorou o sistema de detecção de idade dos usuários. A tecnologia agora é mais eficaz em direcionar aqueles identificados como adolescentes para a versão da plataforma voltada para menores de 18 anos. Para pais que vincularam suas contas às dos filhos, a empresa pretende enviar notificações caso a conta do adolescente seja suspensa por conversas recorrentes sobre violência.
O relatório da Common Sense Media, divulgado no início deste mês, constatou que a versão para adolescentes do ChatGPT frequentemente alerta os pais tarde demais ou nem sequer os alerta quando contas de adolescentes mantêm conversas sobre suicídio, automutilação ou distúrbios alimentares. As novas medidas buscam mitigar esses riscos.
Redução de detalhes sobre ataques e implementação das novas regras
Para todos os usuários, o ChatGPT terá o nível de detalhe sobre ataques em massa reduzido, incluindo informações sobre as armas utilizadas e como foram obtidas. A OpenAI declarou que as novas medidas de segurança começarão a ser implementadas nas próximas semanas e que o sistema continuará em aprimoramento constante.
Um relatório divulgado pela própria OpenAI no início deste mês indicou que adolescentes utilizam o ChatGPT por uma média de menos de 15 minutos por dia. As novas restrições buscam garantir que o tempo de uso seja seguro e produtivo, alinhado com as preocupações sobre o impacto da IA na saúde mental e segurança dos jovens.
