OpenAI restringe informações sobre armas para adolescentes no ChatGPT
Destaques
- •OpenAI anuncia novas medidas de segurança para o ChatGPT, focando em restrições de conteúdo sobre armas para menores.
- •A empresa aprimorou a detecção de idade e o encerramento automático de conversas para prevenir violência e notificar pais sobre suspensões.
- •As mudanças visam aumentar a segurança de adolescentes no uso da IA, em resposta a preocupações e relatórios sobre o tema.
A OpenAI anunciou nesta sexta-feira (30) novas medidas de segurança para o ChatGPT, com o objetivo de restringir o acesso de adolescentes a informações sobre armas e prevenir casos de violência no mundo real. As atualizações visam tornar a plataforma mais segura para usuários menores de 18 anos.
Entre as principais mudanças, o ChatGPT passará a limitar ainda mais o fornecimento de informações práticas sobre armas e sistemas de segurança, mesmo quando as perguntas parecerem inofensivas e não houver sinais de intenção violenta. Além disso, a inteligência artificial poderá encerrar automaticamente conversas que apresentem sinais de fixação em violência. Em casos de repetição, a conta do usuário poderá ser temporariamente suspensa.
Aprimoramento na detecção de idade e notificações aos pais
A OpenAI também informou que aprimorou o sistema de detecção de idade dos usuários. A tecnologia agora é mais eficaz em direcionar aqueles identificados como adolescentes para a versão da plataforma voltada para menores de 18 anos. Para pais que vincularam suas contas às dos filhos, a empresa pretende enviar notificações caso a conta do adolescente seja suspensa por conversas recorrentes sobre violência.
Essas ações ocorrem em um momento de crescente debate sobre a segurança de adolescentes que utilizam ferramentas de inteligência artificial. Um relatório recente da organização Common Sense Media apontou falhas nos alertas enviados aos pais pela versão adolescente do ChatGPT, indicando que avisos sobre conversas de risco, como suicídio ou automutilação, frequentemente chegam tarde ou não são enviados.
Redução de detalhes sobre ataques e implementação das novas regras
Para todos os usuários, o ChatGPT terá o nível de detalhe sobre ataques em massa reduzido, incluindo informações sobre as armas utilizadas e como foram obtidas. A OpenAI declarou que as novas medidas de segurança começarão a ser implementadas nas próximas semanas e que o sistema continuará em aprimoramento constante.
Um relatório divulgado pela própria OpenAI no início deste mês indicou que adolescentes utilizam o ChatGPT por uma média de menos de 15 minutos por dia. As novas restrições buscam garantir que o tempo de uso seja seguro e produtivo, alinhado com as preocupações sobre o impacto da IA na saúde mental e segurança dos jovens.
