OpenAI restringe ChatGPT sobre armas e violência, com foco em adolescentes

A OpenAI anunciou na sexta-feira (30) novas restrições para o ChatGPT sobre temas como armas de fogo e violência. As mudanças visam aprimorar a segurança da plataforma, com limites adicionais para adolescentes, alterações nas respostas sobre ataques em massa e mecanismos para identificar conversas que possam indicar risco real de violência. A empresa pretende ampliar a comunicação de situações consideradas ameaçadoras às autoridades.

As novas regras abrangem todos os usuários, mas preveem proteções específicas para menores de 18 anos. A OpenAI informou que realizou mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026 em casos avaliados como ameaças potencialmente graves. Para analisar situações complexas, a empresa conta com especialistas em saúde mental e comportamento, além de considerar a atuação de familiares e órgãos públicos.

Restrições para usuários adultos e ataques em massa

As mudanças não se limitam às contas de adolescentes. O ChatGPT passará a oferecer respostas menos detalhadas sobre ataques em massa já ocorridos e sobre seus responsáveis. O objetivo é evitar que informações disponíveis publicamente sejam reunidas de forma a facilitar a reprodução de atos violentos ou ampliar a notoriedade dos autores. O sistema restringirá reconstruções detalhadas, incluindo informações sobre armas, equipamentos utilizados, como foram obtidos e comparações sobre a dimensão dos danos.

A plataforma ainda permitirá discussões sobre os episódios, seus impactos para vítimas e comunidades, e sinais de risco. A restrição será direcionada a detalhes operacionais que possam contribuir para o planejamento ou execução de novos ataques. Segundo a OpenAI, esse tipo de conteúdo pode transformar os responsáveis pelos ataques em figuras de destaque e fornecer referências que favoreçam a imitação.

Interrupção de conversas e análise de contexto

Outra mudança envolve a análise do contexto das interações. Uma pergunta aparentemente comum pode adquirir outro significado após mensagens anteriores com sinais de intenção violenta. A empresa pretende aprimorar os mecanismos que levam em conta conversas recentes para decidir quando limitar informações que poderiam ser usadas de maneira prejudicial.

Se o sistema identificar sinais de que uma pessoa está obcecada por violência ou pela ideia de ferir gravemente alguém, poderá encerrar automaticamente a conversa. Caso ocorram vários encerramentos pelo mesmo motivo, a conta poderá ser temporariamente suspensa. A OpenAI afirma que continuará ajustando os sistemas para reconhecer sinais de alerta e decidir quando limitar respostas ou interromper conversas.

Proteções adicionais para adolescentes e controles parentais

Para usuários menores de 18 anos, as restrições serão mais abrangentes. Mesmo quando uma pergunta sobre armas parecer inofensiva, o ChatGPT deverá limitar o acesso a determinadas informações práticas que possam ser utilizadas indevidamente. As regras anteriores já proibiam fornecer orientações para planejar ou executar atos violentos e restringiam a ajuda a adolescentes na procura ou obtenção de armas.

Agora, também serão limitadas informações práticas sobre armamentos e sistemas de segurança que possam facilitar a violência, ainda que a conversa não indique uma intenção explícita de causar danos. Adolescentes continuarão podendo usar o ChatGPT para buscar informações sobre prevenção da violência, pedir apoio e encontrar maneiras de se conectar com um adulto de confiança. A OpenAI utiliza um sistema de previsão de idade que considera padrões de comportamento.

Os controles parentais também serão ampliados. Nas contas conectadas, a OpenAI já prevê alertas quando revisores identificam preocupações graves relacionadas à automutilação ou a transtornos alimentares. Pretende implementar notificações aos responsáveis quando uma conta for temporariamente suspensa após conversas repetidas sobre violência. As novas proteções começarão a ser implementadas nas próximas semanas.