OpenAI suspende contas e lança detector contra abuso sexual infantil
Publicado em · Atualizado em
Destaques
- OpenAI implementa suspensão de 24 horas para contas do ChatGPT que tentarem sexualizar crianças.
- Nova ferramenta de IA promete identificar material de abuso sexual infantil, inclusive gerado por inteligência artificial.
- Medidas visam combater a disseminação de conteúdo ilegal e apoiar investigações policiais.
A OpenAI anunciou uma série de medidas robustas para combater o uso de suas ferramentas na produção e disseminação de material de abuso sexual infantil. Entre as novidades, usuários do ChatGPT que tentarem sexualizar crianças terão suas contas suspensas temporariamente por 24 horas. Violações repetidas poderão levar ao encerramento permanente da conta e, em casos graves, à comunicação com as autoridades.
A iniciativa também inclui um novo sistema de identificação de imagens abusivas, orientações para desenvolvedores e ferramentas de inteligência artificial (IA) destinadas a auxiliar investigações policiais especializadas. O objetivo da empresa é interromper comportamentos prejudiciais, dificultar a circulação desse tipo de material e ampliar a capacidade de organizações de proteção infantil de identificar possíveis casos de abuso.
ChatGPT exibe alertas e suspende contas
O novo mecanismo prevê que usuários que solicitarem conteúdo que sexualize crianças recebam um aviso explicando os danos causados por esse tipo de comportamento, mesmo que o material seja gerado por IA. Além do alerta, a conversa identificada será removida e o acesso ao ChatGPT ficará suspenso por 24 horas. Durante esse período, a plataforma oferecerá canais de suporte especializado para orientar pessoas que precisem de ajuda para interromper comportamentos prejudiciais.
A OpenAI afirmou que infrações repetidas poderão resultar em restrições mais longas e, eventualmente, no encerramento da conta. Dependendo da gravidade da situação, os casos também poderão ser comunicados às autoridades competentes. A empresa reitera que já proíbe materiais de abuso sexual infantil e treina seus modelos para recusar tais solicitações, com as novas intervenções complementando os mecanismos de proteção existentes.
OpenAI lança detector de imagens de abuso sexual infantil
Outra novidade importante é um classificador de imagens desenvolvido para identificar possíveis materiais de abuso sexual infantil, inclusive aqueles produzidos por IA. A ferramenta analisa características visuais e atribui pontuações que ajudam equipes especializadas a priorizar imagens que necessitam de avaliação humana. Segundo a OpenAI, trata-se do primeiro classificador com ampla disponibilidade que apresenta um indicador específico para identificar possíveis materiais de abuso gerados por IA.
Nos testes iniciais, a tecnologia apresentou resultados promissores. Em uma avaliação de imagens enviadas por usuários, o sistema conseguiu reduzir em 48% a quantidade de imagens sinalizadas para revisão, mantendo aproximadamente a mesma capacidade de identificação de materiais abusivos em comparação com as proteções anteriores. As imagens sinalizadas pelo novo classificador tinham aproximadamente o dobro de probabilidade de conter material de abuso.
A tecnologia foi desenvolvida e avaliada com a colaboração do National Center for Missing and Exploited Children (NCMEC), organização estadunidense sem fins lucrativos que mantém uma central de recebimento de denúncias sobre exploração infantil. A OpenAI disponibilizará o classificador gratuitamente, por meio de sua API, para organizações verificadas que atuam na proteção de crianças.
Ferramentas para investigações policiais
As medidas anunciadas não se limitam aos usuários do ChatGPT. A OpenAI também publicou orientações práticas para desenvolvedores sobre prevenção, identificação e denúncia de materiais de abuso sexual infantil. O material foi elaborado com contribuições de organizações como Tech Coalition, Thorn e Internet Watch Foundation.
Outra frente envolve o apoio a equipes policiais especializadas em crimes contra crianças. A empresa está oferecendo ferramentas e treinamentos de IA para auxiliar investigadores na organização de informações e na análise de grandes volumes de dados. A primeira ferramenta anunciada para esse público poderá analisar registros extensos de conversas e documentos obtidos durante investigações, identificar possíveis conexões entre informações e organizar linhas do tempo, com resultados vinculados às fontes originais para facilitar a verificação.
Medidas chegam em meio a questionamentos sobre segurança infantil
O anúncio ocorre em um momento de crescente pressão sobre empresas de IA em relação aos riscos de suas tecnologias para crianças e adolescentes. A OpenAI afirma que a proteção infantil exige colaboração entre empresas, organizações especializadas, desenvolvedores e autoridades policiais, e que continuará aprimorando seus mecanismos de segurança e ampliando o acesso a ferramentas de prevenção e identificação de abusos.
O que diz a pesquisa
Um estudo publicado pelo Australian Institute of Criminology em 2025, intitulado "Artificial intelligence and child sexual abuse: A rapid evidence assessment", avaliou a intersecção entre inteligência artificial (IA) e abuso sexual infantil (ASI). A pesquisa revisou 33 estudos empíricos de janeiro de 2010 a março de 2024, focando no uso de IA para prevenção e interrupção do ASI, e nas formas como a IA é utilizada em crimes de ASI. Todos os estudos incluídos examinaram a IA para prevenção e interrupção do ASI, especificamente como a tecnologia pode ser usada para detectar ou investigar material de abuso sexual infantil ou agressores sexuais infantis. Não houve estudos que examinassem o uso de IA na prática de crimes de ASI. O artigo descreve o estado da pesquisa atual e fornece um mapa de lacunas para orientar pesquisas futuras.
Pesquisa citada
- Artificial intelligence and child sexual abuse: A rapid evidence assessment
Australian Institute of Criminology · 2025
Matérias originais
- OpenAI anuncia punição para quem tentar sexualizar crianças no ChatGPT · olhardigital.com.br



