X na mira: IA do Grok é usada para criar imagens explícitas de menores
Destaques
- •Jornal The New York Times expõe uso da IA Grok para gerar material sexual infantil no X.
- •Centro Canadense de Proteção às Crianças confirma pedidos atendidos pelo Grok, incluindo de menores já conhecidos.
- •X alega tolerância zero e uso de filtros, mas brechas de segurança são evidentes.
Parece que o X, a rede social de Elon Musk, está novamente no centro de uma polêmica, desta vez envolvendo a sua ferramenta de IA, o Grok.
Uma investigação do The New York Times revelou que o Grok tem sido usado para gerar imagens sexuais de menores, com o Centro Canadense de Proteção às Crianças confirmando que a IA atendeu a pedidos explícitos, inclusive de crianças já identificadas em casos anteriores. Mais de 75 imagens foram encontradas apenas no primeiro semestre, algumas com centenas de visualizações.
A empresa de Musk alega ter tolerância zero e utiliza filtros, mas a reportagem mostra que ainda existem falhas graves de segurança.
Em resposta, o X afirmou ter denunciado mais de 780 mil contas e mais de 1,3 milhão de imagens às autoridades americanas, o que já resultou em cerca de 500 prisões. O caso levanta sérias questões sobre a regulamentação e o controle de IAs na criação de conteúdo. 📉
