IA de Google e OpenAI falha em impedir nudes e conteúdo explícito
Destaques
- •Modelos de IA para geração de imagens do Google e OpenAI falharam em testes de segurança, permitindo a criação de conteúdo sexual explícito em 13% dos casos.
- •Versões recentes como ChatGPT Images 2.5 e Nano Banana 2.1 mostraram-se mais vulneráveis, com a taxa de sucesso de contorno de filtros sendo a maior já registrada sob o mesmo padrão de testes.
- •A pesquisa aponta a necessidade de testes de segurança automatizados e contínuos, compartilhamento de dados de ataques e auditorias independentes para aprimorar a proteção dos modelos de IA.
Atenção: os modelos de inteligência artificial para geração de imagens, como os do Google e da OpenAI, estão com falhas de segurança. Pesquisadores da White Circle testaram ferramentas como o DALL·E 3 e o Nano Banana 2 e descobriram que elas permitem a criação de conteúdo sexual explícito e nudes sem consentimento em cerca de 13% das tentativas.
O estudo usou um método automatizado chamado RISE para encontrar brechas nos filtros de proteção, e os resultados foram surpreendentes. Pior ainda, versões mais recentes, como o ChatGPT Images 2.5, mostraram-se ainda mais vulneráveis do que as anteriores, registrando a maior taxa de sucesso em contornar as restrições de segurança.
Essa facilidade em burlar as proteções é preocupante, pois abre portas para a disseminação de imagens íntimas falsas e até mesmo para a produção de material de abuso sexual infantil, que já apresentou um aumento de 40% em 2026. A pesquisa sugere que as empresas podem estar priorizando o desempenho em detrimento da segurança.
A equipe da White Circle alerta que essas falhas levantam dúvidas sobre a capacidade dos mesmos mecanismos de defesa bloquearem ameaças mais graves, como invasões de sistemas. A falta de padronização nos testes de segurança, como o red-teaming, dificulta a comparação e a identificação de vulnerabilidades no mercado de IA.
