Controles parentais falham em bloquear apps de IA que criam imagens íntimas falsas
Destaques
- •Investigação revela que aplicativos de IA para criar imagens íntimas falsas são acessíveis a adolescentes, mesmo com controles parentais ativados.
- •Apple e Google dependem majoritariamente de classificações etárias fornecidas pelos desenvolvedores, permitindo o acesso a conteúdos inadequados.
- •A Apple anunciou novas regras e o Google suspendeu aplicativos após a divulgação da investigação.
Adolescentes estão conseguindo acesso a aplicativos de inteligência artificial que criam imagens íntimas falsas sem consentimento, mesmo com os controles parentais da Apple e do Google ativados. Uma investigação do Tech Transparency Project, divulgada pelo The Guardian, expôs falhas na classificação etária e na fiscalização das lojas digitais.
Pesquisadores criaram contas de teste para usuários de 13 anos e conseguiram baixar ferramentas capazes de remover digitalmente roupas ou inserir rostos em corpos nus. Um dos aplicativos, que anunciava conteúdo sexual explícito, era indicado para crianças a partir de quatro anos, demonstrando a fragilidade dos sistemas de segurança.
A situação já gerou pânico e confusão, com casos de estudantes tendo suas imagens usadas para criar vídeos pornográficos falsos por colegas de classe. A dependência das empresas nas classificações etárias dos próprios desenvolvedores é um ponto crítico.
Após a divulgação, a Apple anunciou novas regras na App Store, exigindo que desenvolvedores previnam e removam imagens íntimas não consensuais, inclusive as geradas por IA. O Google informou que suspendeu aplicativos que violavam suas regras e restringiu termos de busca relacionados.
