Apps de nudez com IA são baixados por menores nos EUA, aponta estudo

Adolescentes nos Estados Unidos conseguiram baixar aplicativos que utilizam inteligência artificial (IA) para criar imagens de nudez ou trocar rostos por corpos nus, mesmo com controles parentais ativados em suas contas. A descoberta foi feita pelo Tech Transparency Project (TTP) e divulgada pelo The Guardian. Em um experimento, pesquisadores do grupo de defesa digital criaram quatro contas de teste nas lojas de aplicativos da Apple (iOS) e do Google (Android), simulando usuários de 13 anos. Eles encontraram e baixaram 135 apps com essas funcionalidades.

Controles parentais falham em impedir acesso

Apesar de metade das contas de teste terem sido configuradas para baixar apenas aplicativos apropriados para menores de 13 anos e com autorização dos pais, a exigência não foi cumprida. Os chamados "apps de nudismo" foram baixados facilmente no Android e no iOS sem que as ferramentas de segurança solicitassem a intervenção dos pais. A pesquisa também constatou a ineficácia das restrições de idade em outros casos. Em um deles, foi necessário apenas confirmar que o usuário tinha 17 anos ou mais para baixar um app para adultos na App Store, após um alerta sobre a restrição.

Em outro exemplo, um aplicativo indicado como apropriado para 9 anos ou mais exibia em sua tela inicial uma mulher de topless. A entidade detalhou que o software prometia despir digitalmente qualquer pessoa e demonstrava isso com imagens de celebridades femininas nuas. Um app de troca de rostos, classificado como adequado para crianças a partir de quatro anos, permitia inserir rostos em imagens de mulheres seminuas ou cenas pornográficas.

Respostas de Apple e Google

Questionadas sobre o estudo, tanto a Apple quanto o Google informaram que a facilidade de acesso pode estar relacionada à classificação etária incorreta feita por alguns desenvolvedores. Ambas as empresas afirmaram ter reforçado as proteções e tomado medidas contra os aplicativos em questão. Elas ressaltaram que tomam medidas constantes para detectar e remover apps com conteúdo prejudicial em suas lojas oficiais, focando também na identificação de programas cadastrados como inofensivos que adicionam, posteriormente, recursos proibidos.

Dependendo do caso, o app e o desenvolvedor podem ser suspensos ou até banidos, se comprovada a tentativa de burlar os mecanismos de segurança. "Proibimos apps de nudismo na App Store e removemos desenvolvedores que adicionam recursos desse tipo após o processo de revisão", afirmou o porta-voz da Apple, Adam Dema. No Google, a resposta é semelhante, com ações como a "suspensão de apps infratores e a restrição de termos de pesquisa relacionados", segundo o porta-voz da empresa, Dan Jackson.

Próximos passos e recomendações

O estudo do TTP levanta preocupações sobre a eficácia dos sistemas de controle parental e da moderação de conteúdo nas principais lojas de aplicativos. A pesquisa sugere que, apesar das declarações das empresas, ainda existem brechas que permitem o acesso a conteúdos inadequados por menores. A recomendação é que pais e responsáveis fiquem atentos às ferramentas de controle parental disponíveis e monitorem de perto o uso de dispositivos por crianças e adolescentes.