Apple proíbe apps com IA para conteúdo ofensivo e pornográfico na App Store

A Apple reforçou, na sexta-feira (16), as diretrizes de segurança da App Store para proibir aplicativos que utilizam inteligência artificial (IA) para produzir conteúdos ofensivos ou material pornográfico com imagens não consensuais. A atualização visa aprimorar a moderação de conteúdo e as exigências de segurança para os aplicativos disponíveis na plataforma.

Em publicação no blog da empresa, a companhia destacou que apps com recursos ocultos ou não documentados também são proibidos. Em 2025, mais de 150 mil aplicativos foram barrados por problemas de segurança, e mais de 193 mil contas de desenvolvedores foram encerradas por fraudes e abusos.

O que muda para os desenvolvedores

As novas diretrizes exigem que aplicativos que hospedam conteúdo gerado por usuários filtrem materiais questionáveis, ofereçam mecanismos para denunciar conteúdos ofensivos e permitam o bloqueio a contas abusivas. A Apple esclarece que aplicativos que alteram suas funcionalidades após a aprovação, incluindo a adição de recursos não presentes na versão analisada, podem ser removidos da App Store e do Programa de Desenvolvedores.

Desenvolvedores que não implementarem salvaguardas adequadas ou não corrigirem violações após notificação correm o risco de ter seus aplicativos removidos da loja. As regras também proíbem aplicativos que facilitam o tráfico de pessoas ou a exploração infantil, incluindo material de abuso sexual infantil.

Segurança e confiança na plataforma

“Queremos que os melhores apps e os desenvolvedores por trás deles tenham sucesso na App Store e, à medida que novos riscos e novas experiências de usuário surgem, aprimoramos nossas Diretrizes de Avaliação de Apps para manter a confiança tanto dos usuários quanto dos desenvolvedores”, afirma a Apple.

A atualização reforça as regras de moderação de conteúdo gerado por usuários e por ferramentas de IA, incluindo a obrigação de prevenir e remover proativamente materiais proibidos. A proibição de aplicativos com funcionalidades ocultas visa garantir que os apps passem por uma análise completa e transparente.

Próximos passos e impacto

A Apple não especificou um prazo para a entrada em vigor das novas diretrizes, mas a comunicação indica uma postura mais rigorosa na fiscalização de aplicativos. A medida busca proteger os usuários de conteúdos prejudiciais e garantir um ambiente seguro na App Store.

A empresa continua aprimorando seus processos de avaliação para se adaptar às novas tecnologias e aos riscos emergentes, como o uso indevido de IA para a criação de conteúdo. O objetivo é manter a integridade da plataforma e a confiança dos usuários e desenvolvedores.