Rede de apps para criar nudes falsos é encontrada na App Store e Google Play
Destaques
- •Mais de 400 aplicativos e sites que geram imagens íntimas falsas foram identificados nas lojas oficiais da Apple e do Google.
- •Os programas se disfarçam como ferramentas inofensivas, mas liberam geradores de deepfake explícito após a instalação, levantando preocupações sobre o uso de IA para criar conteúdo pornográfico não consensual.
- •Apple e Google já removeram diversos aplicativos, mas a persistência e o reaparecimento desses programas expõem falhas nos mecanismos de fiscalização das lojas digitais.
Uma rede com mais de 400 aplicativos e sites que oferecem ferramentas para criar imagens falsas de pessoas nuas foi identificada nas lojas oficiais da Apple e do Google. A descoberta, publicada pela revista Wired, amplia as preocupações sobre a circulação de aplicativos que utilizam inteligência artificial (IA) para produzir imagens íntimas sem o consentimento das pessoas retratadas.
Os programas se apresentam como serviços aparentemente inofensivos, simulando ferramentas como editores de fotografias de animais de estimação, plataformas de ensino de idiomas e programas de treinamento físico. Inicialmente, exibem interfaces convencionais, sem indicar que oferecem recursos para produzir conteúdo pornográfico. A mudança ocorre nos bastidores: os aplicativos enviam informações a um servidor externo, que determina se o usuário terá acesso à interface com as funcionalidades de deepfake.
Acesso a geradores de deepfake explícito
De acordo com os pesquisadores responsáveis pela descoberta, não existe um critério definitivo para identificar quais usuários recebem a versão aparentemente segura e quais têm acesso aos recursos explícitos. Um dos mecanismos identificados envolve o download do aplicativo imediatamente após o usuário clicar em um anúncio da Meta que contém imagens deepfake pornográficas. A rede também utilizava anúncios na plataforma para divulgar os programas.
Desenvolvedores e responsabilidade das plataformas
A investigação identificou ligações entre os aplicativos e desenvolvedores chineses, além da empresa KeLing Technology Limited, sediada em Hong Kong. No início de 2026, cerca de 38 aplicativos desse tipo já haviam sido encontrados nas lojas da Apple e do Google, somando 483 milhões de downloads e US$ 122 milhões em receita.
Procurada pela Wired, a Apple afirmou que os aplicativos estavam de acordo com suas regras no momento da aprovação, mas que os desenvolvedores alteraram posteriormente o conteúdo. A empresa também atribuiu a divulgação dos aplicativos a anúncios explícitos veiculados em plataformas de terceiros. O Google, procurado para comentar o caso, ainda não havia apresentado um posicionamento até a publicação do relato.
Limitações na fiscalização
Tanto a Apple quanto o Google já retiraram um número considerável de aplicativos identificados na investigação. A permanência e o reaparecimento desses programas, porém, expõem as limitações dos mecanismos de fiscalização das lojas digitais. Esses mecanismos precisam acompanhar não apenas o conteúdo disponível no momento da aprovação, mas também as mudanças realizadas pelos desenvolvedores depois que os aplicativos chegam aos usuários.
