400 apps de IA escondiam ferramentas de deepfake sexual nas lojas da Apple e Google

Uma investigação do Wired revelou a existência de uma rede com mais de 400 domínios e aplicativos conectados que se disfarçavam de serviços de IA cotidianos — como editores de fotos de pets, tutores de idiomas e treinadores fitness — para distribuir ferramentas capazes de gerar imagens e vídeos sexualmente explícitos a partir de fotografias reais de pessoas. O trabalho, publicado nesta segunda-feira (2), mostra como desenvolvedores contornaram as revisões das lojas de aplicativos usando técnicas de cloaking sofisticadas e como a infraestrutura compartilhada apontava para uma operação coordenada, possivelmente ligada a desenvolvedores de língua chinesa.

O aplicativo Viefur, por exemplo, aparecia nas lojas como um editor de retratos de animais que transformava fotos de bichos em personagens humanizados. Por trás dessa interface inofensiva, no entanto, pesquisadores encontraram acesso a ferramentas capazes de colocar pessoas em cenários sexualmente explícitos e violentos. As templates incluiam rótulos como "bedroom rape" e "threatening knife" — cenários de agressão sexual e ameaça com arma branca. Segundo a investigação, a rede já circulava há cerca de um ano e tinha passado pela revisão tanto da Apple quanto do Google, apesar de políticas explícitas proibindo conteúdo desse tipo em ambas as plataformas.

Como o cloaking funcionava

A engenhosidade do esquema estava na forma como as apps se comportavam de maneira diferente dependendo de quem as acessava. Ao serem instaladas, os aplicativos entravam em contato com servidores remotos que coletavam informações como idioma do usuário, fonte de referência e um identificador único. O servidor então decidia se mostraria os recursos anunciados ou carregaria uma interface oculta com os geradores de deepfakes explícitos.

Alguém que baixasse o app normalmente não encontraria nada suspeito. Mas quem chegasse através de um anúncio específico no Facebook ou Instagram acessaria a funcionalidade oculta. Os pesquisadores rastrearam milhares de anúncios promovendo deepfakes sexualmente abusivos até apps distribuídos através da App Store e do Google Play. Os anúncios, por sua vez, estavam veiculados principalmente nas plataformas da Meta, incluindo Facebook e Instagram.

Os aplicativos cobravam créditos digitais através do Apple Pay e Google Pay para gerar as imagens abusivas a partir de fotografias enviadas pelos usuários. Vários dos apps tinham avaliações adequadas para todas as idades — o que significa que menores podiam acessá-los sem restrições.

A escala da operação

Paul Bouchaud, pesquisadora principal da organização sem fins lucrativos AI Forensics, descobriu que 27 apps relacionadas estavam ativas no Google Play em setembro e haviam acumulado mais de 350.000 downloads combinados. Um deles, chamado DiffAI, tinha mais de 100.000 downloads na Play Store antes de ser removido pelo Google, logo antes do Wired entrar em contato com a empresa. Uma avaliação de usuário na Play Store declarava explicitamente: "Este aplicativo contém templates para criar material de abuso sexual infantil e outros tipos de material pornográfico. Não faz verificação de idade."

Maël Le Touz, pesquisador de ameaças da empresa de cibersegurança Infoblox, mapeou quase 500 domínios vinculados à rede. Os aplicativos compartilhavam configurações idênticas de JavaScript, chaves de criptografia e rastreadores de publicidade, indicando uma operação coordenada e não uma coleção de desenvolvedores desconexos. A infraestrutura incluía hospedagem chinesa e conexões técnicas com uma empresa registrada em Hong Kong chamada KeLing Technology Limited.

Resposta das plataformas

A Apple removeu 19 aplicativos, incluindo o Viefur, após o Wired compartilhar os detalhes da investigação. Um porta-voz da Apple, Adam Dema, afirmou que os aplicativos cumpriam as regras da App Store durante as avaliações iniciais, mas que os desenvolvedores posteriormente alteraram os websites que alimentavam o conteúdo. Segundo a empresa, ela suspendeu dezenas de milhares de aplicativos no ano anterior por manobras semelhantes de bait-and-switch e endureceu as regras contra ferramentas geradoras de conteúdo abusivo.

O Google removeu a maioria dos títulos sinalizados antes mesmo de ser contactado diretamente pelo Wired, mas não respondeu à solicitação de comentário. A Meta, por sua vez, disse que já havia banido a KeLing Technology Limited em 2025, após enviar uma carta de cessar e desistir. Após receber o dossiê dos pesquisadores, a plataforma agiu contra 11.600 contas de anúncios, cerca de 4.700 páginas de negócios e bloqueou 209 aplicativos em sua plataforma de publicidade.

Por que isso importa

O caso expõe uma falha estrutural no ecossistema de apps: as plataformas de lojas digitais avaliam o aplicativo no momento da instalação, mas a geração de conteúdo abusivo acontece em servidores remotos que só são acessados sob condições específicas. Isso significa que o review da Apple e do Google, por mais rigoroso, não consegue inspecionar código hospedado remotamente — e desenvolvedores mal-intencionados sabem disso.

A questão não é apenas técnica, mas de impacto social. Ferramentas que geram deepfakes sexuais sem consentimento são reconhecidas por pesquisadores de direitos digitais como uma das formas mais danosas de abuso tecnológico, com efeitos devastadores sobre as vítimas, muitas vezes menores de idade. A presença de templates com nomes como "bedroom rape" em aplicativos disponíveis em lojas oficiais levanta dúvidas sérias sobre a eficácia dos mecanismos de contenção atuais.

Ainda que a Apple e o Google tenham removido os aplicativos após a reportagem, o Wired relatou que campanhas promocionais semelhantes e apps espelhados continuavam surgindo nas plataformas enquanto a reportagem era concluída — o que sugere que o problema é sistêmico e a remoção é um jogo de gato e rato que tende a se perpetuar.

Fontes: Wired, AppleInsider, Silicon Report

✓ Fontes independentes cruzadas e verificadas antes da publicação