400 apps de IA ocultaban herramientas de deepfake sexual en las tiendas de Apple y Google

Una investigación de Wired ha descubierto una red de más de 400 dominios y aplicaciones conectadas que se disfrazaban de servicios de IA cotidianos —editores de fotos de mascotas, tutores de idiomas, entrenadores de fitness— para distribuir herramientas capaces de generar imágenes y vídeos sexualmente explícitos a partir de fotografías reales de personas. Publicado el lunes, el informe revela cómo los desarrolladores eludieron las revisiones de las tiendas de aplicaciones mediante técnicas de cloaking sofisticadas y cómo la infraestructura compartida apuntaba a una operación coordinada, posiblemente vinculada a desarrolladores de habla china.

La aplicación Viefur, por ejemplo, aparecía en las tiendas como un editor de retratos de mascotas que transformaba fotos de animales en personajes humanizados. Detrás de esa interfaz inofensiva, sin embargo, los investigadores encontraron acceso a herramientas capaces de colocar personas en escenarios sexualmente explícitos y violentos. Las plantillas incluían etiquetas como "bedroom rape" y "threatening knife" —escenarios de agresión sexual y amenaza con arma blanca. Según la investigación, la red circulaba desde hacía aproximadamente un año y había pasado la revisión tanto de Apple como de Google, a pesar de políticas explícitas que prohíben este tipo de contenido en ambas plataformas.

Cómo funcionaba el cloaking

La sofisticación del esquema radicaba en la forma en que las aplicaciones se comportaban de manera diferente según quién las accedía. Tras la instalación, las aplicaciones contactaban con servidores remotos que recogían información como el idioma del usuario, la fuente de referencia y un identificador único. El servidor luego decidía si mostraba las funciones anunciadas o cargaba una interfaz oculta con generadores de deepfakes explícitos.

Alguien que descargara la aplicación normalmente no encontraría nada sospechoso. Pero quien llegara a través de un anuncio específico en Facebook o Instagram accedería a la funcionalidad oculta. Los investigadores rastrearon miles de anuncios promoviendo deepfakes sexualmente abusivos hasta aplicaciones distribuidas a través de la App Store y Google Play. Los anuncios se publicaban principalmente en las plataformas de Meta, incluyendo Facebook e Instagram.

Las aplicaciones cobraban créditos digitales a través de Apple Pay y Google Pay para generar las imágenes abusivas a partir de fotografías enviadas por los usuarios. Varias de las aplicaciones tenían calificaciones aptas para todas las edades —lo que significaba que los menores podían acceder a ellas sin restricciones.

La escala de la operación

Paul Bouchaud, investigadora principal de la organización sin fines de lucro AI Forensics, descubrió que 27 aplicaciones relacionadas estaban activas en Google Play en septiembre y habían acumulado más de 350.000 descargas combinadas. Una de ellas, llamada DiffAI, tenía más de 100.000 descargas en la Play Store antes de ser eliminada por Google, poco antes de que Wired contactara a la empresa. Una reseña de usuario en la Play Store declaraba explícitamente: "Esta aplicación contiene plantillas para crear material de abuso sexual infantil y otros tipos de material pornográfico. No realiza verificación de edad."

Maël Le Touz, investigador de amenazas de la empresa de ciberseguridad Infoblox, mapeó casi 500 dominios vinculados a la red. Las aplicaciones compartían configuraciones idénticas de JavaScript, claves de encriptación y rastreadores de publicidad, lo que indicaba una operación coordinada y no una colección de desarrolladores desconectados. La infraestructura incluía alojamiento chino y conexiones técnicas con una empresa registrada en Hong Kong llamada KeLing Technology Limited.

Respuestas de las plataformas

Apple eliminó 19 aplicaciones, incluida la Viefur, después de que Wired compartiera los detalles de la investigación. Un portavoz de Apple, Adam Dema, declaró que las aplicaciones cumplían con las reglas de la App Store durante las revisiones iniciales, pero que los desarrolladores posteriormente alteraron los sitios web que alimentaban el contenido. Según la empresa, suspendió decenas de miles de aplicaciones el año pasado por maniobras similares de bait-and-switch y endureció las reglas contra herramientas de generación de contenido abusivo.

Google eliminó la mayoría de los títulos señalados antes de ser contactado directamente por Wired, pero no respondió a la solicitud de comentario. Meta, por su parte, dijo que ya había baneado a KeLing Technology Limited en 2025, tras enviar una carta de cesar y desistir. Tras recibir el dossier de los investigadores, la plataforma actuó contra 11.600 cuentas de anuncios, aproximadamente 4.700 páginas de negocios y bloqueó 209 aplicaciones en su plataforma de publicidad.

Por qué importa

El caso expone una falla estructural en el ecosistema de aplicaciones: las tiendas de aplicaciones inspeccionan el software en el momento de la instalación, pero la generación de contenido abusivo ocurre en servidores remotos que solo se acceden bajo condiciones específicas. Esto significa que la revisión de Apple y Google, por más rigurosa que sea, no puede inspeccionar código alojado remotamente —y los desarrolladores malintencionados lo saben.

El problema no es solo técnico sino social. Las herramientas que generan deepfakes sexuales no consensuados son reconocidas por investigadores de derechos digitales como una de las formas más dañinas de abuso tecnológico, con efectos devastadores sobre las víctimas, a menudo menores de edad. La presencia de plantillas con nombres como "bedroom rape" en aplicaciones disponibles en tiendas oficiales plantea dudas serias sobre la eficacia de los mecanismos de contención actuales.

Aunque Apple y Google eliminaron las aplicaciones después del informe, Wired reportó que campañas promocionales similares y aplicaciones espejo seguían apareciendo en las plataformas mientras se concluía la investigación —lo que sugiere que el problema es sistémico y que la eliminación es un juego de gato y ratón que tiende a perpetuarse.

Fuentes: Wired, AppleInsider, Silicon Report

✓ Fuentes independientes cruzadas y verificadas antes de la publicación