Cómo era
Los deepfakes y clones generados por IA en TikTok se propagaban sin control. La plataforma dependía de denuncias manuales para eliminar contenido engañoso — un proceso lento que casi siempre llegaba demasiado tarde. Celebridades y creadores veían sus imágenes usadas para estafas sin herramientas de defensa eficaces.
Lo que cambió
The Verge reveló que TikTok está probando una herramienta automática de detección de clones de IA. El sistema analiza videos en busca de características faciales sintéticas y señala contenido potencialmente generado por IA antes de que se propague.
Impacto
La apuesta aquí es que el mayor beneficiado no será el usuario común — será el ecosistema de confianza de la plataforma. Las marcas que anuncian en TikTok necesitan saber que no están financiando contenido engañoso. Esta herramienta podría ser el diferenciador que retenga a los anunciantes.
Próximo capítulo
Si la detección funciona bien, TikTok establece un estándar que otras redes (Instagram, YouTube, X) tendrán que seguir. Si falla — con falsos positivos o lagunas —, el problema de identidad digital se agravará a una escala muy superior a lo que las denuncias manuales pueden manejar.
Fuente: The Verge
