Como era
Deepfakes e sósias gerados por IA no TikTok se espalhavam sem controle. A plataforma dependia de denúncias manuais de usuários para remover conteúdo enganoso — um processo lento que quase sempre chegava tarde demais. Celebridades e criadores viam suas imagens sendo usadas para golpes e desinformação sem ferramentas eficazes de defesa.
O que mudou
O The Verge revelou que o TikTok está testando uma ferramenta de detecção automática de sósias de IA. O sistema analisa vídeos em busca de características faciais sintéticas e sinaliza conteúdo potencialmente gerado por IA antes que ele se espalhe. Criadores poderão contestar sósias e solicitar remoção com mais agilidade.
Impacto
A aposta aqui é que o maior beneficiado não será o usuário comum — será o ecossistema de confiança da plataforma. Marcas que anunciam no TikTok precisam saber que não estão financiando conteúdo enganoso. A ferramenta pode ser o diferencial que mantém anunciantes numa plataforma que já enfrenta pressão regulatória global.
Próximo capítulo
Se a detecção funcionar bem, o TikTok estabelece um padrão que outras redes (Instagram, YouTube, X) terão que seguir. Se falhar — com falsos positivos ou lacunas —, o problema de identidade digital vai se agravar numa escala muito maior que as denúncias manuais conseguem alcançar.
Fonte: The Verge
