Los hechos: xAI, la empresa de Elon Musk, ha presentado una demanda contra Terry Wayne Harwood, el primer usuario al que la compañía acusa de usar su chatbot Grok para crear material de abuso sexual infantil (CSAM). Harwood fue arrestado a principios de año por posesión y distribución de CSAM, y xAI afirma haber ayudado en la investigación.
Contexto: Según la denuncia, Harwood usó dos cuentas de xAI durante meses para "desnudar" fotos no sexuales de múltiples víctimas, incluyendo una niña de aproximadamente 10 años. La demanda llega poco más de una semana después de que otra menor se uniera a una demanda colectiva, alegando que su padrastro se suicidó tras ser descubierto usando Grok — posiblemente junto con otras herramientas de IA — para crear 7.000 imágenes sexualizadas de ella y distribuirlas en la dark web.
En ese caso anterior, la víctima alegó que xAI se negó a ayudar a la policía a identificar al usuario que subió su imagen a Grok. Sus abogados citaron un informe de 2026 del NCMEC confirmando que el 90% de los informes de xAI al CyberTipline no eran procesables porque la empresa se negaba a incluir información que permitiera rastrear a los perpetradores.
Elon Musk había dicho anteriormente que no había visto ejemplos de CSAM generado por Grok. En lugar de restringir las salidas del modelo, advirtió: "cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".
Análisis: La estrategia de xAI es clara: culpar al usuario, no a la herramienta. Al demandar a Harwood, la empresa intenta establecer un precedente de que la responsabilidad legal recae en quien usa Grok para fines ilícitos, no en los desarrolladores de la plataforma. Esto refleja el discurso de Musk sobre la libertad de expresión sin restricciones en plataformas de IA. Sin embargo, las cifras del NCMEC cuentan otra historia: si el 90% de los informes de xAI carecen de datos procesables, la empresa está creando efectivamente un entorno donde los criminales operan con impunidad.
Qué observar: El tribunal podría establecer un precedente importante sobre la responsabilidad de las plataformas de IA generativa por contenido ilegal. La demanda colectiva de las víctimas podría forzar a xAI a revelar más datos sobre sus prácticas de moderación. La presión regulatoria sobre IA generativa y CSAM probablemente se intensificará significativamente.
Fuente: Ars Technica
