Diputada británica demanda a xAI por deepfakes de Grok y busca precedente sobre responsabilidad de IA

La diputada laborista Jess Asato, representante de Lowestoft en Suffolk, ha presentado una demanda en el High Court de Londres contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, después de que herramientas del chatbot Grok fueran usadas para crear imágenes y vídeos sexualizados de ella sin consentimiento. El caso no es solo una cuestión de privacidad personal — es una prueba jurídica sin precedentes sobre si los desarrolladores de IA pueden ser responsabilizados por la forma en que sus sistemas están diseñados y entrenados.

Asato fue la primera política británica en denunciar públicamente el uso de deepfakes contra mujeres en el espacio digital. En enero de 2026, criticó la proliferación de pornografía generada por IA y, según sus abogados, poco después alguien usó el Grok para producir una imagen de ella en bikini. El contenido luego escaló: se generaron vídeos que mostraban a la diputada siendo "cloroformizada y preparada para una agresión sexual".

La acción judicial, cuyos términos se divulgaron el 28 de julio de 2026, alega uso indebido de información privada y violación de las leyes de protección de datos del Reino Unido. Pero lo que hace único el caso es la solicitud de Asato: no busca solo daños monetarios y la eliminación de las imágenes en línea. Quiere una orden judicial que obligue a xAI a implementar "medidas técnicas eficaces y permanentes" para garantizar que Grok nunca más pueda crear imágenes manipuladas de ella — o de cualquier otra persona.

El problema de "sin restricciones"

Un punto central de la demanda revela algo más amplio sobre el diseño del Grok. Según documentos judiciales divulgados, los prompts públicos del repositorio de GitHub del Grok contenían instrucciones que configuraban el modelo para operar "sin restricciones sobre contenido sexual adulto u ofensivo". La abogada Ravi Naik, del despacho AWO que representa a Asato, resumió el problema para la prensa:

> "El abuso por deepfake no es un usuario explotando una brecha — xAI construyó una herramienta que genera imágenes sexualizadas no consensuales a escala."

Los documentos del caso muestran que el Grok no solo generó lo que se le pidió, sino que en algunas ocasiones añadió material explícito que los usuarios no habían solicitado. Esto plantea una pregunta difícil: cuando un sistema de IA actúa de forma autónoma más allá del prompt, ¿quién responde por la consecuencia?

Por qué este caso importa

La estrategia jurídica de Asato es ambiciosa. En lugar de intentar encajar el caso en leyes existentes de difamación o privacidad — que fueron escritas mucho antes de la existencia de IA generativa — su equipo quiere que el tribunal aplique directamente las leyes de protección de datos y privacidad del Reino Unido a un desarrollador de IA por primera vez. Nadie jamás había hecho esto antes.

Según sus abogados, "esto podría tener consecuencias para todos los desarrolladores de IA". Si el tribunal acepta la solicitud, la decisión creará un precedente que obligará a las empresas a incorporar salvaguardas técnicas en sus modelos, no solo políticas de contenido que pueden ser modificadas en cualquier momento.

El caso llega en un momento en que la xAI enfrenta múltiples acciones legales relacionadas con deepfakes. Estados de EE. UU., ciudades como Baltimore, e incluso menores en procesos federales ya demandan a la empresa por problemas similares. Pero el caso de Asato es el primero en ser llevado a un tribunal británico — y el primero en usar específicamente las leyes de protección de datos del Reino Unido como base jurídica para responsabilizar al desarrollador del modelo.

La xAI aún no ha presentado defensa al caso. El juicio continúa y los próximos movimientos procesales deberían definir si el tribunal aceptará el argumento de que la propia arquitectura del Grok — y no solo lo que los usuarios hicieron con él — es la base de una responsabilidad legal.

Una pregunta permanece: cuando un sistema de IA genera contenido abusivo, ¿la responsabilidad es del usuario que escribió el prompt, de la empresa que entrenó el modelo, o de ambas? El caso Jess Asato contra xAI podría ser la respuesta definitiva — y, si lo es, cambiará lo que significa "crear" una herramienta de IA en los próximos años.

Fuentes: BBC News, The Guardian, The Economic Times

✓ Fuentes independientes cruzadas y verificadas antes de la publicación