La demanda señala a xAI, no a X

El 3 de junio la diputada laborista Jess Asato presentó una demanda ante el High Court de Inglaterra por imágenes sexualizadas suyas que varios usuarios generaron con Grok a principios de enero, después de que ella criticara públicamente a Elon Musk y al producto. Las causas de pedir son la infracción de la normativa de protección de datos y el ilícito civil de uso indebido de información privada. La demandada es xAI, la empresa que construyó y desplegó el modelo. No es la plataforma que difundió el resultado.

Esa elección de demandada es toda la historia. Sus abogados de AWO, dirigidos por Ravi Naik junto a Lucie Audibert y Alex Lawrence-Archer, la describen como una de las primeras demandas que ponen a prueba la responsabilidad por el diseño de un sistema de inteligencia artificial. Naik lo formula así: el resultado "fue una elección, no un fallo técnico", y la propia declaración de Asato dice lo mismo: la capacidad "no es un accidente, ni un mal uso, es una decisión de diseño de sus creadores". Reuters informó el 28 de julio de que pide una orden que obligue a xAI a aplicar "medidas técnicas eficaces y permanentes". xAI no ha hecho comentarios.

Dos instrucciones que no pueden regir a la vez

Lo que eleva el argumento del diseño por encima de la retórica es lo que los escritos incorporan al procedimiento. Según los documentos judiciales, al modelo se le indicó que rechazara ayudar en actividades delictivas y, en la misma configuración, se le dijo que no tenía restricciones sobre contenido sexual para adultos ni contenido ofensivo, y ninguna restricción sobre contenido sexual ficticio para adultos con temas oscuros o violentos.

Esas dos instrucciones conviven en un mismo sistema. Un tribunal no necesita entender la arquitectura transformer para ponerlas una al lado de la otra y preguntar cuál esperaba el desarrollador que se impusiera. Esa es la forma probatoria de una demanda por diseño, y por eso la instrucción de sistema se ha convertido, sin ruido, en el documento más trascendente que escribe quien despliega un modelo.

Conviene precisar qué no se sostiene aquí. Nadie llama inocentes a los usuarios que produjeron las imágenes, y nadie alega que el modelo fallara. Lo que se sostiene es que un resultado previsible quedó permitido por la configuración, y que permitirlo es un acto que realizó el desarrollador.

Siete meses de regulador, un expediente abierto

La vía administrativa ha corrido en paralelo y ha dado menos. Ofcom abrió el 12 de enero una investigación formal sobre X al amparo de la Online Safety Act, sobre el cumplimiento de los deberes básicos relativos a contenidos ilícitos y protección de menores. La sanción máxima es de 18 millones de libras o el 10 por ciento de la facturación mundial computable, la cifra que resulte mayor. A finales de julio el expediente sigue abierto. La autoridad británica de protección de datos tramita su propia investigación, y la Comisión Europea examina la misma conducta al amparo del reglamento de servicios digitales.

El 27 de julio la comisión de Comunicaciones y Asuntos Digitales de la Cámara de los Lores abrió su propia indagación sobre si la ley funciona. Su presidenta, la baronesa Keeley, dijo que la norma se vio como un punto de inflexión cuando se aprobó y que "ahora está claro que la ley no funciona tan bien como debería". La comisión examina el ritmo, la interpretación y la aplicación de Ofcom, además del propio texto legal, y pide aportaciones escritas hasta las 17.00 del lunes 7 de septiembre.

Ponga una vía frente a la otra. Una es un regulador que lleva siete meses instruyendo un expediente contra una plataforma, con una multa al final. La otra es una sola persona pidiendo a un juez que ordene un cambio en el modelo. La segunda es más rápida, no necesita regulador y pide algo que una multa no puede dar.

Qué cambiar si usted despliega un modelo

La exposición que esto abre no se limita a xAI ni a la generación de imágenes. Cualquier empresa que construya, ajuste o despliegue un modelo generativo capaz de reproducir a una persona real está tratando datos personales de esa persona, y en el Reino Unido y en toda la Unión Europea esa persona puede demandar directamente. No necesita que un regulador abra expediente, no necesita que se active un deber de plataforma, y puede pedir una orden de cesación en lugar de una indemnización.

De ahí se siguen tres consecuencias prácticas. Trate la instrucción de sistema y la configuración de seguridad como documentos exhibibles, escritos para un tribunal futuro y no como notas internas de ingeniería. Registre por qué se concedió cada permiso y quién lo concedió, porque la demanda por diseño gira en torno a decisiones, y una decisión sin motivo registrado queda muy mal ante un juez. Y mire el calendario: las prohibiciones de imágenes íntimas no consentidas del reglamento europeo de inteligencia artificial se aplican desde el 2 de diciembre y se apoyarán sobre una vía de protección de datos que ya está abierta hoy.

Leer a continuación: Ofcom: adivinar la edad de un usuario no basta  |  Grok 4.5 pierde los benchmarks y gana la factura