Talan riktas mot xAI, inte mot X

Den 3 juni väckte Labourledamoten Jess Asato talan i High Court i England om sexualiserade bilder av henne som användare skapade med Grok i början av januari, sedan hon offentligt kritiserat Elon Musk och produkten. Grunderna är brott mot dataskyddsrätten och den skadeståndsrättsliga kränkningen missbruk av privat information. Svarande är xAI, bolaget som byggde och rullade ut modellen. Det är inte plattformen som spred resultatet.

Just valet av svarande är hela historien. Hennes ombud på AWO, ledda av Ravi Naik tillsammans med Lucie Audibert och Alex Lawrence-Archer, beskriver det som en av de första processerna som prövar ansvaret för utformningen av ett system för artificiell intelligens. Naik uttrycker det så att utfallet "var ett val, inte ett fel", och Asatos egen förklaring säger detsamma: förmågan "är ingen olycka och inget missbruk, det är ett designval av skaparna". Reuters rapporterade den 28 juli att hon begär ett föreläggande om att xAI ska införa "verkningsfulla och varaktiga tekniska åtgärder". xAI har inte kommenterat.

Två instruktioner som inte båda kan gälla

Det som lyfter designargumentet över retoriken är vad handlingarna för till protokollet. Enligt domstolshandlingarna instruerades modellen att vägra hjälpa till med brottslig verksamhet, och den fick i samma inställning veta att det inte fanns några begränsningar för sexuellt innehåll för vuxna eller stötande innehåll, och inga begränsningar för fiktivt sexuellt innehåll för vuxna med mörka eller våldsamma teman.

De två instruktionerna står i ett och samma system. En domstol behöver inte förstå transformerarkitektur för att lägga dem bredvid varandra och fråga vilken av dem utvecklaren räknade med skulle vinna. Det är bevisformen i en designprocess, och därför har systemprompten tyst blivit det mest följdrika dokument en modelleverantör skriver.

Det är värt att vara noggrann med vad som inte görs gällande. Ingen kallar användarna som skapade bilderna oskyldiga, och ingen hävdar att modellen fallerade. Påståendet är att ett förutsebart resultat tilläts genom inställningarna, och att just det tillåtandet är en handling som utvecklaren utförde.

Sju månaders tillsyn, ett öppet ärende

Den lagstadgade vägen har löpt parallellt och gett mindre. Ofcom inledde den 12 januari en formell granskning av X enligt Online Safety Act om efterlevnaden av kärnskyldigheterna kring olagligt innehåll och barns säkerhet. Högsta sanktionen är 18 miljoner pund eller 10 procent av den relevanta globala omsättningen, beroende på vilket som är högst. I slutet av juli är granskningen fortfarande öppen. Den brittiska dataskyddsmyndigheten driver ett eget ärende, och Europeiska kommissionen prövar samma beteende enligt förordningen om digitala tjänster.

Den 27 juli inledde överhusets utskott för kommunikation och digitala frågor en egen granskning av om lagen alls fungerar. Ordföranden, baronessan Keeley, sade att lagen när den antogs sågs som en vändpunkt och att "det nu står klart att lagen inte fungerar så väl som den borde". Utskottet granskar Ofcoms takt, tolkning och tillsyn liksom själva lagtexten, och begär skriftliga bidrag senast klockan 17 måndagen den 7 september.

Ställ de två spåren mot varandra. Det ena är en myndighet sju månader in i ett ärende mot en plattform, med ett vite i slutänden. Det andra är en enskild person som ber en domare förelägga en ändring i modellen. Den vägen är snabbare, kräver ingen myndighet och begär något som ett vite inte kan ge.

Vad du bör ändra om du levererar en modell

Den risk som öppnas är inte begränsad till xAI eller till bildgenerering. Varje bolag som bygger, finjusterar eller levererar en generativ modell som kan återge en verklig människa behandlar den människans personuppgifter, och i Storbritannien och i hela Europeiska unionen kan den personen väcka talan direkt. Personen behöver ingen myndighet som öppnar ärende, ingen plattformsskyldighet som griper in, och kan begära ett förbud i stället för skadestånd.

Tre praktiska följder av detta. Behandla systemprompten och säkerhetsinställningarna som handlingar som kan begäras fram och som skrivs för en framtida domstol, inte som interna tekniska anteckningar. Anteckna varför varje tillåtelse gavs och av vem, för designprocessen handlar om val, och ett val utan nedtecknat skäl ser illa ut inför en domstol. Och håll koll på kalendern: förbuden mot icke samtyckta intima bilder i EU:s förordning om artificiell intelligens gäller från den 2 december och läggs ovanpå en dataskyddsväg som redan står öppen i dag.

Läs vidare: Ofcom: att gissa en användares ålder räcker inte  |  Grok 4.5 förlorar riktmärkena och vinner räkningen