De ontwerper van Grok is gedaagde, niet het platform

De vordering noemt xAI, niet X

Op 3 juni diende het Labour-parlementslid Jess Asato een vordering in bij het High Court in Engeland, over geseksualiseerde beelden van haar die gebruikers begin januari met Grok maakten nadat zij Elon Musk en het product publiekelijk had bekritiseerd. De grondslagen zijn schending van het gegevensbeschermingsrecht en de onrechtmatige daad van misbruik van privégegevens. Gedaagde is xAI, het bedrijf dat het model bouwde en uitrolde. Het is niet het platform dat de uitvoer verspreidde.

Die keuze van gedaagde is het hele verhaal. Haar advocaten bij AWO, onder leiding van Ravi Naik met Lucie Audibert en Alex Lawrence-Archer, noemen het een van de eerste vorderingen die aansprakelijkheid voor het ontwerp van een systeem voor kunstmatige intelligentie toetsen. Naik stelt dat de uitkomst "een keuze was, geen storing", en Asato's eigen verklaring zegt hetzelfde: het vermogen "is geen ongeluk en geen misbruik, het is een ontwerpkeuze van de makers". Reuters meldde op 28 juli dat zij een bevel vraagt waarbij xAI "doeltreffende en blijvende technische maatregelen" moet nemen. xAI heeft niet gereageerd.

Twee instructies die niet allebei kunnen gelden

Wat het ontwerpargument meer dan retoriek maakt, is wat de processtukken vastleggen. Volgens de gerechtelijke documenten kreeg het model de instructie hulp bij strafbare handelingen te weigeren, en werd het in dezelfde configuratie verteld dat er geen beperkingen golden voor seksuele inhoud voor volwassenen of aanstootgevende inhoud, en geen beperkingen voor fictieve seksuele inhoud voor volwassenen met duistere of gewelddadige thema's.

Die twee instructies staan in een systeem. Een rechter hoeft geen transformerarchitectuur te begrijpen om ze naast elkaar te leggen en te vragen welke van beide de ontwikkelaar verwachtte te zien winnen. Dat is de bewijsvorm van een ontwerpvordering, en daarom is de systeemprompt stilletjes het meest ingrijpende document geworden dat een modelaanbieder schrijft.

Het is goed om precies te zijn over wat hier niet wordt gesteld. Niemand noemt de gebruikers die de beelden maakten onschuldig, en niemand betoogt dat het model faalde. Gesteld wordt dat een voorzienbare uitvoer door configuratie werd toegestaan, en dat dat toestaan een handeling van de ontwikkelaar is.

Zeven maanden toezicht, een lopende zaak

De wettelijke route loopt parallel en heeft minder opgeleverd. Ofcom opende op 12 januari een formeel onderzoek naar X onder de Online Safety Act, over naleving van de kernplichten inzake onrechtmatige inhoud en kinderveiligheid. De maximale boete bedraagt 18 miljoen pond of 10 procent van de relevante wereldwijde omzet, afhankelijk van welk bedrag hoger is. Eind juli loopt het onderzoek nog. De Britse privacytoezichthouder heeft een apart onderzoek, en de Europese Commissie beziet hetzelfde gedrag onder de Digital Services Act.

Op 27 juli begon de commissie voor Communicatie en Digitale Zaken van het Hogerhuis een eigen onderzoek naar de vraag of de wet überhaupt werkt. Voorzitter barones Keeley zei dat de wet bij aanname als keerpunt gold en dat "het nu duidelijk is dat de wet niet zo goed werkt als zou moeten". De commissie bekijkt het tempo, de uitleg en de handhaving door Ofcom en ook de wettekst zelf, en vraagt schriftelijke bijdragen tot 17.00 uur op maandag 7 september.

Zet de twee sporen tegenover elkaar. Het ene is een toezichthouder die zeven maanden bezig is met een zaak tegen een platform, met aan het eind een geldboete. Het andere is een enkele persoon die een rechter vraagt een wijziging aan het model te bevelen. Het tweede is sneller, heeft geen toezichthouder nodig en vraagt iets wat een boete niet kan leveren.

Wat te veranderen als u een model uitlevert

Het risico dat hiermee opengaat, blijft niet beperkt tot xAI of tot beeldgeneratie. Elk bedrijf dat een generatief model bouwt, bijtraint of aanbiedt dat een echt persoon kan weergeven, verwerkt persoonsgegevens van die persoon, en in het Verenigd Koninkrijk en in de hele Europese Unie kan die persoon rechtstreeks een vordering instellen. Die persoon heeft geen toezichthouder nodig die een zaak opent, geen platformplicht die intreedt, en kan een verbod vragen in plaats van schadevergoeding.

Daar volgen drie praktische gevolgen uit. Behandel de systeemprompt en de veiligheidsconfiguratie als overlegbare documenten die voor een toekomstige rechter worden geschreven, niet als interne technische notities. Leg vast waarom elke toestemming is verleend en door wie, want de ontwerpvordering draait om keuzes, en een keuze zonder vastgelegde reden staat slecht voor de rechter. En let op de agenda: de verboden op niet-consensuele intieme beelden in de Europese AI-verordening gelden vanaf 2 december en komen boven op een gegevensbeschermingsroute die vandaag al openstaat.

Lees hierna: Ofcom: de leeftijd raden is niet genoeg  |  Grok 4.5 verliest de benchmarks en wint de rekening