Beklagt ist, wer Grok entworfen hat, nicht die Plattform

Die Klage nennt xAI, nicht X

Am 3. Juni reichte die Labour-Abgeordnete Jess Asato beim High Court in England Klage ein, wegen sexualisierter Bilder von ihr, die Nutzer Anfang Januar mit Grok erzeugt hatten, nachdem sie Elon Musk und das Produkt öffentlich kritisiert hatte. Klagegründe sind Verstöße gegen das Datenschutzrecht und die deliktische Verletzung des Privatlebens. Beklagte ist xAI, das Unternehmen, das das Modell gebaut und ausgeliefert hat. Es ist nicht die Plattform, die das Ergebnis verbreitet hat.

Diese Wahl der Beklagten ist die ganze Geschichte. Ihre Anwälte bei AWO, geführt von Ravi Naik zusammen mit Lucie Audibert und Alex Lawrence-Archer, beschreiben den Fall als eine der ersten Klagen, die die Haftung für den Entwurf eines Systems künstlicher Intelligenz prüfen. Naik formuliert es so, das Ergebnis sei "eine Entscheidung gewesen, keine Panne", und Asatos eigene Erklärung sagt dasselbe: die Fähigkeit "ist kein Unfall und kein Missbrauch, sie ist eine Entwurfsentscheidung ihrer Schöpfer". Reuters berichtete am 28. Juli, sie verlange eine Anordnung, wonach xAI "wirksame und dauerhafte technische Maßnahmen" umsetzen müsse. xAI äußerte sich nicht.

Zwei Anweisungen, die nicht beide gelten können

Was das Entwurfsargument über Rhetorik hinaushebt, ist das, was die Schriftsätze aktenkundig machen. Nach den Gerichtsunterlagen war das Modell angewiesen, Hilfe bei strafbaren Handlungen zu verweigern, und ihm wurde in derselben Konfiguration gesagt, es gebe keine Beschränkungen für sexuelle Inhalte für Erwachsene oder anstößige Inhalte und keine Beschränkungen für fiktive sexuelle Inhalte für Erwachsene mit düsteren oder gewalttätigen Themen.

Diese beiden Anweisungen stehen in einem System. Ein Gericht muss keine Transformer-Architektur verstehen, um sie nebeneinanderzulegen und zu fragen, welche von beiden sich nach dem Willen des Entwicklers durchsetzen sollte. So sieht eine Entwurfsklage beweisrechtlich aus, und deshalb ist der Systemprompt still und leise zum folgenreichsten Dokument geworden, das ein Modellbetreiber schreibt.

Man sollte genau sein, was hier nicht behauptet wird. Niemand nennt die Nutzer, die die Bilder erzeugten, schuldlos, und niemand argumentiert, das Modell habe versagt. Behauptet wird, dass ein vorhersehbares Ergebnis durch Konfiguration erlaubt war und dass dieses Erlauben eine Handlung des Entwicklers ist.

Sieben Monate Aufsicht, ein offenes Verfahren

Der gesetzliche Weg läuft parallel und hat weniger hervorgebracht. Ofcom eröffnete am 12. Januar ein förmliches Verfahren gegen X nach dem Online Safety Act, das die Einhaltung der Kernpflichten zu rechtswidrigen Inhalten und Kinderschutz umfasst. Die Höchststrafe beträgt 18 Millionen Pfund oder 10 Prozent des maßgeblichen weltweiten Umsatzes, je nachdem, welcher Betrag höher ist. Ende Juli ist das Verfahren weiter offen. Die britische Datenschutzbehörde führt eine eigene Untersuchung, und die Europäische Kommission prüft dasselbe Verhalten nach dem Digital Services Act.

Am 27. Juli startete der Ausschuss für Kommunikation und Digitales im Oberhaus eine eigene Untersuchung dazu, ob das Gesetz überhaupt wirkt. Die Vorsitzende, Baroness Keeley, sagte, die Regelung habe bei ihrer Verabschiedung als Wendepunkt gegolten, und "es ist jetzt klar, dass das Gesetz nicht so gut wirkt, wie es sollte". Der Ausschuss prüft Tempo, Auslegung und Durchsetzung durch Ofcom ebenso wie den Gesetzestext und erbittet schriftliche Stellungnahmen bis 17 Uhr am Montag, dem 7. September.

Halten Sie die beiden Wege gegeneinander. Auf der einen Seite eine Behörde, seit sieben Monaten in einem Verfahren gegen eine Plattform, am Ende eine Geldbuße. Auf der anderen eine einzelne Person, die ein Gericht um die Anordnung einer Änderung am Modell bittet. Der zweite Weg ist schneller, braucht keine Behörde und verlangt etwas, das ein Bußgeld nicht leisten kann.

Was zu ändern ist, wenn Sie ein Modell ausliefern

Das damit eröffnete Risiko beschränkt sich weder auf xAI noch auf Bilderzeugung. Jedes Unternehmen, das ein generatives Modell baut, nachtrainiert oder betreibt, das eine reale Person abbilden kann, verarbeitet personenbezogene Daten dieser Person, und im Vereinigten Königreich wie in der gesamten Europäischen Union kann diese Person unmittelbar klagen. Sie braucht keine Behörde, die ein Verfahren eröffnet, sie braucht keine Plattformpflicht, die greift, und sie kann eine Unterlassungsanordnung statt Schadensersatz verlangen.

Daraus folgen drei praktische Konsequenzen. Behandeln Sie Systemprompt und Sicherheitskonfiguration als vorlagepflichtige Dokumente, die für ein künftiges Gericht geschrieben werden, nicht als interne technische Notizen. Halten Sie fest, warum jede Freigabe erteilt wurde und von wem, denn die Entwurfsklage dreht sich um Entscheidungen, und eine Entscheidung ohne festgehaltenen Grund macht vor Gericht einen schlechten Eindruck. Und achten Sie auf den Kalender: Die Verbote nicht einvernehmlicher intimer Darstellungen im europäischen KI-Gesetz gelten ab dem 2. Dezember und legen sich über einen Datenschutzweg, der heute schon offen steht.

Weiterlesen: Ofcom: Das Alter zu erraten genügt nicht  |  Grok 4.5 verliert die Benchmarks, gewinnt die Rechnung