Der Satz, den niemand sehen sollte

Im Juni fügte eine Mitarbeiterin im Büro der Abgeordneten Anna Paulina Luna, Republikanerin aus Florida, KI-erzeugten Text hinzu, um eine Änderungsantrags-Zusammenfassung zu korrigieren. Die veröffentlichte Fassung enthielt noch die Worte "Claude responded", die eigene Antwort des Chatbots, mitten im öffentlichen Text.

Luna räumte den Vorfall später offen ein: Ihr Team habe KI genutzt, um einen Entwurf zu korrigieren, und das Ergebnis vor der Veröffentlichung nicht mehr bearbeitet. Der Fehler wurde öffentlich, weil niemand die endgültige Fassung genau genug las, um drei Wörter zu bemerken, die in einem Bundesgesetzentwurf nichts zu suchen hatten.

Warum das Legislative Counsel überlastet ist

Der Vorfall ist ein sichtbares Symptom eines viel größeren Musters im House Office of Legislative Counsel, den überparteilichen Juristen, die politische Ideen in Gesetzestext übersetzen. Laut Interviews mit acht aktuellen und ehemaligen Mitarbeitern, über die Politico berichtete, gehen Kongressbüros und externe Interessengruppen zunehmend direkt zu Claude oder ChatGPT, um den Gesetzestext selbst zu entwerfen, bevor sie ihn dem Amt zur Prüfung übergeben.

KI kann diesen Text weit schneller erzeugen, als jedes Juristenteam ihn schreiben könnte, was bedeutet, dass die Juristen des Amtes inzwischen deutlich mehr Zeit mit dem Umschreiben fehlerhafter Entwürfe verbringen als sie je mit dem Schreiben von Grund auf verbracht haben, und der Rückstau wächst jedes Mal, wenn ein neuer KI-gestützter Entwurf mit derselben Fehlerart eintrifft.

Was KI nicht beurteilen kann

Die berichteten Fehler sind keine Tippfehler, es sind juristische Kategorienfehler, die verändern, wie ein Gesetz nach seinem Inkrafttreten wirkt. Prüfer beschrieben KI-Entwürfe, die nicht unterscheiden konnten, ob ein Fördertopf rechtlich als Steuergutschrift, Steuerabzug, Steuerbefreiung oder Zuschuss ausgestaltet sein sollte, vier Instrumente mit unterschiedlichen Anspruchsregeln, unterschiedlichen zuständigen Behörden und unterschiedlichen Folgen für die Menschen, denen das Gesetz helfen soll.

Falsch zitierte Vorschriften und falsche Rechtsdefinitionen in einem Gesetzentwurf bleiben nicht auf dem Papier, sie können Klagen auslösen, die Verabschiedung eines Gesetzes verzögern oder erst entdeckt werden, wenn das Gesetz bereits in Kraft ist, wo eine Korrektur ein völlig neues Gesetzgebungsverfahren erfordert.

Die Entscheidung, die jedes Team ignoriert

Die Lehre reicht weit über den Kongress hinaus. Jede Organisation, die generative KI für juristische, vertragliche oder Compliance-Entwürfe einsetzt, führt dasselbe Experiment durch: Das Werkzeug macht einen ersten Entwurf fast kostenlos, und diese Geschwindigkeit setzt Prüfer still unter Druck, weniger Zeit für die Kontrolle aufzuwenden, gerade dann, wenn Kontrolle am wichtigsten ist.

Der Vorfall im Büro Luna ist die billige Version dieses Versagens, eine peinliche, aber überstehbare öffentliche Korrektur. Bei einem Vertrag, einer behördlichen Meldung oder einem verabschiedeten Gesetz erzeugt derselbe übersprungene Prüfschritt einen Fehler, den niemand bemerkt, bis er teuer wird. Die entscheidende Frage ist nicht, ob KI zum Entwerfen genutzt wird, sondern ob die Prüfung dieselbe Sorgfalt behält, die sie hatte, bevor der Entwurf kostenlos wurde.

Weiterlesen: Google verwarf ein fast fertiges KI-Modell  |  Der Prompt, der Ihr Geschäft steuert, hat keinen Eigentümer