Meningen ingen skulle ha sett
I juni lade en medarbetare på kongressledamoten Anna Paulina Lunas kontor, republikan från Florida, till AI-genererad text för att rätta en sammanfattning av ett ändringsförslag. Den publicerade versionen innehöll fortfarande orden "Claude responded", chatbottens eget svar, mitt i den offentliga texten.
Luna erkände senare öppet vad som hänt: hennes team använde AI för att rätta ett utkast och redigerade inte resultatet innan det publicerades. Felet blev offentligt eftersom ingen läste den slutgiltiga versionen noga nog för att upptäcka tre ord som inte hörde hemma i ett federalt lagförslag.
Varför Legislative Counsel är överbelastat
Händelsen är ett synligt symptom på ett mycket större mönster inom House Office of Legislative Counsel, de partipolitiskt obundna juristerna som omsätter politiska idéer till lagtext. Enligt intervjuer med åtta nuvarande och tidigare tjänstemän som Politico rapporterat går kongresskontor och externa lobbygrupper numera allt oftare direkt till Claude eller ChatGPT för att skriva själva lagtexten, innan den lämnas över till kontoret för granskning.
AI kan generera den texten mycket snabbare än något team av jurister kunde skriva den, vilket betyder att kontorets jurister nu lägger betydligt mer tid på att skriva om bristfälliga utkast än de någonsin lade på att skriva från grunden, och eftersläpningen växer varje gång ett nytt AI-understött utkast kommer in med samma sorts fel redan inbyggt.
Vad AI inte kan bedöma
De rapporterade felen är inga slarvfel, de är juridiska kategorifel som förändrar hur en lag fungerar när den väl trätt i kraft. Granskare beskrev AI-utkast som inte kunde avgöra om en anslagspott juridiskt skulle utformas som skattekredit, skatteavdrag, skatteundantag eller bidrag, fyra instrument med olika behörighetsregler, olika myndigheter som tillämpar dem och olika konsekvenser för de människor lagen är tänkt att hjälpa.
Felciterade lagparagrafer och felaktiga juridiska definitioner i ett lagförslag stannar inte på papperet, de kan utlösa rättegångar, försena antagandet av en lag, eller upptäckas först när lagen redan trätt i kraft, då en rättelse kräver en helt ny lagstiftningsprocess.
Beslutet varje team ignorerar
Lärdomen sträcker sig långt bortom kongressen. Varje organisation som infört generativ AI för juridisk, avtalsmässig eller efterlevnadsrelaterad textproduktion driver samma experiment: verktyget gör ett första utkast nästan gratis, och den hastigheten pressar tyst granskare att lägga mindre tid på kontroll, precis när kontroll betyder som mest.
Händelsen på Lunas kontor är den billiga versionen av detta misslyckande, en pinsam men överlevbar offentlig rättelse. I ett avtal, en myndighetsanmälan eller en redan antagen lag ger samma överhoppade granskningssteg ett fel som ingen upptäcker förrän det blir dyrt. Beslutet som betyder något är inte om man ska använda AI för att skriva, det är om granskningen behåller samma noggrannhet den hade innan skrivandet blev gratis.
Läs vidare: Google skrotade en nästan färdig AI-modell | Prompten som styr ditt företag har ingen ägare
