Sætningen ingen skulle have set

I juni tilføjede en medarbejder i kontoret hos kongresmedlem Anna Paulina Luna, republikaner fra Florida, AI-genereret tekst for at rette et ændringsforslagsresume. Den offentliggjorte version indeholdt stadig ordene "Claude responded", chatbottens eget svar, midt i den offentlige tekst.

Luna erkendte senere åbent, hvad der var sket: hendes team brugte AI til at rette et udkast og redigerede ikke resultatet, før det blev offentliggjort. Fejlen blev offentlig, fordi ingen læste den endelige version grundigt nok til at fange tre ord, der ikke hørte hjemme i et føderalt lovforslag.

Hvorfor Legislative Counsel er overbebyrdet

Episoden er et synligt symptom på et langt større mønster i House Office of Legislative Counsel, de partiuafhængige jurister, der omsætter politiske ideer til lovtekst. Ifølge interviews med otte nuværende og tidligere ansatte, som Politico har rapporteret, går kongreskontorer og eksterne interessegrupper nu i stigende grad direkte til Claude eller ChatGPT for at udarbejde selve lovteksten, før den overdrages til kontoret til gennemsyn.

AI kan generere den tekst langt hurtigere, end noget team af jurister kunne skrive den, hvilket betyder, at kontorets jurister nu bruger betydeligt mere tid på at omskrive mangelfulde udkast, end de nogensinde brugte på at skrive fra bunden, og efterslæbet vokser hver gang et nyt AI-understøttet udkast ankommer med samme type fejl allerede indbygget.

Hvad AI ikke kan bedømme

De rapporterede fejl er ikke slåfejl, de er juridiske kategorifejl, der ændrer, hvordan en lov fungerer, når den først er vedtaget. Gennemlæsere beskrev AI-udkast, der ikke kunne afgøre, om en bevillingspulje juridisk skulle struktureres som skattefradrag, skattenedslag, skattefritagelse eller tilskud, fire instrumenter med forskellige berettigelsesregler, forskellige myndigheder til at håndhæve dem og forskellige konsekvenser for de mennesker, loven skal hjælpe.

Forkert citerede paragraffer og forkerte juridiske definitioner i et lovforslag forbliver ikke på papiret, de kan udløse retssager, forsinke vedtagelsen af en lov eller først blive opdaget, når loven allerede er trådt i kraft, hvor en rettelse kræver et helt nyt lovgivningsforløb.

Den beslutning ethvert team ignorerer

Lærdommen rækker langt ud over Kongressen. Enhver organisation, der har taget generativ AI i brug til juridisk, kontraktuel eller compliance-udarbejdelse, kører det samme eksperiment: værktøjet gør et førsteudkast næsten gratis, og den hastighed presser stille gennemlæsere til at bruge mindre tid på kontrol, netop når kontrol betyder mest.

Episoden i Lunas kontor er den billige udgave af denne fejl, en pinlig, men overlevelig offentlig rettelse. I en kontrakt, en myndighedsindberetning eller en allerede vedtaget lov giver det samme oversprungne kontroltrin en fejl, ingen opdager, før den bliver dyr. Den afgørende beslutning er ikke, om man skal bruge AI til at udarbejde, det er, om kontrollen bevarer samme grundighed, den havde, før udarbejdelse blev gratis.

Læs videre: Google skrottede en næsten færdig AI-model  |  Prompten der styrer din forretning har ingen ejer