De zin die niemand had mogen zien
In juni voegde een medewerkster van het kantoor van Congreslid Anna Paulina Luna, Republikein uit Florida, AI-gegenereerde tekst toe om een amendementssamenvatting te corrigeren. De gepubliceerde versie bevatte nog de woorden "Claude responded", het eigen antwoord van de chatbot, middenin de openbare tekst.
Luna erkende het voorval later ronduit: haar team gebruikte AI om een concept te corrigeren en bewerkte het resultaat niet voor publicatie. De fout werd openbaar omdat niemand de definitieve versie nauwkeurig genoeg las om drie woorden op te merken die niets te zoeken hadden in een federale wettekst.
Waarom het Legislative Counsel overbelast is
Het incident is een zichtbaar symptoom van een veel groter patroon binnen het House Office of Legislative Counsel, de partijloze juristen die beleidsideeën omzetten in wetstekst. Volgens interviews met acht huidige en voormalige functionarissen, gemeld door Politico, gaan Congreskantoren en externe belangengroepen steeds vaker rechtstreeks naar Claude of ChatGPT om de wettekst zelf op te stellen, voordat ze die aan het bureau voor controle overdragen.
AI kan die tekst veel sneller genereren dan enig team juristen die kan schrijven, wat betekent dat de juristen van het bureau nu aanzienlijk meer tijd besteden aan het herschrijven van gebrekkige concepten dan ze ooit besteedden aan het schrijven vanaf nul, en de achterstand groeit elke keer dat een nieuw AI-ondersteund concept binnenkomt met dezelfde soort fout er al in.
Wat AI niet kan beoordelen
De gemelde fouten zijn geen typefouten, het zijn juridische categoriefouten die veranderen hoe een wet werkt zodra die van kracht is. Beoordelaars beschreven AI-concepten die niet konden onderscheiden of een financieringspot juridisch moest worden vormgegeven als belastingkrediet, belastingaftrek, belastingvrijstelling of subsidie, vier instrumenten met verschillende toelatingsregels, verschillende handhavende instanties en verschillende gevolgen voor de mensen die de wet moet helpen.
Verkeerd geciteerde wetsartikelen en onjuiste juridische definities in een wet blijven niet beperkt tot het papier, ze kunnen rechtszaken uitlokken, de goedkeuring van een wet vertragen, of pas ontdekt worden als de wet al van kracht is, waarna herstel een volledig nieuw wetgevingstraject vereist.
De beslissing die elk team negeert
De les reikt ver voorbij het Congres. Elke organisatie die generatieve AI heeft ingevoerd voor juridische, contractuele of compliance-teksten voert hetzelfde experiment uit: het hulpmiddel maakt een eerste concept bijna gratis, en die snelheid zet beoordelaars stilletjes onder druk om er minder tijd aan te besteden, juist wanneer controle het meest telt.
Het incident bij kantoor Luna is de goedkope versie van dit falen, een gênante maar overleefbare openbare correctie. Bij een contract, een toezichthoudende melding of een reeds aangenomen wet levert dezelfde overgeslagen controlestap een fout op die niemand opmerkt tot die duur wordt. De beslissing die ertoe doet is niet of je AI gebruikt om te schrijven, het is of de controle dezelfde grondigheid behoudt die ze had voordat schrijven gratis werd.
Lees hierna: Google schrapte een bijna voltooid AI-model | De prompt die uw bedrijf aanstuurt heeft geen eigenaar
