Een veto vóór de release, toetsbaar bij de rechter

Fractieleider John Thune, voorzitter van de handelscommissie Ted Cruz en senator Amy Klobuchar onderhandelen over een wetsvoorstel dat een wettelijke zorgplicht zou scheppen voor bedrijven die de meest geavanceerde AI-modellen bouwen, met de verplichting producten expliciet zo te ontwerpen dat catastrofale risico's worden voorkomen. Het besproken mechanisme is ongewoon: de Amerikaanse overheid zou de bevoegdheid krijgen de release van een als onveilig beoordeeld model te blokkeren, waarbij het bedrijf die beslissing pas achteraf kan aanvechten, bij een federale rechtbank. Onderhandelaars debatteren nog hoeveel blokkeringsbevoegdheid de overheid daadwerkelijk krijgt.

Het voorstel noemt Google, Anthropic en OpenAI als de bedrijven wier meest capabele systemen zouden worden getest, specifiek op de vraag of een model een kwaadwillende partij zou kunnen helpen bij een geavanceerde cyberaanval of het ontwerpen van een biologisch of nucleair wapen.

Een ander mechanisme dan dat van de EU

De EU AI Act werkt niet zo. Artikel 55 verplicht aanbieders van modellen met systeemrisico ernstige incidenten te melden bij het AI Office, dat conformiteitsbeoordelingen en markttoezicht uitvoert, maar het beschikt niet over een permanente bevoegdheid om de release van een model vooraf te blokkeren, alleen achteraf te toetsen via een rechtszaak. Wat de Senaat bespreekt lijkt meer op een goedkeuringspoort vooraf dan op wat er momenteel in Brussel loopt, op papier een sterker instrument, ook al blijft het bereik smaller, beperkt tot de handvol bedrijven die systemen op topschaal bouwen.

Wat in hetzelfde wetsvoorstel wordt weggenomen

Het voorstel bevat ook een voorrangsclausule die Amerikaanse staten zou verhinderen hun eigen AI-wetten te handhaven, een bepaling die al geldende regels buiten werking zou stellen, waaronder Californië's SB 1119, de wet die kinderveiligheidsmeldingen bij chatbots verplicht. Voor een Europees of Brits bedrijf dat in de VS actief is, of dat volgt hoe snel zijn eigen AI-leveranciers zich aan wisselende regels aanpassen, is de praktische les dat zelfs een wetsvoorstel gebouwd rond een sterke nieuwe federale bevoegdheid tegelijk bescherming kan wegnemen die elders op dezelfde markt al bestaat. Aanname ligt niet dichtbij: het Huis van Afgevaardigden vergadert slechts één week vóór de tussentijdse verkiezingen van 3 november, de Senaat drie, en onderhandelaars hebben de kernvoorwaarden van het voorstel nog niet vastgelegd.

Lees hierna: Californische Kinderwet voor Chatbots Gaat Verder dan de EU-Regels  |  Anthropics vierde incident kwam met een cijfer: 79 tegen 1