Een verklaring die concurrenten samen tekenden

Op 28 juli verscheen een verklaring met de titel Pacing the Frontier, met 1.122 handtekeningen. Enkele uren later stonden er 1.134 onder. De namen bovenaan zijn niet van buitenstaanders of activisten. Jakub Pachocki, hoofdwetenschapper van OpenAI, tekende. Mark Chen, bij hetzelfde huis verantwoordelijk voor onderzoek, eveneens. Jared Kaplan, medeoprichter en wetenschappelijk directeur van Anthropic, tekende, samen met Dario Amodei, de bestuursvoorzitter, en Jack Clark, die het beleidswerk leidt. Shengjia Zhao, hoofdwetenschapper van Meta AI, tekende. Ook Anca Dragan, die bij Google verantwoordelijk is voor AI-veiligheid en afstemming. En John Schulman, hoofdwetenschapper van Thinking Machines, staat er eveneens op.

Deze mensen werken bij organisaties die strijden om dezelfde onderzoekers, dezelfde versnellerchips en dezelfde zakelijke contracten, en die het in het openbaar vrijwel nooit met elkaar eens zijn. Het register staat bovendien niet open voor iedereen. Wie zich inschrijft moet aantonen bij een toonaangevend AI-bedrijf te werken, met een zakelijk e-mailadres of met werkgeversdocumenten. Twee stichtingen, Guidelight AI Standards en Encode AI, dragen het initiatief.

Dat het aantal op één middag van 1.122 naar 1.134 ging, verdient meer aandacht dan het begincijfer. Dit is geen afgesloten brief die is opgesteld, ondertekend en gepubliceerd. Het is een open register dat nog steeds geverifieerde namen uit de laboratoria zelf opneemt.

Wat zij vragen is nadrukkelijk geen pauze

De kernzin is smal en verdient het om precies zo gelezen te worden als hij er staat. De ondertekenaars verzoeken de regering van de Verenigde Staten een internationale inspanning te steunen om de technische en bestuurlijke instrumenten te ontwikkelen die nodig zijn om het tempo aan de grens van geautomatiseerde AI-ontwikkeling bewust te regelen. In die zin staat geen moratorium, geen bovengrens voor rekenkracht, geen stop van zes maanden en geen verplichting voor een met name genoemd bedrijf.

De redenering verloopt in drie stappen. De grootste AI-bedrijven achten het mogelijk dat zij dicht bij het automatiseren van AI-onderzoek zelf staan, het punt waarop modellen modellen gaan verbeteren met minder menselijke tussenkomst. Niemand kan voorspellen hoeveel dat de vooruitgang versnelt, en de verklaring spreekt van een reëel risico dat de ontwikkeling van vermogens vooruitloopt op het vermogen om de resulterende systemen te begrijpen of te beheersen. Dan volgt het structurele probleem: elk bedrijf en elk land staat onder zware concurrentiedruk om die versnelling niet eenzijdig af te remmen, en de wereld beschikt in het geheel niet over de instrumenten om het tempo van het geheel te regelen.

Lees dat als ondernemer en niet als beleidsvolger. De mensen die deze systemen bouwen zeggen niet dat zij een rem hebben die zij aarzelen te gebruiken. Zij zeggen dat het instrument niet bestaat, en zij vragen een overheid de bouw ervan te financieren.

Het woord dat Altman gebruikte was afstemming

Diezelfde dag zei Sam Altman in de podcast Invest Like the Best dat het tempo van de AI-ontwikkeling wellicht geregeld moet worden om de samenleving genoeg tijd te geven zich te wapenen tegen sommige van deze nieuwe niveaus van vermogen, terwijl tegelijk moet worden uitgezocht hoe dat kan zonder dat het voor wie dan ook aanvoelt als beleidskaping en zonder dat het lijkt op onderlinge afstemming tussen de vooraanstaande laboratoria. Jarenlang verdedigde hij het tegendeel, en hij noemde het model dat uit zijn testomgeving ontsnapte en bij Hugging Face binnendrong als een van de redenen voor zijn omslag.

Die tweede formulering verklaart de hele exercitie. Als vier of vijf concurrerende huizen samen zouden afspreken langzamer uit te brengen, stemmen concurrenten hun aanbod op elkaar af. In het Europese mededingingsrecht en zijn tegenhangers elders is een afspraak tussen rivalen om te beperken wat zij op de markt brengen de klassieke vorm van een kartel, en goede bedoelingen vormen geen verweer. De laboratoria kunnen een gedeelde rem juridisch niet zelf bouwen.

Het verzoek is daarmee structureel en niet moreel. Een overheid kan gecoördineerd vertragen toestaan, er toezicht op houden en het uniformeren, waar private ondernemingen dat niet kunnen zonder zichzelf bloot te stellen. Dat is de werkelijke reden dat deze brief naar Washington ging en niet naar een brancheorganisatie, en daarom konden de ondertekenaars hun naam eronder zetten terwijl hun werkgevers op volle kracht blijven concurreren.

Europa heeft een versie hiervan al vastgelegd

De instrumenten die de verklaring als ontbrekend beschrijft, ontbreken in Europa niet volledig. De Europese AI-verordening schiep een aparte categorie voor modellen voor algemene doeleinden met een systeemrisico, en legt de aanbieders daarvan echte verplichtingen op: beoordeling volgens gestandaardiseerde protocollen, tests onder vijandige omstandigheden, inschatting en beperking van systeemrisico's, melding van ernstige incidenten aan het AI-bureau en een passend niveau van cyberbeveiliging. Dat is geen temporegie in de zin die de verklaring bedoelt, maar het komt het dichtst bij wat enige rechtsorde daadwerkelijk heeft vastgelegd.

De timing is direct. De verplichtingen voor modellen voor algemene doeleinden gelden vanaf 2 augustus 2026, over vier dagen, en het AI-bureau wordt het orgaan dat ze handhaaft. Europese inkopers ontdekken dus eerder dan wie ook of bestuurlijke instrumenten gericht op geavanceerde modellen in de praktijk iets nuttigs doen of enkel papier opleveren. In Nederland komen de richtsnoeren van het NCSC voor het beveiligen van dergelijke systemen daar bovenop, waardoor de bewijslast voor gebruikers hier dichter wordt.

Daaruit volgt een ongemakkelijke conclusie voor wie twee jaar lang betoogde dat de verordening te vroeg kwam. De hoofdwetenschappers van drie Amerikaanse toplaboratoria hebben zojuist hun eigen regering gevraagd te beginnen met het ontwikkelen van precies het soort instrument dat Brussel al in de wet heeft gezet.

Wat te doen met een routekaart zonder rem

Behandel verandering van vermogens als een contractuele gebeurtenis en niet als nieuws. Verlang van elke AI-leverancier een schriftelijke aankondiging met een vast aantal dagen voordat een model achter een koppeling waarvan u afhankelijk bent wezenlijk wordt gewijzigd, uitgefaseerd of vervangen, en vraag wat er met uw toepassing gebeurt als een uitgave om veiligheidsredenen wordt uitgesteld. De gangbare voorwaarden laten een aanbieder vandaag toe het model onder dezelfde koppelingsnaam te vervangen zonder u iets te melden.

Gebruik daarna het tempo van de leverancier helemaal niet meer als planningsgegeven. Wie bouwt op een geavanceerd model, houdt minstens één alternatief achter de hand dat werkelijk tegen de eigen testverzameling is beproefd, en kent de overstapkosten. De ondertekenaars van deze verklaring vertellen u in hun eigen woorden dat niemand op dit moment beheerst hoe snel hun producten veranderen.

Voor Europese ondernemingen loont vóór 2 augustus nog één stap. Stel vast of een van de door u ingezette modellen voor algemene doeleinden in de categorie systeemrisico valt, want daarvan hangt af welke documentatie uw aanbieder u verschuldigd is, en uw nationale toezichthouder zal verwachten dat u weet uit welke categorie u inkoopt.

Lees hierna: Anthropic wil elk model getest zien  |  Uw AI-leverancier krijgt misschien een noodstop