Een adviseur, twee functies, een nieuwe terugtrekking
OpenAI benoemde Paul Christiano op 9 september 2026 in zijn Foundation Board, als niet-stemgerechtigd waarnemer in het bestuur van OpenAI Group PBC en als lid van het Safety and Security Committee naast voorzitter Zico Kolter. Dat is op zichzelf al een opmerkelijke benoeming: Christiano leidde van 2017 tot 2021 het alignment-onderzoek bij OpenAI, leverde grondleggend werk aan reinforcement learning from human feedback en richtte daarna het Alignment Research Center op. Bret Taylor, voorzitter van beide OpenAI-besturen, noemde hem in de aankondiging 'een onafhankelijke stem over of de waarborgen van de sector wel voldoende zijn'.
Die onafhankelijkheid is ook zijn hoofdbaan. Christiano is momenteel senior technical advisor bij het Center for AI Standards and Innovation (CAISI), de eenheid van het National Institute of Standards and Technology die geavanceerde AI-modellen toetst op vermogens met implicaties voor nationale veiligheid, een rol die hij al vervulde bij de voorganger van CAISI, het US AI Safety Institute. OpenAI's eigen aankondiging bevat een voetnoot die de meeste berichtgeving oversloeg: als senior technical advisor zal Christiano 'zich terugtrekken uit alle OpenAI-gerelateerde zaken en uit alle modelevaluaties'. Simpel gelezen zegt dat iets concreets: een overheidsevaluator wiens werk mede bestaat uit het beoordelen van geavanceerde modellen, is net toegetreden tot het toezichtsorgaan van een van de weinige labs waarvan hij anders de modellen zou beoordelen, en de oplossing is geen scheiding, maar een terugtrekking die hij zelf moet onthouden.
Twee overheden, twee antwoorden op hetzelfde conflict
De AI Act van de EU lost hetzelfde structurele probleem op door precies de optie weg te nemen die Christiano net kreeg: eerst aan tafel zitten, dan pas terugtrekken als er echt een conflict opduikt. Artikel 68 van de wet stelt een wetenschappelijk panel in van tot 60 onafhankelijke deskundigen die het handhavingswerk van het Europese AI-bureau ondersteunen, door te waarschuwen voor opkomende risico's, mee te helpen aan evaluatiemethoden en te adviseren over de indeling van AI-modellen voor algemene doeleinden. Toelaatbaarheid is het hele mechanisme: elke deskundige moet aantonen onafhankelijk te zijn van elke aanbieder van AI-systemen of AI-modellen voor algemene doeleinden voordat hij of zij ooit wordt benoemd, niet nadat een conflict op de agenda verschijnt. Iedereen dient een openbare belangenverklaring in, en het AI-bureau voert een eigen, staande procedure om conflicten institutioneel te beheren, in plaats van het over te laten aan het geheugen van een individuele deskundige.
| Mechanisme | Wie het betreft | Hoe onafhankelijkheid wordt afgedwongen | Wat er bij een conflict gebeurt |
|---|---|---|---|
| Foundation Board van OpenAI | Een zittende CAISI/NIST-adviseur, nu ook bestuurswaarnemer | Geen toelatingsvoorwaarde voor de zetel | Benoemde terugtrekking uit OpenAI-zaken en modelevaluaties |
| AI Act van de EU, Artikel 68 | Tot 60 deskundigen die het AI-bureau adviseren | Onafhankelijkheid van elke AI-aanbieder is voorwaarde voor benoeming | Openbare belangenverklaring; het AI-bureau beheert conflicten zelf |
Geen van beide structuren is op zichzelf onverdedigbaar. Een terugtrekking die echt wordt naleefd, is een reële bescherming, en een zetel in het veiligheidscomité van een geavanceerd lab geeft een criticus toegang die geen extern panel heeft. Maar het zijn niet dezelfde antwoorden op dezelfde vraag, en slechts een van de twee haalt het conflict weg voordat het kan ontstaan, in plaats van erna.
Waar een compliance-team echt op moet letten
Voor een Europees bedrijf dat een van beide labs als leverancier volgt, ligt het nuttige signaal niet in het personeelsverhaal waarmee de meeste media aan de haal gingen: TechCrunch noemde Christiano in zijn eigen kop 'een prominente AI-doomer', en dat is een persoonlijkheidsframe, geen governance-frame. Het nuttige signaal is dat OpenAI in dezelfde week koos voor toezicht op basis van terugtrekking waarin Anthropic twee veiligheidsmedewerkers helemaal verloor, waaronder alignment-lead Evan Hubinger, die collega's bij zijn vertrek zei dat hij de kans dat AI de mensheid binnen een decennium laat uitsterven op meer dan tien procent schat. Het ene lab houdt zijn interne critici met een terugtrekkingsclausule in de kamer; het andere ziet ze vertrekken. Beide uitkomsten zijn openbaar zichtbaar, en beide horen nu bij het feitelijke dossier over hoe elk bedrijf werkelijk omgaat met onenigheid over zijn eigen veiligheidsmarges, precies het dossier dat een aanbieder van een systeemrisicomodel onder de AI Act toch al zou moeten opbouwen, of hij bij die keuze aan Brussel denkt of niet.
Servola Journal
We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.
Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.
Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.
Lees hierna: Alleen Brussel kan uw AI-leverancier nog dwingen | Anthropics veiligheidschef geeft AI een cijfer
