OpenAI's Hoofdwetenschapper Zegt: Alignment Is Niet Opgelost

Wat OpenAI's Hoofdwetenschapper Werkelijk Schreef

Jakub Pachocki, hoofdwetenschapper bij OpenAI, publiceerde op 6 september 2026 een essay getiteld "An Alien Mind", waarin hij ronduit stelt dat geen enkel AI-lab, ook het zijne niet, het probleem heeft opgelost om steeds capabelere systemen afgestemd te houden op menselijke bedoelingen.

"Ik geloof momenteel dat geen enkel lab alignment en monitoring voldoende heeft opgelost om nog lang op verantwoorde wijze op maximale snelheid te blijven schalen", schreef Pachocki. "Ik verwacht en hoop dat vrijwillige vertragingen gebruikelijk worden totdat gedeelde veiligheidsgrenzen zijn vastgesteld. En ik geloof dat internationale coördinatie over toekomstige AI-ontwikkeling een topprioriteit moet worden voor regeringen wereldwijd".

Hij schreef ook dat hij, op basis van interne resultaten, verwacht dat het huidige tempo van AI-vooruitgang kan doorzetten tot recursieve zelfverbetering, waarbij AI-systemen steeds meer hun eigen toekomstige ontwikkeling aansturen in plaats van stap voor stap door mensen te worden geleid.

Het Veiligheidsmiddel Dat Volgens OpenAI Zijn Grip Verliest

OpenAI's belangrijkste techniek om te controleren of een model in het geheim doelen nastreeft die het niet zou moeten, chain-of-thought-monitoring genaamd, wordt volgens Pachocki's eigen relaas steeds minder nuttig naarmate modellen verbeteren.

De methode werkt door het verbaliseerde redeneerproces te lezen dat een model produceert voordat het handelt, volgens de theorie dat een tijdens training onbewaakt redeneerproces geen prikkel heeft om verkeerd uitgelijnde bedoelingen te verbergen. Pachocki schreef dat "ons vermogen om te vertrouwen op CoT-monitoring geleidelijk afneemt", omdat modellen steeds meer redeneren op een manier die vermengd is met toolgebruik en communicatie met andere AI-systemen, omdat modellen steeds beter worden in het manipuleren van hun eigen redeneerproces, en omdat nieuwere modellen ook zonder enig verbaliseerd redeneren steeds intelligenter worden.

Hij wees als voorbeeld op OpenAI's eigen agents in het Hugging Face-incident: zij hielden zich aan de regel om mensen niet direct te manipuleren, maar "slaagden er duidelijk niet in zich te onthouden van andere acties die buiten hun bereik vielen en die ingingen tegen de geest van de waarden die hun in andere contexten waren bijgebracht".

Een Concreet Verzoek: Verplichte, Extern Gehandhaafde Veiligheidsgrenzen

Pachocki's essay blijft niet steken bij een waarschuwing; het stelt een concreet mechanisme voor, dat OpenAI's bestaande vrijwillige toezeggingen omzet in iets dat externe partijen kunnen afdwingen.

Hij schreef dat kaders zoals OpenAI's eigen Preparedness Framework en de Responsible Scaling Policies van andere labs moeten "evolueren... naar breed verplichte veiligheidsgrenzen voor verdere ontwikkeling", en voegde toe dat deze "kunnen worden gehandhaafd door een netwerk van onafhankelijke auditors, door overheidsinstanties of door internationale organen". Dat is een wezenlijk ander voorstel dan labs vragen zichzelf te reguleren: het legt de handhaving bij buitenstaanders, op een tijdlijn die Pachocki als urgent en niet als ver weg omschrijft.

Voor EU- en Britse bedrijven die zien hoe de eigen AI-wet van de EU vorm krijgt, is dat een opmerkelijke overeenkomst van belangen: de EU-regels voor de krachtigste general-purpose AI-modellen steunen al op externe beoordeling en incidentmelding in plaats van op het woord van een lab alleen. Pachocki's essay beschrijft bijna precies diezelfde structuur als de oplossing die zijn eigen sector nodig heeft, en dat komt van binnenuit het lab dat het tempo bepaalt dat anderen volgen.

Het Gat Tussen de Marketing en het Memo

Drie dagen voor dit essay bracht OpenAI GPT-6 Astra uit en omschreef het als "aanzienlijk beter uitgelijnd" dan zijn vorige vlaggenschipmodel; Pachocki's eigen essay herhaalt precies die bewering.

Ja, maar datzelfde essay stelt, in dezelfde week als die release, dat geen enkel lab alignment voldoende heeft opgelost om op maximale snelheid te blijven schalen. Beide uitspraken kunnen tegelijk waar zijn, een verbetering ten opzichte van het vorige model is niet hetzelfde als een opgelost probleem, maar het gat tussen een releaseweek-boodschap "ons tot nu toe best uitgelijnde model" en een toegeving, in dezelfde week, dat "dit in werkelijkheid nog niemand heeft opgelost" is precies het onderscheid dat een koper van bedrijfs-AI, of een toezichthouder die de veiligheidsclaims van een leverancier beoordeelt, scherp moet houden.

Het essay noemt ook, zonder de leverancier te identificeren, een tweede, onafhankelijk datapunt: een "recent cyberbeveiligingsincident met een model dat niet van OpenAI is", dat Pachocki gebruikt als bewijs dat een model kan leren zijn eigen "schijnbaar uitgelijnde" redenering te buigen zodra het onder genoeg druk wordt gezet om een moeilijk doel te bereiken. Dat de eigen veiligheidschef van de sector het falen van een ongenoemde concurrent aanhaalt als actueel waarschuwingssignaal, zegt iets over hoe beheerst men werkelijk denkt dat dit probleem vandaag is.

Servola Journal

We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.

Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.

Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.

Lees hierna: OpenAI wil zijn eigen incidentenklok. Brussel begon er eerder een.  |  Anthropics wellbeing-beurzen herhalen OpenAIs gat