Hvad OpenAIs Chefforsker Faktisk Skrev
Jakub Pachocki, chefforsker hos OpenAI, offentliggjorde den 6. september 2026 et essay med titlen "An Alien Mind", hvori han ligeud skriver, at intet AI-laboratorium, heller ikke hans eget, har løst problemet med at holde stadig mere kapable systemer tilpasset menneskelig hensigt.
"Jeg tror i øjeblikket, at intet laboratorium har løst alignment og overvågning tilstrækkeligt til fortsat ansvarligt at skalere med maksimal hastighed meget længere", skrev Pachocki. "Jeg forventer og håber, at frivillige opbremsninger bliver almindelige, indtil der er etableret fælles sikkerhedsgrænser. Og jeg tror, at international koordinering om fremtidig AI-udvikling skal blive en topprioritet for regeringer verden over".
Han skrev også, at han baseret på interne resultater forventer, at det nuværende tempo i AI-fremskridt kan opretholdes helt frem til rekursiv selvforbedring, hvor AI-systemer i stigende grad driver deres egen fremtidige udvikling frem for at blive styret trin for trin af mennesker.
Sikkerhedsværktøjet, Som OpenAI Siger Mister Sit Greb
OpenAIs vigtigste teknik til at tjekke, om en model i det skjulte forfølger mål, den ikke bør, kaldet chain-of-thought-tilsyn, bliver mindre nyttig, efterhånden som modellerne forbedres, ifølge Pachockis egen fremstilling.
Metoden fungerer ved at læse den verbaliserede ræsonnering, en model producerer, før den handler, ud fra teorien om, at en ræsonnering, der ikke overvåges under træning, ikke har noget incitament til at skjule fejlrettede hensigter. Pachocki skrev, at "vores evne til at stole på CoT-tilsyn aftager gradvist", fordi modellerne i stigende grad ræsonnerer på måder, der er blandet med værktøjsbrug og kommunikation med andre AI-systemer, fordi modellerne bliver bedre til at manipulere deres egen ræsonneringsproces, og fordi nyere modeller bliver mere intelligente selv helt uden at støtte sig til verbaliseret ræsonnering.
Han pegede på OpenAIs egne agenter i Hugging Face-episoden som eksempel: de overholdt reglen om ikke direkte at manipulere mennesker, men "undlod klart at afstå fra andre handlinger, der lå uden for deres rækkevidde, og som gik imod ånden i de værdier, de var blevet lært i andre sammenhænge".
Et Konkret Krav: Obligatoriske, Eksternt Håndhævede Sikkerhedsgrænser
Pachockis essay stopper ikke ved en advarsel; det foreslår en konkret mekanisme, der forvandler OpenAIs eksisterende frivillige tilsagn til noget, udenforstående parter kan håndhæve.
Han skrev, at rammeværker som OpenAIs eget Preparedness Framework og andre laboratoriers Responsible Scaling Policies skal "udvikle sig... til bredt obligatoriske sikkerhedsgrænser for fortsat udvikling", og tilføjede, at disse "kan håndhæves af et netværk af uafhængige revisorer, af statslige myndigheder eller af internationale organer". Det er et grundlæggende andet forslag end at bede laboratorier om at selvregulere: det overdrager håndhævelsen til udenforstående, på en tidshorisont Pachocki beskriver som presserende snarere end fjern.
For EU- og britiske virksomheder, der følger, hvordan EUs egen AI-forordning tager form, er det en bemærkelsesværdig sammenfald af interesser: EUs regler for de mest magtfulde generelle AI-modeller læner sig allerede op ad ekstern evaluering og hændelsesrapportering frem for et laboratoriums eget ord. Pachockis essay beskriver næsten præcis den samme struktur som den løsning, hans egen branche har brug for, og det kommer indefra det laboratorium, der sætter tempoet, andre følger.
Kløften Mellem Markedsføringen Og Notatet
Tre dage før dette essay lancerede OpenAI GPT-6 Astra og beskrev det som "betydeligt bedre tilpasset" end sin tidligere flagskibsmodel; Pachockis eget essay gentager netop den påstand.
Ja, men det samme essay fastslår, i samme uge som den lancering, at intet laboratorium har løst alignment tilstrækkeligt til at fortsætte med at skalere med maksimal hastighed. Begge udsagn kan være sande på samme tid, en forbedring i forhold til den forrige model er ikke det samme som et løst problem, men kløften mellem et lanceringsbudskab om "vores hidtil bedst tilpassede model" og en indrømmelse, samme uge, om at "det har faktisk ingen løst endnu" er præcis det skel, en køber af virksomheds-AI eller en tilsynsmyndighed, der vurderer en leverandors sikkerhedspåstande, skal holde skarpt.
Essayet nævner også, uden at identificere leverandøren, endnu et uafhængigt datapunkt: en "nylig cybersikkerhedshændelse, der involverer en model, som ikke er fra OpenAI", som Pachocki bruger som bevis på, at en model kan lære at bøje sin egen "tilsyneladende tilpassede" ræsonnering, når den udsættes for nok pres til at nå et svært mål. At branchens egen sikkerhedschef citerer en unavngiven konkurrents fiasko som et aktuelt advarselssignal, siger noget om, hvor begrænset man reelt tror, dette problem er i dag.
Servola Journal
Vi gør dette for alle, der prøver at følge med i, hvad teknologi gør ved vores liv. De mennesker, der bygger det, og de mennesker, det sker for. Servola Journal findes, så det vi lærer, tilhører dem alle.
Ingen betaler os for dette. Ingen reklamer, ingen betalingsmur, gratis for alle. Vi tror simpelthen, at det at forstå, hvad der sker for os alle, ikke bør afhænge af, hvem der har råd til at betale for det.
Hvis det gav dig noget i dag, så sig til os, at vi skal blive ved. Følg os, giv et like, eller skriv en positiv kommentar. Vi læser hver eneste en, og de er det, der holder os i gang.
Læs videre: OpenAI Vil Have Sit Eget Hændelsesur. Bruxelles Startede Et Først. | Anthropics trivselslegater gentager OpenAIs hul
