En rådgiver, to poster, en ny tilbagetrækning
OpenAI udnævnte Paul Christiano den 9. september 2026 til sit Foundation Board, som ikke-stemmeberettiget observatør i bestyrelsen for OpenAI Group PBC og som medlem af Safety and Security Committee sammen med formanden Zico Kolter. Det er i sig selv en bemærkelsesværdig udnævnelse: Christiano ledede alignment-forskningen hos OpenAI fra 2017 til 2021, bidrog med grundlæggende arbejde om reinforcement learning from human feedback og grundlagde derefter Alignment Research Center. Bret Taylor, formand for begge OpenAI-bestyrelser, kaldte ham i annonceringen 'en uafhængig stemme om, hvorvidt branchens sikkerhedsforanstaltninger er tilstrækkelige'.
Den uafhængighed er også hans hovedjob. Christiano er i øjeblikket senior technical advisor hos Center for AI Standards and Innovation (CAISI), enheden under National Institute of Standards and Technology, som vurderer frontlinje-AI-modeller for evner med betydning for national sikkerhed, en rolle han allerede havde hos CAISIs forløber, US AI Safety Institute. OpenAIs egen annoncering indeholder en fodnote, som det meste af dækningen sprang over: som senior technical advisor vil Christiano 'trække sig fra alle OpenAI-relaterede sager samt fra alle modelvurderinger'. Læst ligeud siger det noget konkret: en statslig evaluator, hvis job blandt andet er at vurdere frontlinjemodeller, er lige trådt ind i tilsynsorganet hos et af de få laboratorier, hvis modeller han ellers ville vurdere, og løsningen er ikke adskillelse, men en tilbagetrækning han selv skal huske at bruge.
To regeringer, to svar på samme konflikt
EUs AI Act løser det samme strukturelle problem ved at fjerne den mulighed, Christiano lige har fået: sidde med indenfor og trække sig kun, når en konflikt faktisk opstår. Artikel 68 i loven opretter et videnskabeligt panel af op til 60 uafhængige eksperter til at støtte det europæiske AI-kontors håndhævelsesarbejde ved at advare om nye risici, hjælpe med at bygge vurderingsmetoder og rådgive om, hvordan modeller til almene formål skal klassificeres. Berettigelse er hele mekanismen: hver ekspert skal bevise uafhængighed fra enhver udbyder af AI-systemer eller AI-modeller til almene formål, før de overhovedet udnævnes, ikke efter en konflikt dukker op i kalenderen. Alle indgiver en offentlig interesseerklæring, og AI-kontoret kører sin egen stående procedure for at håndtere konflikter institutionelt i stedet for at overlade det til en enkelt eksperts hukommelse.
| Mekanisme | Hvem det gælder | Hvordan uafhængighed sikres | Hvad der sker ved en konflikt |
|---|---|---|---|
| OpenAIs Foundation Board | En sidende CAISI/NIST-rådgiver, nu også bestyrelsesobservatør | Ikke et krav for at få pladsen | Navngiven tilbagetrækning fra OpenAI-sager og modelvurderinger |
| EUs AI Act, Artikel 68 | Op til 60 eksperter, der rådgiver AI-kontoret | Uafhængighed fra enhver AI-udbyder er en betingelse for udnævnelse | Offentlig interesseerklæring; konflikter håndteres af AI-kontoret selv |
Ingen af strukturerne er i sig selv uholdbar. En tilbagetrækning, der faktisk overholdes, er reel beskyttelse, og en plads i et frontlinjelaboratoriums eget sikkerhedsudvalg giver en skeptiker adgang, som intet eksternt panel har. Men de er ikke det samme svar på det samme spørgsmål, og kun en af dem fjerner konflikten, før den kan opstå, i stedet for bagefter.
Hvad et compliance-team faktisk bør holde øje med
For en europæisk virksomhed, der følger et af de to laboratorier som leverandør, ligger det nyttige signal ikke i den personhistorie, som det meste af medierne kørte med: TechCrunchs egen overskrift kaldte Christiano 'en fremtrædende AI-doomer', hvilket er en personlighedsramme, ikke en governance-ramme. Det nyttige signal er, at OpenAI valgte tilbagetrækningsbaseret tilsyn i samme uge, hvor Anthropic helt mistede to sikkerhedsmedarbejdere, herunder alignment-chef Evan Hubinger, som ved sin afgang fortalte kollegerne, at han sætter sandsynligheden for, at AI udsletter menneskeheden inden et årtier, til over ti procent. Det ene laboratorium holder sine interne kritikere i rummet med en tilbagetrækningsklausul; det andet ser dem gå. Begge udfald er offentligt synlige, og begge er nu del af det faktiske billede af, hvordan hvert selskab reelt håndterer uenighed om sine egne sikkerhedsmargener, præcis det billede en udbyder af en model med systemisk risiko under AI Act alligevel skulle opbygge, uanset om Bruxelles er en del af overvejelsen.
Servola Journal
Vi gør dette for alle, der prøver at følge med i, hvad teknologi gør ved vores liv. De mennesker, der bygger det, og de mennesker, det sker for. Servola Journal findes, så det vi lærer, tilhører dem alle.
Ingen betaler os for dette. Ingen reklamer, ingen betalingsmur, gratis for alle. Vi tror simpelthen, at det at forstå, hvad der sker for os alle, ikke bør afhænge af, hvem der har råd til at betale for det.
Hvis det gav dig noget i dag, så sig til os, at vi skal blive ved. Følg os, giv et like, eller skriv en positiv kommentar. Vi læser hver eneste en, og de er det, der holder os i gang.
Læs videre: Kun Bruxelles kan stadig tvinge din leverandør | Anthropics sikkerhedschef satte tal på AI-risikoen
