Ein Berater, zwei Ämter, ein neuer Rückzug
OpenAI berief Paul Christiano am 9. September 2026 in sein Foundation Board, als nicht stimmberechtigten Beobachter im Board von OpenAI Group PBC und als Mitglied des Safety and Security Committee neben dessen Vorsitzendem Zico Kolter. Das ist für sich schon eine bemerkenswerte Personalie: Christiano leitete von 2017 bis 2021 die Alignment-Forschung bei OpenAI, lieferte Grundlagenarbeit zu Reinforcement Learning from Human Feedback und gründete danach das Alignment Research Center. Bret Taylor, Vorsitzender beider OpenAI-Boards, nannte ihn in der Ankündigung eine 'unabhängige Stimme darüber, ob die Schutzmassnahmen der Branche ausreichen'.
Diese Unabhängigkeit ist auch sein Hauptberuf. Christiano arbeitet derzeit als Senior Technical Advisor beim Center for AI Standards and Innovation (CAISI), der Einheit des National Institute of Standards and Technology, die führende KI-Modelle auf Fähigkeiten mit nationaler Sicherheitsrelevanz prüft - eine Rolle, die er schon beim Vorgänger, dem US AI Safety Institute, ausübte. OpenAIs eigene Ankündigung enthält eine Fussnote, die die meiste Berichterstattung übersprungen hat: Als Senior Technical Advisor werde Christiano sich 'von allen OpenAI-bezogenen Angelegenheiten sowie von allen Modellbewertungen zurückziehen'. Klar gelesen bedeutet das: Ein staatlicher Prüfer, zu dessen Aufgabe die Bewertung führender Modelle gehört, sitzt jetzt im Aufsichtsgremium genau eines der wenigen Labore, deren Modelle er sonst bewerten würde - und die Lösung ist keine Trennung, sondern ein Rückzug, an den er sich selbst erinnern muss.
Zwei Staaten, zwei Antworten auf denselben Konflikt
Der EU AI Act löst genau dieses strukturelle Problem, indem er die Option entfernt, die Christiano gerade bekommen hat: erst drinnen sitzen, dann austreten, wenn ein Konflikt tatsächlich auftritt. Artikel 68 des Gesetzes richtet ein wissenschaftliches Gremium aus bis zu 60 unabhängigen Experten ein, das die Durchsetzungsarbeit des europäischen KI-Buros unterstützt - es warnt vor neuen Risiken, hilft bei Bewertungsmethoden und berät bei der Einordnung von General-Purpose-Modellen. Die Zulassung ist der eigentliche Mechanismus: Jeder Experte muss Unabhängigkeit von jedem Anbieter von KI-Systemen oder General-Purpose-KI-Modellen nachweisen, bevor er überhaupt berufen wird, nicht erst, wenn ein Konflikt im Kalender auftaucht. Jeder legt eine öffentliche Interessenerklärung vor, und das KI-Büro führt ein eigenes, ständiges Verfahren, um Konflikte institutionell zu verwalten, statt es dem Gedächtnis eines einzelnen Experten zu überlassen.
| Mechanismus | Wen es betrifft | Wie Unabhängigkeit erzwungen wird | Was bei einem Konflikt passiert |
|---|---|---|---|
| OpenAI Foundation Board | Ein amtierender CAISI/NIST-Berater, jetzt auch Board-Beobachter | Keine Zulassungsvoraussetzung für den Sitz | Benannter Rückzug von OpenAI-Angelegenheiten und Modellbewertungen |
| EU AI Act, Artikel 68 | Bis zu 60 Experten, die das KI-Büro beraten | Unabhängigkeit von jedem KI-Anbieter ist Berufungsvoraussetzung | Öffentliche Interessenerklärung; das KI-Büro selbst verwaltet Konflikte |
Keine der beiden Strukturen ist von vornherein unhaltbar. Ein Rückzug, der tatsächlich eingehalten wird, ist echter Schutz, und ein Sitz im Sicherheitsausschuss eines führenden Labors gibt einem Kritiker Zugang, den kein externes Gremium hat. Aber es sind nicht dieselbe Antwort auf dieselbe Frage, und nur eine der beiden entfernt den Konflikt, bevor er entstehen kann, statt erst danach.
Worauf ein Compliance-Team wirklich achten sollte
Für ein europäisches Unternehmen, das eines der beiden Labore als Anbieter beobachtet, liegt das eigentlich nützliche Signal nicht in der Personalie, mit der die meisten Medien gearbeitet haben - TechCrunchs eigene Schlagzeile nannte Christiano einen 'prominenten KI-Doomer', das ist ein Persönlichkeitsrahmen, kein Governance-Rahmen. Das nützliche Signal ist, dass OpenAI in derselben Woche auf rücktrittsbasierte Aufsicht gesetzt hat, in der Anthropic zwei Sicherheitsmitarbeiter komplett verlor, darunter Alignment-Lead Evan Hubinger, der Kollegen beim Abschied sagte, er halte die Wahrscheinlichkeit, dass KI die Menschheit binnen eines Jahrzehnts auslöscht, für höher als zehn Prozent. Ein Labor hält seine internen Kritiker mit einer Rückzugsklausel im Raum; das andere sieht sie gehen. Beide Ergebnisse sind öffentlich sichtbar, beide gehören jetzt zu dem Datensatz darüber, wie jedes Unternehmen tatsächlich mit Uneinigkeit über die eigenen Sicherheitsmargen umgeht - und genau diesen Datensatz müsste ein Anbieter eines Modells mit systemischem Risiko unter dem AI Act ohnehin aufbauen, ob er dabei an Brüssel denkt oder nicht.
Servola Journal
Wir machen das für alle, die versuchen mit dem Schritt zu halten, was die Technologie mit unserem Leben macht. Für die Menschen, die sie bauen, und für die Menschen, denen sie widerfährt. Das Servola Journal existiert, damit das, was wir lernen, allen von ihnen gehört.
Niemand bezahlt uns dafür. Keine Werbung, keine Bezahlschranke, kostenlos für alle. Wir glauben einfach, dass das Verstehen dessen, was mit uns allen geschieht, nicht davon abhängen sollte, wer es sich leisten kann, dafür zu bezahlen.
Wenn es Ihnen heute etwas gegeben hat, sagen Sie uns, dass wir weitermachen sollen. Folgen Sie uns, hinterlassen Sie ein Like, oder schreiben Sie einen positiven Kommentar. Wir lesen jeden einzelnen, und sie sind es, was uns weitermachen lässt.
Weiterlesen: Nur Brüssel kann Ihren KI-Anbieter noch zwingen | Anthropics Sicherheitschef beziffert das KI-Risiko
