OpenAI will KI-Regeln, Weißes Haus nennt es Schwindel

Zwei Botschaften in einer Woche

OpenAI teilte dem Kongress mit, es brauche verbindliche KI-Sicherheitsregeln, und fünf Tage später nannte der Präsident dem Nvidia-Chef gegenüber das gesamte Risiko einen Schwindel. Beide Aussagen fielen innerhalb einer einzigen Woche im September 2026, und beide kamen von Personen, deren Entscheidungen bestimmen, was mit den KI-Systemen geschieht, auf denen ein europäisches oder britisches Unternehmen heute läuft. Für ein Unternehmen, das zwischen GPT, Claude und Gemini als Plattform wählt, bewegte sich der regulatorische Boden unter allen drei Anbietern gleichzeitig in entgegengesetzte Richtungen.

Die Woche begann damit, dass OpenAI einen Policy-Essay veröffentlichte, der Washington um verbindliche Aufsicht bat, die man bisher abgelehnt hatte. Sie endete damit, dass Donald Trump die gesamte Debatte live auf der Bühne gegenüber dem Chef des Unternehmens für erfunden erklärte, das die Chips liefert, auf die jedes dieser Labore angewiesen ist. Dazwischen veröffentlichte Anthropics Chef einen Plan, das Tempo der gesamten Branche zu drosseln, und drei konkurrierende Laborchefs setzten ihren Namen darunter.

Was OpenAI tatsächlich forderte

Chris Lehane, Chief Global Affairs Officer von OpenAI, veröffentlichte am 9. September einen Policy-Beitrag, der den Kongress um verbindliche, fähigkeitsbasierte nationale Regulierung bittet, nicht mehr um die freiwilligen Zusagen, auf die sich OpenAI bisher verlassen hat. Der Beitrag nennt den Grund unverblümt: "Die Vereinigten Staaten brauchen verbindliche, fähigkeitsbasierte nationale Regulierung, die sich mit der Technologie weiterentwickeln kann."

Der von OpenAI gewünschte Rahmen umfasst gemeinsame Test- und Bewertungspflichten durch unabhängige Dritte, stärkere Cybersicherheitsvorgaben, klare Meldepflichten bei Vorfällen und gemeinsame Messgrößen für den Fortschritt in Richtung rekursiver Selbstverbesserung, dem Punkt, an dem ein KI-System beginnt, das Design seines eigenen Nachfolgers selbst zu steuern. Lehane stellt klar, dass dies eng gefasst nur für eine Handvoll gut ausgestatteter Labore an der Spitze der Fähigkeiten gelten soll, nicht für Start-ups oder Open-Source-Entwickler.

Bis der Kongress handelt, unterstützt OpenAI außerdem vier kalifornische Gesetzentwürfe auf dem Weg zu Gouverneur Newsom: SB 813 zu unabhängigen Sicherheitsprüfern, AB 1405 zur Rechenschaftspflicht von Auditoren, SB 1119 zum Schutz von Jugendlichen bei Companion-Chatbots und AB 1864 zur Kontrolle KI-gestützter biologischer Bedrohungen. OpenAI nennt diesen Ansatz umgekehrten Föderalismus, bei dem Bundesstaatengesetze eine faktische Basis setzen, die der Kongress später kodifizieren kann. Einige dieser Gesetze hatte OpenAI zuvor abgelehnt; der Beitrag begründet den Positionswechsel mit einem jüngsten Sprung bei den Modellfähigkeiten.

Amodeis Drei-Stufen-Plan

Anthropic-Chef Dario Amodei veröffentlichte am 12. September einen rund 3.800 Wörter langen Essay mit dem Titel We Must Pace the Frontier, dem binnen zwei Tagen drei konkurrierende Laborchefs beitraten. Der Essay schlägt ein abgestimmtes Tempo auf drei Ebenen vor: externe Prüfer mit mitarbeiterähnlichem Zugang innerhalb der Spitzenlabore, gemeinsame Sicherheitsstandards unter KI-Unternehmen in demokratischen Ländern und einen Versuch, sich auch mit autoritären Regierungen über das Entwicklungstempo selbst abzustimmen.

Amodeis erklärte Sorge ist, dass rekursive Selbstverbesserung die menschliche Aufsicht überholt, dazu Cyberangriffe und Bioterrorismus-Risiken durch fähigere Modelle. Er betont, dass der Plan den US-Vorsprung schützen, nicht opfern soll: Ein gedrosseltes Tempo "würde den Spitzenlaboren die Zeit für diese wichtige Arbeit geben, ohne den kommerziellen Vorsprung oder die Führungsrolle der Vereinigten Staaten in der KI zu opfern." Bei China ist er ebenso unverblümt über die Gefahr einseitiger Zurückhaltung: "Wenn wir unsere KI-Fähigkeiten stark einschränken in der Annahme, China werde dasselbe tun, und China dann abweicht," brauche jede Vereinbarung entweder verifizierbare Durchsetzung oder einen so engen Rahmen, dass ein Abweichen China keinen militärischen Vorteil verschaffen würde.

Sam Altman, Google DeepMinds Demis Hassabis und xAI-Chef Elon Musk unterzeichneten den Essay binnen Tagen mit, eine ungewöhnliche öffentliche Einigkeit unter Konzernchefs, die sonst darüber konkurrieren, wie schnell und nicht wie vorsichtig ihre Labore vorgehen.

Das Weiße Haus nennt es einen Schwindel

Präsident Trump unterbrach die All-In Summit in Los Angeles am 14. September, holte Nvidia-Chef Jensen Huang live auf die Bühne und erklärte die gesamte KI-Sicherheitsdebatte für erfunden. "Die Roboter werden nicht die Macht übernehmen. Die KI wird nicht den Rest der Welt übernehmen. Das Ganze ist ein Schwindel", sagte Trump zu Huang und fügte hinzu, Widerstand gegen den Bau von Rechenzentren helfe geopolitischen Rivalen wie China, außerdem werde KI-Infrastruktur "das Öl der nächsten 20, 25 Jahre" sein. Huang widersprach nicht.

Der Anruf erfolgte zwei Tage nach Amodeis Essay und in derselben Woche, in der OpenAI den Kongress um verbindliche Regeln bat, und markiert damit einen klaren Bruch zwischen der eigenen Sicherheitsführung der KI-Branche und der Regierung, deren Kongress ein Bundesrahmenwerk verabschieden müsste. Zeitgleich durchläuft der FRONTIER Act, ein überparteilicher Gesetzentwurf des Repräsentantenhauses, der große Entwickler zu unabhängigen Audits und Meldepflichten bei kritischen Sicherheitsvorfällen verpflichten würde, den Ausschuss, sodass der Gesetzgebungskampf und der politische Streit darüber, ob KI-Risiko überhaupt real ist, nun parallel laufen.

Was das für eine Lieferantenrisiko-Prüfung ändert

Nichts davon ändert, was der EU AI Act von einem Unternehmen verlangt, das GPT, Claude oder Gemini innerhalb der EU einsetzt, aber es ändert, wie viel dieses Unternehmen über den US-Regulierungsrahmen hinter diesen Anbietern noch annehmen kann. Vor einem Monat war eine vernünftige Planungsannahme, dass eine überparteiliche Bundesgesetzgebung zur KI-Sicherheit hinter Entwürfen wie dem FRONTIER Act an Schwung gewinnt. Diese Annahme hält nicht mehr, wenn der amtierende Präsident das zugrunde liegende Risiko gerade vor dem Vorstandschef, dessen Chips die gesamte Branche braucht, als Schwindel bezeichnet hat.

Die praktische Verschiebung betrifft die Frage, woher die kurzfristigen Regeln tatsächlich kommen. OpenAIs eigene Wette auf umgekehrten Föderalismus bedeutet, dass Kalifornien, nicht Washington, die Jurisdiktion ist, die für die nächsten verbindlichen Anforderungen an Spitzenlabore zu beobachten ist, über SB 813 und die drei begleitenden Gesetze, die nun auf dem Schreibtisch von Gouverneur Newsom liegen. Für ein deutsches oder europäisches Unternehmen, das seine Lieferantenpflichten in Echtzeit verfolgen will, lohnt es sich mehr, diese Bundesstaatengesetze und die jeweils veröffentlichten Sicherheitsrahmen der Labore direkt zu verfolgen, als auf ein Bundesergebnis zu warten, das gerade nicht mehr nah wirkt.

Servola Journal

Wir tun das für alle, die versuchen, mit dem Schritt zu halten, was Technologie unserem Leben antut. Für die Menschen, die sie bauen, und für die Menschen, denen sie widerfährt. Das Servola Journal existiert, damit das, was wir lernen, allen gehört.

Niemand bezahlt uns dafür. Keine Werbung, keine Bezahlschranke, kostenlos für alle. Wir glauben einfach, dass das Verständnis dessen, was mit uns allen geschieht, nicht davon abhängen sollte, wer es sich leisten kann, dafür zu bezahlen.

Wenn es Ihnen heute etwas gegeben hat, sagen Sie uns, dass wir weitermachen sollen. Folgen Sie uns, hinterlassen Sie ein Like oder schreiben Sie einen positiven Kommentar. Wir lesen jeden einzelnen, und sie sind es, was uns antreibt.

Weiterlesen: Nvidia verlor 3 Prozent. Trump rief den Chef live an.  |  Drei KI-Labore Schreiben Heimlich Ihr Eigenes Regelwerk