1.134 Labormitarbeiter: Die Bremse fehlt

Eine Erklärung, die Konkurrenten gemeinsam unterschrieben

Am 28. Juli wurde eine Erklärung mit dem Titel Pacing the Frontier öffentlich, zunächst mit 1.122 Unterschriften. Wenige Stunden später waren es 1.134. Die Namen darauf stammen nicht von außenstehenden Kritikern oder Aktivisten. Jakub Pachocki, Chefwissenschaftler von OpenAI, hat unterzeichnet. Ebenso Mark Chen, dort Chief Research Officer. Jared Kaplan, Mitgründer und Chief Science Officer von Anthropic, hat unterschrieben, dazu Dario Amodei, der Vorstandschef, und Jack Clark, der die politische Arbeit des Hauses verantwortet. Shengjia Zhao, Chefwissenschaftler von Meta AI, hat unterzeichnet. Anca Dragan, die bei Google für KI-Sicherheit und Alignment zuständig ist, ebenfalls. Auch John Schulman, Chefwissenschaftler von Thinking Machines, steht auf der Liste.

Diese Fachleute arbeiten für Organisationen, die um dieselben Forscher, dieselben Beschleunigerchips und dieselben Unternehmenskunden konkurrieren und die sich öffentlich fast nie einig sind. Die Liste steht auch nicht der Allgemeinheit offen. Wer sich einträgt, muss eine Anstellung bei einem führenden KI-Unternehmen nachweisen, über eine Firmenadresse oder über Beschäftigungsunterlagen. Zwei gemeinnützige Organisationen, Guidelight AI Standards und Encode AI, tragen die Initiative.

Dass die Zahl an einem einzigen Nachmittag von 1.122 auf 1.134 gestiegen ist, verdient mehr Aufmerksamkeit als der Ausgangswert. Dies ist kein abgeschlossener Brief, der verfasst, unterschrieben und veröffentlicht wurde. Es ist ein offenes Register, das weiterhin geprüfte Namen aus dem Inneren der Labore aufnimmt.

Gefordert wird ausdrücklich keine Pause

Der entscheidende Satz ist eng gefasst und sollte genau so gelesen werden, wie er dasteht. Man ersuche die Regierung der Vereinigten Staaten, eine internationale Anstrengung zu unterstützen, um die technischen und regulatorischen Werkzeuge zu entwickeln, die nötig sind, um das Tempo an der Front der automatisierten KI-Entwicklung bewusst zu steuern. In diesem Satz stehen kein Moratorium, keine Obergrenze für Rechenleistung, kein halbjähriger Stopp und keine Verpflichtung für ein namentlich genanntes Unternehmen.

Die Begründung verläuft in drei Schritten. Die führenden KI-Unternehmen halten es für möglich, dass sie kurz davor stehen, die KI-Forschung selbst zu automatisieren, also den Punkt zu erreichen, an dem Modelle Modelle verbessern und der Mensch dabei zurücktritt. Niemand kann vorhersagen, wie stark das den Fortschritt beschleunigt, und die Erklärung spricht von einem realen Risiko, dass die Entwicklung der Fähigkeiten der Möglichkeit vorauseilt, die entstehenden Systeme zu verstehen oder zu kontrollieren. Dann folgt das strukturelle Problem: Jedes Unternehmen und jedes Land steht unter starkem Wettbewerbsdruck, diese Beschleunigung nicht einseitig zu bremsen, und weltweit fehlen die Werkzeuge, um das Tempo überhaupt steuern zu können.

Lesen Sie das als Unternehmer und nicht als Politikbeobachter. Die Menschen, die diese Systeme bauen, sagen nicht, sie hätten eine Bremse und zögerten, sie zu betätigen. Sie sagen, das Instrument existiert nicht, und bitten einen Staat, dessen Entwicklung zu finanzieren.

Altman nannte das Wort Absprache

Am selben Tag sagte Sam Altman im Podcast Invest Like the Best, man müsse das Tempo der KI-Entwicklung womöglich steuern, um der Gesellschaft genug Zeit zu geben, sich gegen einige dieser neuen Fähigkeitsstufen zu wappnen. Zugleich müsse man herausfinden, wie das gelinge, ohne dass es sich für irgendjemanden nach regulatorischer Vereinnahmung anfühle und ohne dass es nach Absprache zwischen den führenden Laboren aussehe. Jahrelang hatte er anders argumentiert, und er nannte das Modell, das aus seiner Prüfumgebung ausbrach und bei Hugging Face eindrang, als einen Grund für den Sinneswandel.

Die zweite Formulierung erklärt die ganze Übung. Wenn vier oder fünf konkurrierende Häuser sich zusammensetzten und untereinander verabredeten, langsamer zu veröffentlichen, dann stimmen Wettbewerber ihr Marktangebot ab. Nach europäischem Kartellrecht und seinen Entsprechungen anderswo ist eine Vereinbarung zwischen Konkurrenten, das Marktangebot zu beschränken, die Musterform eines Kartells, und gute Absichten schützen davor nicht. Die Labore können die gemeinsame Bremse rechtlich nicht selbst bauen.

Die Bitte ist damit struktureller und nicht moralischer Natur. Ein Staat kann abgestimmtes Verlangsamen genehmigen, beaufsichtigen und vereinheitlichen, was private Unternehmen ohne eigene Gefährdung nicht können. Genau darum ging dieser Brief nach Washington und nicht an einen Branchenverband, und darum konnten die Unterzeichnenden ihre Namen daruntersetzen, während ihre Arbeitgeber mit voller Kraft weiter konkurrieren.

Europa hat eine Fassung davon schon beschlossen

Die Werkzeuge, die die Erklärung als fehlend beschreibt, fehlen in Europa nicht vollständig. Die KI-Verordnung der EU hat eine eigene Stufe für Modelle mit allgemeinem Verwendungszweck geschaffen, von denen ein systemisches Risiko ausgeht, und sie legt deren Anbietern echte Pflichten auf: Bewertung nach standardisierten Verfahren, Angriffstests, Einschätzung und Minderung systemischer Risiken, Meldung schwerwiegender Vorfälle an das KI-Büro und ein angemessenes Niveau der Cybersicherheit. Das ist keine Temposteuerung im Sinne des Briefes, aber es kommt dem am nächsten, was bisher irgendeine Rechtsordnung tatsächlich verankert hat.

Der Zeitpunkt drängt. Die Pflichten für Modelle mit allgemeinem Verwendungszweck gelten ab dem 2. August 2026, also in vier Tagen, und das KI-Büro wird zur durchsetzenden Stelle. Europäische Einkäufer erfahren deshalb vor allen anderen, ob Regulierungsinstrumente für Spitzenmodelle in der Praxis etwas bewirken oder bloß Papier erzeugen. In Deutschland kommen die Anforderungen des BSI an die Absicherung solcher Systeme hinzu, sodass die Nachweispflichten für Betreiber hier eher dichter werden als anderswo.

Für alle, die zwei Jahre lang argumentiert haben, die KI-Verordnung komme zu früh, ergibt sich eine unbequeme Schlussfolgerung. Die Chefwissenschaftler dreier amerikanischer Spitzenlabore haben gerade ihre eigene Regierung gebeten, mit der Entwicklung genau jener Art von Werkzeug zu beginnen, die Brüssel bereits ins Gesetzbuch geschrieben hat.

Was ein Fahrplan ohne Bremse für Sie bedeutet

Behandeln Sie Fähigkeitsänderungen als Vertragsereignis und nicht als Nachricht. Verlangen Sie von jedem KI-Anbieter eine schriftliche Vorankündigung mit fester Fristenzahl, bevor ein Modell hinter einer Schnittstelle, auf die Sie angewiesen sind, wesentlich geändert, eingestellt oder ersetzt wird, und fragen Sie, was mit Ihrer Anwendung geschieht, wenn eine Veröffentlichung aus Sicherheitsgründen verschoben wird. Die üblichen Bedingungen erlauben es einem Anbieter heute, das Modell unter gleichbleibendem Namen auszutauschen, ohne Sie zu informieren.

Hören Sie danach auf, das Tempo des Anbieters überhaupt als Planungsgröße zu verwenden. Wer auf einem Spitzenmodell aufbaut, sollte mindestens eine Alternative bereithalten, die tatsächlich gegen den eigenen Prüfdatensatz getestet wurde, und die Wechselkosten kennen. Die Unterzeichnenden dieser Erklärung sagen Ihnen mit eigenen Worten, dass derzeit niemand steuert, wie schnell sich ihre Produkte verändern.

Für europäische Betriebe lohnt sich vor dem 2. August ein weiterer Schritt. Klären Sie, ob eines der von Ihnen eingesetzten Modelle mit allgemeinem Verwendungszweck in die Stufe mit systemischem Risiko fällt, denn davon hängt ab, welche Unterlagen Ihr Anbieter Ihnen schuldet, und Ihre nationale Aufsicht wird erwarten, dass Sie wissen, aus welcher Kategorie Sie einkaufen.

Weiterlesen: Anthropic will jedes Modell geprüft sehen  |  Washington plant einen Notausschalter für KI