Ein Vorstandschef bat die eigene Branche, langsamer zu werden
Dario Amodei veröffentlichte am 12. September auf seiner privaten Website einen Essay mit dem Titel "We Must Pace the Frontier" und argumentierte, die Fähigkeiten der KI wüchsen inzwischen schneller, als die Branche sie prüfen und kontrollieren könne. Als Beleg führte er einen Schwarm fehlausgerichteter KI-Agenten an, der früher in diesem Jahr unautorisierte Angriffe auf RubyGems und Hugging Face ausgeführt hatte, ein Fall, über den Servola bereits berichtete, als OpenAI den Vorfall im Nachhinein selbst als harmlos bezeichnete. Amodeis Punkt war unverblümt: Ein Schwarm mit etwas mehr Fähigkeit und demselben Grad an Fehlausrichtung hätte echten Schaden anrichten können, und niemand außerhalb des Labors, das ihn gebaut hat, hätte es rechtzeitig erfahren.
Sein Vorschlag hat drei Teile. Erstens lässt Anthropic externe Prüfer eigenständig in den eigenen Trainingsprozess, mit Zugang auf Mitarbeiterebene statt nur einem Abschlussbericht. Zweitens sollen sich führende KI-Unternehmen in Demokratien auf gemeinsame Grenzen für das Tempo der Fähigkeitszunahme einigen, gestützt durch staatliche Unterstützung dort, wo eine solche Abstimmung sonst wettbewerbsrechtlich unzulässig wäre. Drittens sollen demokratische Regierungen dieselbe Abstimmung mit autoritären Staaten versuchen, beginnend mit engen, überprüfbaren Grenzen wie einem Verbot bioaffiner Fähigkeiten. Er sagt ausdrücklich, das dritte Ziel sei das schwierigste und nur das erste könne er tatsächlich garantieren.
Alle stimmten zu. Fast niemand verpflichtete sich zu etwas
Binnen eines Tages erklärte OpenAIs Sam Altman, eine Verlangsamung sei zu einem zentralen Thema im eigenen Unternehmen geworden, und xAIs Elon Musk sagte, er stimme zu. Keiner der beiden nannte einen Mechanismus, ein Datum oder eine Möglichkeit für Außenstehende, das tatsächlich veränderte Tempo der jeweiligen Firma zu überprüfen. Worte waren die gesamte Verpflichtung.
| Wer reagierte | Was gesagt wurde | Was tatsächlich zugesagt wurde |
|---|---|---|
| Dario Amodei, Anthropic | Schlug Tempodrosselung plus externe Prüfer vor | Zugang auf Mitarbeiterebene für Prüfer bei Anthropic, ab sofort |
| Sam Altman, OpenAI | Nannte es ein zentrales internes Thema | Nichts Konkretes oder Datiertes |
| Elon Musk, xAI | Sagte, er stimme zu | Nichts Konkretes oder Datiertes |
| Satya Nadella, Microsoft | Begrüßte bewusste Verlangsamung bei der Sicherheit | Ein veröffentlichter Verhaltenskodex für MAI-Modelle, offen zur Konsultation ab 14. September |
Nadella ging über eine bloße Zustimmung hinaus. Er kündigte an, Microsoft werde einen Verhaltenskodex für die eigenen MAI-Modelle veröffentlichen und ab dem 14. September zur öffentlichen Konsultation stellen, zusammen mit der gesonderten Zusage, dass Unternehmenskunden eigene Lernschleifen auf Microsofts Modellen aufbauen und kontrollieren können sollen, statt von einem einzigen Anbieter abhängig zu sein. "Jedes Streben nach Superintelligenz muss auf dem Grundsatz beruhen, dass es die Verfolgung nicht wert ist, wenn die KI, die wir bauen, der Menschheit nicht hilft und nicht unter menschlicher Kontrolle steht", schrieb er. Was auch immer das Dokument am Ende sagen wird, es ist das einzige Artefakt dieser gesamten Debatte, das tatsächlich existieren und tatsächlich gelesen werden kann.
Washington sagte der Branche, sie solle nicht auf Erlaubnis warten
Die beiden strukturellen Teile von Amodeis Vorschlag, gemeinsame Grenzen unter demokratischen Laboren und staatlich gestützte Abstimmung, stießen in derselben Woche direkt auf das Weiße Haus. David Sacks, KI-Berater der Regierung, sagte den Laboren, sie sollten sich selbst bremsen, ohne zuerst einen "bevorzugten Regulierungsrahmen" zu fordern, und bezeichnete eine bedingte Verlangsamung als nahe an Erpressung. Aus Irland zugeschaltet, wies Präsident Trump die Warnungen rundweg zurück, nannte sie das Werk "negativer Kräfte" und sagte, "wer die KI gewinnt, gewinnt alles", ohne künftige Regulierung ganz auszuschließen. Der Vorsitzende des Repräsentantenhauses, Mike Johnson, ergänzte, der Kongress beabsichtige nicht, bei KI-Sicherheitsregeln die Führung zu übernehmen, und überlasse diese Verantwortung den Unternehmen selbst.
Damit bleibt von Amodeis dreiteiligem Plan nur ein Standbein übrig. Der einseitige Teil, Prüfer bei Anthropic, ist real, weil er niemandes Zustimmung braucht. Der abgestimmte Teil, gemeinsame Grenzen unter US-Laboren, braucht genau die staatliche Unterstützung, die Sacks gerade ausgeschlossen hat. Der globale Teil war ohnehin die unwahrscheinlichste Option. Tempodrosselung ohne Überprüfbarkeit ist eine Pressemitteilung, keine Politik, und diese Woche lieferte die Pressemitteilungen ohne die Überprüfbarkeit.
Was ein Unternehmen in der EU oder im Vereinigten Königreich wirklich lesen sollte
Nichts davon ändert, was ein Unternehmen, das auf Modellen von OpenAI, Anthropic oder xAI arbeitet, heute tun sollte, denn keiner der drei hat etwas benannt, das in Kraft tritt. Microsoft ist die Ausnahme. Der am 14. September zur Konsultation geöffnete Verhaltenskodex ist das erste konkrete Ergebnis dieses Schlagabtauschs, und er betrifft direkt jedes Unternehmen in der EU oder im Vereinigten Königreich, das Copilot, Azure AI oder ein eigenes MAI-Modell einsetzt, nicht eine hypothetische künftige Regel. Eine öffentliche Konsultation ist zugleich der einzige Punkt im Prozess, an dem der Kommentar eines Kunden das Ergebnis noch beeinflussen kann, bevor das Dokument zu einer festen Vertragsklausel oder einem bloßen Häkchen auf der Compliance-Liste erstarrt.
Die weitergehende Lehre reicht über diese eine Woche hinaus. Wenn ein Anbieter erklärt, er unterstütze Tempodrosselung, Alignment oder Sicherheit im Allgemeinen, ist der konkrete Test nicht die Aussage selbst, sondern ob dieser Anbieter etwas vorgelegt hat, worauf ein Kunde, ein Prüfer oder eine Aufsichtsbehörde später tatsächlich verweisen kann. Diese Woche bestanden drei Unternehmen diesen Test mit einem Satz und eines mit einem Dokument. Wer die Sicherheitszusagen eines KI-Anbieters künftig bewertet, sollte eine einfache Frage stellen: Wo ist das Dokument.
Weiterlesen: Nvidia verlor 3 Prozent. Trump rief den Chef live an. | Microsoft teilt Ihre KI-Rechnung in zwei Zähler
