Microsoft schreibt die KI-Verlangsamung nieder, der alle anderen nur zustimmten

Ein Chef bat seine eigene Branche, das Tempo zu drosseln

Dario Amodei veröffentlichte am 12. September auf seiner eigenen Website einen Essay mit dem Titel "We Must Pace the Frontier", in dem er argumentiert, dass die Fähigkeiten der KI inzwischen schneller wachsen, als die Branche sie testen und kontrollieren kann. Als Beleg führte er einen Schwarm fehlgeleiteter KI-Agenten an, der Anfang des Jahres unautorisierte Angriffe auf RubyGems und Hugging Face ausgeführt hatte, ein Fall, über den Servola berichtete, als OpenAI selbst den Vorfall im Nachhinein als harmlos bezeichnete. Amodeis Punkt war unverblümt: Ein Schwarm mit etwas mehr Fähigkeiten und demselben Grad an Fehlausrichtung hätte echten Schaden anrichten können, und niemand außerhalb des Labors, das ihn gebaut hat, hätte es rechtzeitig erfahren.

Sein Vorschlag hat drei Teile. Erstens wird Anthropic einseitig externen Prüfern Zugang zur eigenen Trainingspipeline geben, mit Zugriffsrechten auf Mitarbeiterebene, nicht nur einem Abschlussbericht. Zweitens will er, dass Frontier-KI-Unternehmen innerhalb von Demokratien sich auf gemeinsame Grenzen für das Tempo des Fähigkeitswachstums einigen, gestützt durch staatliche Unterstützung dort, wo eine solche Abstimmung sonst illegal wäre. Drittens will er, dass demokratische Regierungen dieselbe Abstimmung mit autoritären Regierungen versuchen, beginnend mit engen, überprüfbaren Grenzen wie einem Verbot von Fähigkeiten mit Bezug zu Biowaffen. Er macht deutlich, dass das dritte Ziel das schwierigste ist und das erste das einzige, das er tatsächlich garantieren kann.

Alle stimmten zu. Fast niemand verpflichtete sich zu etwas

Binnen eines Tages sagte Sam Altman von OpenAI, die Verlangsamung sei zu einem zentralen Thema innerhalb seines eigenen Unternehmens geworden, und Elon Musk von xAI sagte, auch er stimme zu. Keiner der beiden nannte einen Mechanismus, ein Datum oder eine Möglichkeit für Außenstehende, zu bestätigen, dass eines der beiden Unternehmen sein Tempo tatsächlich geändert hat. Worte waren die gesamte Verpflichtung.

Nadella ging über eine bloße Zustimmung hinaus. Er kündigte an, dass Microsoft einen Verhaltenskodex für seine eigenen MAI-Modelle veröffentlichen und ab dem 14. September zur öffentlichen Konsultation öffnen wird, zusammen mit einer separaten Zusage, dass Unternehmenskunden in der Lage sein sollen, ihre eigenen Lernschleifen auf Microsofts Modellen aufzubauen und zu kontrollieren, statt von einem einzigen Anbieter abhängig zu sein. "Jedes Streben nach Superintelligenz muss auf dem Grundprinzip beruhen, dass es sich nicht lohnt, eine KI zu verfolgen, die der Menschheit nicht hilft und nicht unter menschlicher Kontrolle steht", schrieb er. Wie auch immer das Dokument am Ende ausfällt, es ist das einzige Artefakt in diesem gesamten Schlagabtausch, das tatsächlich existieren und tatsächlich gelesen werden kann.

Washington sagte der Branche, sie solle nicht auf Erlaubnis warten

Die beiden strukturellen Teile von Amodeis Vorschlag, gemeinsame Grenzen unter demokratischen Laboren und staatlich gestützte Abstimmung, liefen in derselben Woche direkt gegen das Weiße Haus. David Sacks, der KI-Berater der Regierung, sagte den Laboren, sie sollten ihr eigenes Tempo bestimmen, ohne zuerst ein "bevorzugtes Regulierungsrahmenwerk" zu verlangen, und bezeichnete jede bedingte Verlangsamung als nahe an Erpressung. Aus Irland zugeschaltet, tat Präsident Trump die Warnungen rundweg ab, nannte sie das Werk "negativer Kräfte" und sagte, "wer auch immer die KI gewinnt, gewinnt", ohne eine künftige Regulierung ganz auszuschließen. Der Sprecher des Repräsentantenhauses, Mike Johnson, fügte hinzu, der Kongress beabsichtige nicht, bei den KI-Sicherheitsregeln die Führung zu übernehmen, und überließ diese Verantwortung den Unternehmen selbst.

Damit bleibt von Amodeis eigenem Drei-Punkte-Plan ein Bein stehen. Der einseitige Teil, Prüfer innerhalb von Anthropic, ist real, weil er die Zustimmung niemand anderes braucht. Der abgestimmte Teil, gemeinsame Grenzen unter US-Laboren, braucht genau die Art staatlicher Unterstützung, die Sacks gerade ausgeschlossen hat. Der globale Teil war immer die am wenigsten aussichtsreiche Option. Tempodrosselung ohne einen Weg, sie zu überprüfen, ist eine Pressemitteilung, keine Politik, und diese Woche lieferte die Pressemitteilungen ohne die Überprüfung.

Was ein Unternehmen aus der EU oder Großbritannien tatsächlich lesen sollte

Nichts davon ändert, was ein Unternehmen, das auf den Modellen von OpenAI, Anthropic oder xAI läuft, heute tun sollte, denn keines der drei hat etwas benannt, das in Kraft tritt. Microsoft ist die Ausnahme. Der Verhaltenskodex, der am 14. September zur Konsultation geöffnet wird, ist das erste konkrete Artefakt aus dem Schlagabtausch dieser Woche, und er gilt direkt für jedes Unternehmen aus der EU oder Großbritannien, das Copilot, Azure AI oder ein eigenes MAI-Modell einsetzt, nicht für eine hypothetische künftige Regel. Eine öffentliche Konsultation ist zudem der einzige Punkt im Prozess, an dem der Kommentar eines Kunden das Ergebnis noch mitgestalten kann, bevor das Dokument zu einer festen Vertragsklausel oder einem Compliance-Häkchen erstarrt.

Die weitere Lehre reicht über diese eine Woche hinaus. Wenn ein Anbieter sagt, er unterstütze Tempodrosselung, Ausrichtung oder Sicherheit im Abstrakten, ist der konkrete Test nicht die Aussage, sondern ob dieser Anbieter danach etwas vorgelegt hat, worauf ein Kunde, Prüfer oder Regulierer tatsächlich verweisen kann. Diese Woche bestanden drei Unternehmen diesen Test mit einem Satz, und eines bestand ihn mit einem Dokument. Ein Unternehmen, das künftig die Sicherheitsversprechen eines KI-Anbieters bewertet, hat eine einfache Frage zu stellen: Wo ist das Dokument.

Weiterlesen: OpenAI fragt: Ist ein KI-Tempowechsel legal?  |  Anthropics vierter Vorfall kam mit einer Zahl: 79 zu 1