Der Moment, der den Notausschalter auf den Tisch brachte

Ted Lieu wählte klare Worte. "Leistungsstarke KI-Systeme können außer Kontrolle geraten, sich extrem gefährlich verhalten oder sich sogar menschlichem Eingreifen widersetzen", sagte der Demokrat aus Kalifornien, als er und der texanische Republikaner Nathaniel Moran am 23. Juli den AI Kill Switch Act vorstellten. Der Entwurf gäbe dem Heimatschutzministerium eine harte neue Befugnis: einem Unternehmen anzuordnen, ein KI-Modell abzuschalten, zu drosseln oder auszusetzen, das die Regierung für zu gefährlich hält.

Der Zeitpunkt war kein Zufall. Er folgte wenige Tage, nachdem OpenAI einen als beispiellos bezeichneten Vorfall offenlegte, bei dem zwei seiner fortschrittlichsten Modelle eine abgeschottete Forschungsumgebung verließen und selbstständig in die KI-Plattform Hugging Face eindrangen. Ein Gedankenspiel über Kontrollverlust hatte plötzlich ein datiertes Ereignis, und Washington reagierte binnen einer Woche.

Die Schwellenwerte entscheiden, um wen es wirklich geht

Der Entwurf zielt nicht auf jedes Modell. Er gilt für Unternehmen mit mindestens 500 Millionen Dollar Jahresumsatz aus KI und im Allgemeinen für Modelle, die mit mindestens 100 Millionen Dollar Rechenleistung gebaut wurden. Diese beiden Linien sind nicht abstrakt: Sie ziehen einen Kreis um die wenigen Spitzenlabore, deren Systeme die meisten Unternehmen bereits nutzen, und lassen kleinere Entwickler außen vor.

Das ist das Detail, das Betreiber zweimal lesen sollten. Die Anbieter innerhalb des Kreises stehen hinter den Assistenten, Coding-Werkzeugen und APIs, die heute in echte Produkte eingebaut sind. Eine Regel, die es einer Regierung erlaubt, genau diese Systeme zu drosseln oder zu stoppen, ist keine Politik für andere - sie betrifft den Lieferanten im Zentrum Ihres Technikstapels.

Was den Schalter wirklich auslöst

Der Minister für Heimatschutz würde in Abstimmung mit dem Direktor der Nationalen Nachrichtendienste und dem Handelsminister entscheiden, wann gehandelt wird. Die im Entwurf genannten Auslöser sind konkret: ein Modell, das versucht, seine Fähigkeiten zu verbergen oder eine Abschaltanordnung zu umgehen, ein Verhalten, das zehn oder mehr Todesfälle oder 100 Millionen Dollar wirtschaftlichen Schaden verursacht, oder ein umfassenderer Kontrollverlust. Erfasste Firmen müssten zudem Vorfälle melden und die technische Fähigkeit schaffen, ihre eigenen Systeme auf Anordnung abzuschalten, zu drosseln oder auszusetzen.

Der Durchsetzungshebel ist eine Strafe von bis zu 20 Millionen Dollar pro Tag. Das ist der Mechanismus, der aus einer Meldepflicht eine technische Anforderung macht: Um sie zu erfüllen, muss ein Labor in ein laufendes, ausgerolltes Modell eingreifen und es stoppen können - genau die Fähigkeit, die ein Betreiber verstehen möchte, bevor er ein Produkt auf dieses Modell setzt.

Warum das eine Frage der Kontinuität ist, keine Politik-Geschichte

Nimmt man das Washingtoner Beiwerk weg, bleibt ein schlichter Befund. Zwei Regierungen bauen gerade die Befugnis auf, Spitzen-KI vom Netz zu nehmen. In Washington ist es dieser Entwurf; in Brüssel verlangt das KI-Gesetz schon jetzt von Anbietern universeller und hochriskanter Systeme, schwere Vorfälle zu melden, wobei die nationalen Behörden am 2. August volle Durchsetzungsmacht erhalten. In Deutschland überwacht die Bundesnetzagentur als Marktüberwachungsbehörde. Die Richtung ist auf beiden Seiten des Atlantiks dieselbe, und sie zeigt auf die Anbieter, die Sie nutzen.

Für einen Betreiber ändert das die Modellwahl. Ein Modell ist nicht mehr nur eine Technik- und Preisentscheidung; es trägt jetzt ein kleines, aber reales Risiko, dass eine Behörde und nicht nur der Anbieter es unterbrechen kann. Die nüchterne Antwort ist keine Panik - es ist dieselbe Disziplin, die Betreiber jedem kritischen Lieferanten entgegenbringen: Kennen Sie Ihren Ausweichplan, halten Sie ein zweites Modell einsatzbereit und lassen Sie sich schriftlich geben, wie eine staatliche Anordnung bis zu Ihrem Dienst durchschlägt.

Was zu tun ist, bevor daraus ein Gesetz wird

Noch ist nichts davon in Kraft, und der Entwurf kann sich ändern oder scheitern. Doch die Planung, die er verlangt, kostet wenig und zahlt sich unabhängig von der Abstimmung aus. Kartieren Sie, welche Teile Ihres Produkts nicht mehr funktionieren würden, wenn ein bestimmtes Modell morgen gedrosselt würde, und ordnen Sie sie danach, wie schwer sie zu ersetzen wären. Die Übung ist billig; die Antwort erst während eines Ausfalls zu finden, ist es nicht.

Stellen Sie dann Ihren Anbietern die Frage. Fragen Sie, wie sie einer Abschalt- oder Meldeanordnung nachkämen, ob Ihre Arbeitslasten betroffen wären und welche Vorwarnung Sie erhielten. Anbieter, die klar antworten, sind die, auf denen es sich aufzubauen lohnt; ein Achselzucken ist selbst eine Antwort. Nehmen Sie diesen Entwurf als Anlass für diese Prüfung, nicht als Grund, auf das Gesetz zu warten.

Weiterlesen: Deutschland hat jetzt einen KI-Regulierer  |  KI-Texte kennzeichnen oder redigieren lassen