Was Sisson und Jiang tatsächlich vorschlagen

Melanie Sisson, Senior Fellow an der Brookings Institution, und Tianjiao Jiang, außerordentliche Professorin an der Fudan-Universität, nehmen seit langem am Brookings-Tsinghua US-China AI and National Security Dialogue teil, einem informellen Track-Two-Kanal, der seit 2019 läuft. In einem diesen Monat veröffentlichten Papier empfehlen sie ein formelles Verbot, KI autonom Atomwaffen abfeuern oder Atomkommando-, Kontroll- und Kommunikationssysteme angreifen zu lassen, sowie dieselbe Pflicht zur menschlichen Genehmigung für Cyberangriffe auf kritische Infrastruktur: Finanzen, Gesundheit, Energie und Verkehr. Zudem schlagen sie eine eigene militärische US-China-Hotline für Vorfälle vor, die durch KI-Fehler oder KI-gestützte Cyberangriffe ausgelöst werden, aufbauend auf bestehenden Verteidigungskommunikationskanälen, sowie eine gemeinsame Arbeitsgruppe, die klären soll, was "sinnvolle menschliche Kontrolle" tatsächlich bedeutet, da beide Länder derzeit unterschiedliche Begriffe dafür verwenden.

Die Empfehlungen bauen direkt auf einer Vereinbarung vom November 2024 auf, in der die Präsidenten Biden und Xi bekräftigten, dass Menschen und nicht KI über den Einsatz von Atomwaffen entscheiden sollten. Sisson und Jiang unternehmen nun den ersten Versuch, dieses eine Prinzip in einen funktionierenden Mechanismus für ein Cyberangriffsszenario zu übersetzen, nicht nur für eine Startentscheidung.

Warum es zählt: Das Zeitfenster für Entscheidungen ist das Problem

Jiang nennt drei konkrete Hindernisse dafür, dass all das in der Praxis funktioniert. Cyberangriffe können sich in Millisekunden abspielen, schneller als ein Mensch physisch reagieren kann. Die Zuordnung ist schwierig: Oft ist im Moment unklar, ob ein staatlicher oder ein nichtstaatlicher Akteur einen KI-gestützten Angriff gestartet hat. Und die Undurchsichtigkeit von KI-Systemen erschwert es beiden Seiten, einzuschätzen, wozu die Systeme der anderen Seite tatsächlich fähig sind, was beide zu Worst-Case-Annahmen über die Fähigkeiten des Gegenübers drängt. Eine Hotline statt eines Vertrags ist die vorgeschlagene Antwort, weil ein Vertrag in den Minuten, die ein echter Vorfall lässt, nicht angerufen werden kann.

Die Klausel zu kritischer Infrastruktur reicht über Militärs hinaus. Der vorgeschlagene Standard, menschliche Genehmigung vor jedem Cyberangriff mit möglicher Sachzerstörung, Umweltverschmutzung, sozialem Chaos oder weitverbreiteter Krankheit, Verletzung oder Tod, kommt einer Vorlage nahe, wie jeder Betreiber von Finanz-, Gesundheits-, Energie- oder Verkehrssystemen irgendwann nachweisen müsste, dass ein Mensch bei KI-bezogenen Vorfällen eingebunden bleibt.

Timing: vor einem Treffen, nicht anstelle eines Treffens

Die Empfehlungen wurden vor einem geplanten Treffen der Präsidenten Trump und Xi am 24. September 2026 in Washington veröffentlicht, sowie vor einem erwarteten formellen US-China-Dialog zu KI auf Regierungsebene. Sisson und Jiang stellen das Papier als Material für Unterhändler dar, nicht als bereits erzielte Einigung, und keine der beiden Regierungen hat die konkreten Vorschläge gebilligt.

Track-Two-Dialoge, Expertenkanäle mit informellem Regierungszugang, aber ohne Verhandlungsmandat, haben eine reale Geschichte darin, den Wortschatz zu liefern, den formelle Abkommen später übernehmen; die Atomkontroll-Formel von Biden und Xi aus dem Jahr 2024 geht selbst auf einen ähnlichen Prozess zurück. Ob etwas von dieser Hotline- oder Rote-Linien-Sprache nach dem 24. September wieder auftaucht, ist das, was es als Nächstes zu beobachten gilt.

Was das bedeutet, wenn Sie kritische Infrastruktur betreiben

Nichts davon ist heute bindend. Aber die vorgeschlagene Klausel zu kritischer Infrastruktur zeigt vorab, wie Erwartungen an KI-Vorfallreaktion und menschliche Aufsicht aussehen könnten, denen Betreiber aus Finanzen, Gesundheit, Energie und Verkehr irgendwann begegnen dürften, nicht nur Militärs. Betrachten Sie dieses Papier als frühen Anhaltspunkt dafür, wie "Mensch im Entscheidungsprozess" für KI-Sicherheitsvorfälle formal definiert wird, und prüfen Sie nach dem Trump-Xi-Treffen, ob eine der beiden Regierungen darauf Bezug nimmt.

Weiterlesen: OpenAI will KI-Regeln, Weißes Haus nennt es Schwindel  |  Die EU hat Ihre KI-Verordnung-Frist um 16 Monate verschoben