Ein Veto vor der Veröffentlichung, gerichtlich überprüfbar

Mehrheitsführer John Thune, Handelsausschussvorsitzender Ted Cruz und Senatorin Amy Klobuchar verhandeln einen Entwurf, der eine gesetzliche Sorgfaltspflicht für Unternehmen schaffen würde, die die fortschrittlichsten KI-Modelle bauen, mit der Pflicht, Produkte ausdrücklich so zu gestalten, dass katastrophale Risiken verhindert werden. Der diskutierte Mechanismus ist ungewöhnlich: Die US-Regierung erhielte die Macht, die Veröffentlichung eines als unsicher eingestuften Modells zu blockieren, wobei das Unternehmen diese Entscheidung erst danach vor einem Bundesgericht anfechten könnte. Über wie viel Blockademacht die Regierung tatsächlich erhält, wird noch verhandelt.

Der Entwurf nennt Google, Anthropic und OpenAI als Unternehmen, deren leistungsfähigste Systeme getestet würden, konkret darauf, ob ein Modell einem Akteur mit böser Absicht bei einem ausgeklügelten Cyberangriff oder der Entwicklung einer biologischen oder nuklearen Waffe helfen könnte.

Ein anderer Mechanismus als in der EU

Der EU AI Act funktioniert nicht so. Artikel 55 verpflichtet Anbieter von Modellen mit systemischem Risiko, schwerwiegende Vorfälle dem AI Office zu melden, das Konformitätsbewertungen und Marktüberwachung durchführt, hält aber keine ständige Befugnis, die Veröffentlichung eines Modells vorab zu blockieren, abgesichert nur durch eine nachträgliche gerichtliche Anfechtung. Was der Senat verhandelt, ähnelt eher einem Vorab-Genehmigungstor als allem, was derzeit in Brüssel läuft, ein auf dem Papier stärkeres Werkzeug, selbst wenn sein Anwendungsbereich enger bleibt, beschränkt auf die Handvoll Unternehmen, die Systeme im Spitzenmaßstab bauen.

Was im selben Entwurf gestrichen wird

Der Vorschlag enthält zudem eine Vorrangklausel, die US-Bundesstaaten daran hindern würde, eigene KI-Gesetze durchzusetzen, eine Bestimmung, die bereits geltende Regeln außer Kraft setzen würde, darunter Kaliforniens SB 1119, das Gesetz zur Offenlegungspflicht für Kinderschutz bei Chatbots. Für ein europäisches oder britisches Unternehmen, das in den USA tätig ist oder beobachtet, wie schnell die eigenen KI-Anbieter sich an sich ändernde Regeln anpassen, lautet die praktische Lehre, dass selbst ein Entwurf, der um eine starke neue Bundesbefugnis herum gebaut ist, gleichzeitig Schutzmaßnahmen aufheben kann, die anderswo im selben Markt bereits bestehen. Eine Verabschiedung steht nicht kurz bevor: Das Repräsentantenhaus tagt vor den Zwischenwahlen am 3. November nur eine Woche, der Senat drei, und die Kernbedingungen des Entwurfs sind noch nicht festgelegt.

Weiterlesen: Kaliforniens Chatbot-Kinderschutzgesetz übertrifft die EU-Regeln  |  Anthropics vierter Vorfall kam mit einer Zahl: 79 zu 1