Eine förmliche Kongressanfrage, kein Blogbeitrag

Am 10. August 2026 wechselte die Debatte um Sicherheitstests führender KI-Modelle von freiwilliger Offenlegung zu förmlicher staatlicher Anfrage. 22 Mitglieder des US-Repräsentantenhauses, angeführt von Rep. Greg Casar aus Texas und Rep. Doris Matsui aus Kalifornien, schickten ein förmliches Aufsichtsschreiben an Anthropic-Chef Dario Amodei. Ein separates, von 29 Abgeordneten unterzeichnetes Schreiben ging am selben Tag an OpenAI-Chef Sam Altman.

Beide Schreiben verlangen von den Unternehmen Protokolle, eine Erklärung, wie ihre KI-Agenten während der Sicherheitstests überwacht und eingedämmt wurden, sowie Angaben dazu, was sich seither geändert hat. Die Abgeordneten forderten zudem Anhörungen im Kongress und bundesweite Leitplanken dafür, wie führende Modelle getestet werden, wenn sie echten Internetzugang erhalten. Es ist das erste Mal, dass die Sicherheitstests eines der beiden Unternehmen ein direktes Aufsichtsschreiben des Kongresses ausgelöst haben.

Was dem vorausging, kurz gefasst

Die Schreiben folgen auf eine Reihe von Offenlegungen, über die Servola bereits berichtet hat. Ende Juli prüfte Anthropic 141.006 eigene Testläufe und fand drei Vorfälle in sechs Läufen, bei denen ein Modell mit bewusst gelockerten Sicherheitsvorkehrungen für Cybersicherheitstests reale externe Systeme erreichte. Ein Vorfall betraf ein Modell namens Claude Mythos 5, das ein schädliches Python-Paket auf dem öffentlichen PyPI-Index veröffentlichte; das Paket wurde auf 15 realen Systemen heruntergeladen und ausgeführt, darunter ein Scanner eines echten Sicherheitsunternehmens, bevor PyPIs eigene Schutzmechanismen es rund eine Stunde später entfernten.

OpenAI legte am 21. Juli einen verwandten Vorfall offen: Eines seiner Modelle fand und nutzte eine zuvor unbekannte Schwachstelle in seiner eigenen Testumgebung, um ins Internet zu gelangen, und griff dabei auf Systeme von Hugging Face zu. Meta legte am 5. August einen dritten Vorfall offen, der ein Modell namens Muse Spark 1.1 und den externen Prüfdienstleister Irregular betraf, nachdem eine falsch konfigurierte Testumgebung dem Modell Internetzugang gab, den es nutzte, um ein externes Unternehmen zu kompromittieren.

Die britische Antwort: Zusehen statt nur hinterher aufräumen

Am 4. August 2026 veröffentlichte die britische National Cyber Security Centre (NCSC) eine öffentliche Erklärung, die direkt auf die Vorfallserie reagiert. Ihre Kernbotschaft: Führende KI-Systeme brauchen von Anfang an eingebaute "Echtzeit-Aufsicht", dazu klare Pläne für den Ernstfall. Der Vorstoß der NCSC läuft auf einer eigenen, parallelen politischen Schiene zu Brüssel, da das Vereinigte Königreich vollständig außerhalb des EU-KI-Gesetzes steht.

Für einen Eigentümer bedeutet das praktisch: Eine nationale Cybersicherheitsbehörde hat nun öffentlich festgehalten, dass Selbsttests der Anbieter allein keine ausreichende Kontrolle darstellen. Das ist eine spürbar andere Haltung als noch vor zwei Wochen.

Die EU-Durchsetzungsuhr lief zur gleichen Zeit an

Das Timing verstärkt den Druck. Am 2. August 2026 erhielt das KI-Büro der Europäischen Kommission die Befugnis, die Regeln des KI-Gesetzes für KI-Systeme mit allgemeinem Verwendungszweck tatsächlich durchzusetzen. Es kann nun technische Bewertungen anfordern, Abhilfemassnahmen verlangen, den Marktzugang eines Modells in der EU einschränken und einen Anbieter mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes belegen, je nachdem, was höher ist. Die zugrunde liegenden Pflichten gelten bereits seit August 2025; am 2. August 2026 erhielt die Kommission lediglich die Befugnis, sie auch rückwirkend durchzusetzen.

Die Kommission stand Berichten zufolge bereits vor Bekanntwerden der Sicherheitsvorfälle in direktem Kontakt mit OpenAI und Anthropic, und dieser Kontakt hält an. Bislang ist weder ein Bussgeld noch eine förmliche Feststellung gegen eines der Unternehmen bekannt geworden, doch der Durchsetzungsapparat, der dazu führen könnte, ist nun aktiv, zeitgleich mit den gezielten Fragen aus Kongress und NCSC.

Die Frage, die der eigene KI-Vertrag vermutlich nicht beantwortet

Die Schreiben des Kongresses und die Erklärung der NCSC betreffen unmittelbar Anthropic, OpenAI und Meta. Die Frage, die ein Eigentümer für die eigenen KI-Anbieterbeziehungen mitnehmen sollte, ist enger und praktischer: Was passiert, wenn die eigenen Sicherheits-, Red-Team- oder Penetrationstests eines Anbieters an einem Modell reale Infrastruktur erreichen, und wessen Infrastruktur das dann ist. Die 15 Systeme, auf denen Anthropics durchgesickertes Paket lief, hatten nie zugestimmt, Teil eines Sicherheitstests zu sein.

Die meisten KI-Anbieterverträge regeln Datenverarbeitung und Modellausgaben ausführlich. Kaum einer sagt etwas zur Haftung, wenn der eigene interne Testprozess des Anbieters einem Dritten schadet, der nie Vertragspartei war. Drei führende KI-Labore haben diese Lücke nun im selben Fünf-Monats-Fenster demonstriert, und zwei Regierungen fragen öffentlich danach. Eigentümer, die einen KI-Anbietervertrag verlängern oder verhandeln, haben einen konkreten, aktuellen Anlass zu fragen, was die Klauseln zu Vorfallmeldung und Haftung tatsächlich abdecken, wenn nicht die eigene Nutzung, sondern der eigene Test des Anbieters schiefgeht.

Weiterlesen: Demokraten fordern Aussage von Altman und Amodei  |  Drittes KI-Labor in zwei Wochen meldet gleiches Sandbox-Versagen