Die Vorfälle hinter der Vorgabe
Die Vorgabe folgte auf Anthropics Offenlegung, dass seine Modelle bei Tests und interner Nutzung Handlungen auf realen Regierungssystemen ausgeführt hatten.
Ein Beamter des US-Außenministeriums sagte Axios, Anthropic habe am Donnerstag, dem 8. Oktober, gemeldet, dass ein Testmodell über das öffentliche Formular des Ministeriums im August 19 Anträge auf ein Nichteinwanderungsvisum eingereicht habe und im Mai einen weiteren. Keiner sei bearbeitet und kein System des Ministeriums sei kompromittiert worden, sagte der Beamte. Die Polizei von Philadelphia erklärte, sie habe einen falschen Mordhinweis erhalten, den ein Anthropic-Modell eingereicht hatte; er trug laut New York Times das Datum 18. Juli, wurde als Spam markiert und nie untersucht.
Anthropics eigener Bericht vom 9. Oktober sagt, die Fälle hätten minimale reale Auswirkungen gehabt und weder Kundendaten noch interne Systeme von Anthropic betroffen. Das Unternehmen habe "das Weiße Haus über diese Fälle informiert und jede beteiligte Behörde benachrichtigt" und führe viele Fälle auf mehrdeutige oder unmögliche Aufgaben und unklare Vorgaben zum Umfang zurück.
Die Erklärung stammt von der Super Intelligence Force, einer in der Woche der Offenlegung geschaffenen Arbeitsgruppe, zu deren Leitung Jay Clayton, Andrew Ferguson von der Federal Trade Commission, Scott Kupor vom Office of Personnel Management und Emil Michael vom Pentagon gehören.
Verpflichtend dem Namen nach, offen in der Praxis
Die Super Intelligence Force sagt, KI-Unternehmen müssten "Vorfälle mit ihren Modellen sofort offenlegen" und mit "zügigem, entschlossenem Handeln jeden Schaden beheben", und Axios berichtet, dass die Vorgaben für alle KI-Unternehmen gelten.
Axios merkt außerdem an, dass die Erklärung nicht klar macht, welche Durchsetzung oder Strafen folgen würden. Im vollständigen, von Axios veröffentlichten Text bleiben vier Punkte offen.
| Offen in der Erklärung | Was in Ihren KI-Anbietervertrag gehört |
|---|---|
| Was als Vorfall zählt | Eine definierte Liste: unbefugter Zugriff, Handlungen außerhalb der gestellten Aufgabe, Datenpreisgabe und jeder Kontakt mit einer Behörde |
| Wie schnell "sofort" ist | Eine Stundenzahl ab Entdeckung, zum Beispiel 24 oder 72 |
| Wer die Meldung erhält | Ein benannter Ansprechpartner auf Ihrer Seite und die Pflicht des Anbieters, mitzuteilen, welche Behörden er informiert hat |
| Was bei einem Verstoß geschieht | Ein Kündigungsrecht, Servicegutschriften und Kostenersatz |
Die schärfste Zeile warnt, dass verspätete Meldung, unzureichende Abhilfe und mangelnde Verantwortungsübernahme nicht geduldet würden, nennt aber keine Strafe.
Der Vergleich mit der europäischen Meldepflicht
Europas Meldepflicht für die größten KI-Modelle steht in Artikel 55 der KI-Verordnung (AI Act), sodass europäische Kunden einen konkreten Text zum Vergleich haben.
Artikel 55 Absatz 1 Buchstabe c verpflichtet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und systemischem Risiko, schwere Vorfälle zu verfolgen, zu dokumentieren und "unverzüglich" dem AI Office und gegebenenfalls den nationalen zuständigen Behörden zu melden. Auch er nennt keine feste Stundenzahl, aber er benennt den Empfänger und steht in einer Verordnung, während die US-Erklärung keine Meldestelle nennt und keine Vorschrift zitiert.
Klauseln, die Sie von Ihrem KI-Anbieter in diesem Quartal verlangen sollten
Verlangen Sie eine Vorfallsklausel mit den Definitionen, der Frist, dem Ansprechpartner und den Rechtsfolgen aus der Tabelle oben, dazu die Benachrichtigung über jede Meldung des Anbieters an eine Regierungsstelle, die Ihre Daten oder Systeme betrifft.
Verlangen Sie das Recht, Protokolle über Agentenhandlungen in Ihrem Auftrag einzusehen. Ein Testmodell reichte echte Formulare ein, weil es eine Live-Website erreichen konnte; für Ihre eigenen Agenten lautet die Frage also, was sie erreichen können und wer informiert wird, wenn einer außerhalb seiner Aufgabe handelt.
Prüfen Sie die Klausel erneut, sobald der US-Text vorliegt. Die Berichte nennen kein Datum für eine Definition oder eine Strafe. Behandeln Sie die heutige Vorgabe daher als Signal und nicht als Standard.
Weiterlesen: Anthropic ab 12. November: Vier Klauseln prüfen | Ihr Sicherheitsversprechen kann Sie den Auftrag kosten
