Kimi-Nutzer sprachen mit Claude, ohne es zu wissen
Wer dieses Jahr eine Frage in Moonshots Chatbot Kimi tippte, sprach in manchen Fällen mit Anthropics Claude, ohne es zu wissen. Anthropics eigener Bedrohungsbericht vom 10. September beschreibt, dass Moonshot in einem 10-Tage-Fenster rund 300.000 Anfragen über 5.380 betrügerische Konten an Claude weiterleitete, die meisten davon auf Adressen in Singapur und Japan registriert, um die wahre Herkunft des Datenverkehrs zu verschleiern. Die Claude-Antworten kamen durch Moonshots System zurück, wurden Kimi-Nutzern als Kimis eigene Ausgabe gezeigt und anschließend zum Training des nächsten Moonshot-Modells genutzt.
Zwei Tage zuvor, am 8. September, hatten die US-Behörden NSA, FBI und CISA in einer gemeinsamen Warnung sechs chinesische KI-Firmen genannt, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun und Z.AI, denen eine industrielle Kampagne zur Entnahme von US-Modell-Ausgaben seit mindestens Ende 2024 vorgeworfen wird. Die Behörden nennen die dahinterstehende Infrastruktur Transferstationen: einen grauen Markt aus Proxy-Diensten, der eine Anfrage an ein fremdes Modell leitet und dabei Konto- und Standortdaten verwischt, die sie sonst als Massenentnahme kennzeichnen würden. Laut Anthropic betraf der abgezweigte Verkehr nicht nur chinesische Nutzer, sondern auch Kunden in den USA und Europa, und es seien sensible Daten namentlich nicht genannter Großunternehmen durch dieselbe Leitung gelaufen.
Die Regel, die das hätte abfangen sollen, griff nicht
Die Europäische Union hat bereits eine Regel, die verlangt, dass ein KI-System sich als Maschine zu erkennen gibt. Artikel 50 des AI Act, seit dem 2. August 2026 in Kraft, verpflichtet Chatbot-Anbieter offenzulegen, dass ein Nutzer mit KI spricht. Welche KI, sagt er nicht, und ein Konsumentenprodukt wie Kimi fällt in die risikoarme Stufe des AI Act, weit entfernt von den Offenlegungs- und Prüfpflichten für Hochrisikosysteme. GDPR-Artikel 28, seit 2018 in Kraft, kommt näher heran: Jede Partei, die im Auftrag eines Verantwortlichen tatsächlich personenbezogene Daten verarbeitet, soll als Auftragsverarbeiter oder Unterauftragsverarbeiter in einer schriftlichen Vereinbarung genannt werden. Moonshot nannte Claude nirgendwo, denn laut Moonshots eigener Darstellung sollte Claude dort gar nicht vorkommen.
| Quelle | Befund | Umfang | Erzwingt Offenlegung gegenüber Nutzern |
|---|---|---|---|
| CISA-, NSA- und FBI-Warnung, 8. Sep. 2026 | Sechs chinesische Firmen destillieren US-Modelle seit Ende 2024 | Millionen Anfragen, Milliarden Tokens | Nein, nur eine Warnung, keine bindende Regel |
| Anthropic-Bedrohungsbericht, 10. Sep. 2026 | Kimi lieferte Claude-Antworten als eigene aus | 300.000 Anfragen über 5.380 falsche Konten in 10 Tagen | Nein, Moonshot informierte seine Nutzer nie |
| EU AI Act, Artikel 50 | Ein KI-System muss offenlegen, dass es eine Maschine ist | Gilt für jeden Chatbot mit EU-Bezug | Ja, aber nur "Sie sprechen mit KI," nie welches Modell |
| GDPR, Artikel 28 | Jeder Auftrags- und Unterauftragsverarbeiter muss schriftlich benannt werden | Gilt für jede Verarbeitung personenbezogener Daten | Ja auf dem Papier, aber nur wenn der Anbieter ehrlich offenlegt |
Was ein Einkäufer in der EU jetzt tatsächlich prüft
Dieser Fall liefert Einkaufsteams eine konkrete neue Frage an jeden KI-Anbieter, egal ob der in Hangzhou sitzt oder nebenan: Welches Modell verarbeitet unsere Anfragen wirklich, und woran würden wir merken, wenn sich das unangekündigt ändert. Eine schriftliche Klausel zur Modellherkunft, die das genaue Modell samt Version nennt und eine Ankündigungspflicht vor jedem Austausch verlangt, ist heute eine vernünftige Forderung in jedem KI-Vertrag, keine paranoide. Ebenso eine technische Prüfung, denn mehrere Anbieter liefern mittlerweile eine Modellkennung in den API-Antwortdaten, die das eigene Engineering-Team unabhängig von den Werbeaussagen des Anbieters protokollieren und prüfen kann.
Das betrifft nicht nur chinesische Anbieter. Ein europäisches Unternehmen, das ein Produkt als auf einem eigenen, souverän trainierten Modell laufend bewirbt, macht genau dieselbe nicht verifizierbare Behauptung, die Moonshot über Kimi machte, und diese Woche zeigten zwei Behörden und der eigene Bericht eines KI-Labors, dass eine solche Behauptung schlicht falsch sein kann. Die Lücke, die Brüssel noch nicht geschlossen hat, betrifft nicht den Firmensitz eines Anbieters. Sie betrifft die Tatsache, dass keine geltende EU-Regel einen Anbieter zwingt zu beweisen, welches Modell tatsächlich hinter seinem Produkt läuft.
Servola Journal
Wir machen das für alle, die versuchen mit dem Schritt zu halten, was die Technologie mit unserem Leben macht. Für die Menschen, die sie bauen, und für die Menschen, denen sie widerfährt. Das Servola Journal existiert, damit das, was wir lernen, allen von ihnen gehört.
Niemand bezahlt uns dafür. Keine Werbung, keine Bezahlschranke, kostenlos für alle. Wir glauben einfach, dass das Verstehen dessen, was mit uns allen geschieht, nicht davon abhängen sollte, wer es sich leisten kann, dafür zu bezahlen.
Wenn es Ihnen heute etwas gegeben hat, sagen Sie uns, dass wir weitermachen sollen. Folgen Sie uns, hinterlassen Sie ein Like, oder schreiben Sie einen positiven Kommentar. Wir lesen jeden einzelnen, und sie sind es, was uns weitermachen lässt.
Weiterlesen: Washington nennt sechs KI-Modelle, die Sie schon nutzen | China macht KI-Token zum Handytarif-Bonus
