Eine Mengenangabe entlarvte, was keine Opfermeldung je hatte

Anthropics Team für Bedrohungsanalyse zerschlug ein Betrugsnetzwerk rund um Dating-Apps, das Claude nutzte, um mehr als 4.700 eigenständige KI-Personas zu erzeugen, wie aus dem am 10. September 2026 veröffentlichten Bedrohungsbericht mit dem Titel Detecting and Countering Misuse of AI: September 2026 hervorgeht. Diese Personas tauschten allein in einem zweiwöchigen Zeitfenster im April 2026 rund 2,36 Millionen Nachrichten mit mindestens 25.000 Menschen aus. Anthropic zufolge umfasste das Netzwerk rund 28 miteinander verbundene Dating-Apps, darunter öffentlich genannte wie Dora, Doni, Romi, Luma, Jovia, Kira, Gracechat, Haven, Nalo und Lovia.

Bemerkenswert ist nicht der Betrug selbst, der bei neuen Netzwerken ein vertrautes Muster ist, sondern wie er auffiel. Anthropics eigener Darstellung zufolge wurde der Betrieb entdeckt, weil ein Prepaid-Konto mehr als 100.000 API-Anfragen pro Tag sendete, ein Nutzungsmuster, das für sich genommen auffiel, unabhängig von jeder Nutzerbeschwerde oder jeder inhaltsbasierten Erkennung, die ein Gespräch als verdachtig markiert hatte.

Warum es zählt: Die Rechnung war die Warnung

Die meisten Betrugs- und Missbrauchsprogramme sind darauf ausgelegt, Inhalte, Ausgaben und Nutzermeldungen zu beobachten: Sieht eine Nachricht nach Betrug aus, hat sie jemand gemeldet, wurde eine Zahlung angefochten. Anthropics eigene Darstellung dieses Falls beschreibt ein anderes Signal, das den Betrug entlarvte, ein ungewöhnliches Muster im reinen Nutzungsvolumen eines einzelnen Kontos. Das ist ein Unterschied, bei dem es sich zu verweilen lohnt. Ein Prepaid-Konto mit über 100.000 Anfragen pro Tag ist die Art von Zahl, die auf einem Nutzungs-Dashboard oder einer Rechnung auftaucht, nicht in einer Moderationswarteschlange für Inhalte.

Für jedes Unternehmen, das ein eigenes Produkt auf einer nutzungsbasierten KI-API betreibt, ob Chatbot, Support-Tool oder internen Arbeitsablauf, ergibt sich daraus die praktische Konsequenz, dass die Überwachung des Nutzungsvolumens selbst eine Betrugskontrolle ist, nicht nur ein Posten im Kostenmanagement. Ein plötzlicher, anhaltender Anstieg der Anfragen von einem einzelnen Konto oder einer einzelnen Integration ist ein Signal, das eine Sicherheitsprüfung verdient, nicht nur eine Abrechnungswarnung.

Das Netzwerk hinter den Personas

Anthropics Bericht beschreibt die Dating-Apps als weitgehend autonom KI-gesteuerte Gespräche, in denen sich die Personas als echte romantische Matches ausgaben, statt offenzulegen, dass ein Chatbot antwortete. Die verantwortliche Bedrohungsanalystin von Anthropic sprach am 5. Juni 2026 öffentlich auf der Sicherheitskonferenz Sleuthcon über den Fall, in einem Vortrag mit dem Titel Swipe Right, Pay Up: Industrial-Scale AI Catfishing, und beschrieb ein Netzwerk aus rund 28 verbundenen Apps, die sich Code und Infrastruktur so stark teilten, dass sie als ein einziger Betrieb und nicht als 28 getrennte zu behandeln seien.

Anthropic bezeichnet seine eigene Offenlegung als freiwillig; es gibt keine branchenweite Pflicht, dass ein KI-Anbieter Missbrauch meldet, den er auf seiner eigenen Plattform entdeckt, weshalb der Einblick in diesen Fall nur deshalb besteht, weil Anthropic sich zur Veröffentlichung entschied.

Was das für jedes Team mit einem nutzungsbasierten KI-Produkt bedeutet

Der konkrete Schritt für jedes Team, das ein KI-Produkt mit nutzungsbasierter Abrechnung betreibt, ist eine Alarmierung bei Anomalien im Anfragevolumen auf Kontoebene einzurichten, nicht nur bei Ausgabenschwellen, und anhaltende, unerklärte Spitzen an eine Betrugs- oder Missbrauchsprüfung weiterzuleiten, nicht nur an die Finanzabteilung. Die Betreiber hinter diesem Dating-App-Netzwerk wurden durch genau die Art von Zahl entlarvt, die auch ein legitimer Kunde versehentlich auslösen könnte, einen großen, plötzlichen Sprung bei den täglichen Anfragen. Die Lehre daraus ist nicht, dass die Betrugserkennung bessere KI braucht. Sie ist, dass die eigenen Nutzungsdaten eines Unternehmens, nach Mustern statt nur nach Kosten gelesen, bereits ein Betrugssignal sind, das die meisten Teams noch nicht nutzen.

Weiterlesen: Ihr NIS2-Bedrohungsmodell hat den falschen Angreifer angenommen  |  Die besten KI-Hacking-Tools sind jetzt nur auf Einladung