Et volumental afslørede, hvad ingen offerhenvendelse nogensinde gjorde

Anthropics team for trusselsefterretning opløste et svindelnetværk bygget op omkring dating-apps, der brugte Claude til at generere over 4.700 forskellige AI-personaer, ifølge virksomhedens trusselsrapport offentliggjort den 10. september 2026 med titlen Detecting and Countering Misuse of AI: September 2026. Disse personaer udvekslede omkring 2,36 millioner beskeder med mindst 25.000 mennesker alene i et to-ugers vindue i april 2026. Anthropic siger, at netværket omfattede omkring 28 forbundne dating-apps, herunder offentligt navngivne apps som Dora, Doni, Romi, Luma, Jovia, Kira, Gracechat, Haven, Nalo og Lovia.

Det bemærkelsesværdige er ikke svindlen i sig selv, som er et velkendt mønster i et nyt netværk, men hvordan den kom for dagens lys. Ifølge Anthropics egen fremstilling blev operationen opdaget, fordi en forudbetalt konto sendte over 100.000 API-forespørgsler om dagen, et volumenmønster, der skilte sig ud i sig selv, uafhængigt af enhver brugerklage eller enhver indholdsbaseret registrering, der markerede en samtale som mistænkelig.

Hvorfor det betyder noget: regningen var advarslen

De fleste svindel- og misbrugsprogrammer er bygget til at overvåge indhold, resultater og brugerhenvendelser: ligner en besked svindel, har nogen markeret den, blev en betaling bestridt. Anthropics egen fremstilling af denne sag beskriver et andet signal, der stod for opdagelsen, et usædvanligt mønster i det rå brugsvolumen på en enkelt konto. Det er en forskel, det er værd at dvæle ved. En forudbetalt konto med over 100.000 forespørgsler om dagen er den slags tal, der dukker op på et brugsdashboard eller en faktura, ikke i en kø til indholdsmoderation.

For enhver virksomhed, der driver sit eget produkt på en forbrugsafregnet AI-API, uanset om det er en chatbot, et supportværktøj eller en intern arbejdsgang, er den praktiske konsekvens, at overvågning af brugsvolumen i sig selv er en svindelkontrol, ikke blot en post i omkostningsstyringen. En pludselig, vedvarende stigning i antallet af forespørgsler fra en enkelt konto eller en enkelt integration fortjener at blive sendt videre til en sikkerhedsgennemgang, ikke kun til en faktureringsadvarsel.

Netværket bag personaerne

Anthropics rapport beskriver dating-apperne som overvejende autonomt AI-styrede samtaler, hvor personaerne udgav sig for at være ægte romantiske matches i stedet for at afsløre, at det var en chatbot, der svarede. Anthropics trusselsefterretningsforsker fortalte offentligt om sagen på sikkerhedskonferencen Sleuthcon den 5. juni 2026, i et oplæg med titlen Swipe Right, Pay Up: Industrial-Scale AI Catfishing, og beskrev et netværk af omkring 28 forbundne apps, der delte kode og infrastruktur nok til at blive behandlet som en enkelt operation snarere end 28 separate.

Anthropic beskriver sin egen offentliggørelse som frivillig; der findes ingen brancheomfattende pligt til, at en AI-udbyder skal indberette misbrug, den selv opdager på sin egen platform, hvilket betyder, at indblikket i denne sag kun findes, fordi Anthropic valgte at offentliggøre den.

Hvad dette betyder for ethvert team med et forbrugsafregnet AI-produkt

Det konkrete skridt for ethvert team, der driver et AI-produkt med forbrugsafregning, er at opsætte alarmer på anomalier i forespørgselsvolumen på kontoniveau, ikke kun på udgiftsgrænser, og sende vedvarende, uforklarede stigninger videre til en svindel- eller misbrugsgennemgang, ikke kun en finansiel. Operatørerne bag dette dating-app-netværk blev afsløret af netop den slags tal, som en legitim kunde ved et uheld kunne udløse, et stort, pludseligt hop i de daglige forespørgsler. Læren er ikke, at svindelopdagelse har brug for bedre AI. Den er, at en virksomheds egne brugsdata, læst som mønster og ikke kun som omkostning, allerede er et svindelsignal, som de fleste teams ikke bruger.

Læs videre: Din NIS2-trusselsmodel gik ud fra den forkerte angriber  |  De Bedste AI-hackingværktøjer Er Nu Kun på Invitation