Een volumecijfer ontdekte wat geen enkele slachtoffermelding ooit deed
Anthropic's team voor dreigingsinformatie ontmantelde een oplichtingsnetwerk rond datingapps dat Claude gebruikte om meer dan 4.700 afzonderlijke AI-persona's te genereren, blijkens het dreigingsrapport van het bedrijf, gepubliceerd op 10 september 2026 onder de titel Detecting and Countering Misuse of AI: September 2026. Die persona's wisselden alleen al in een venster van twee weken in april 2026 zo'n 2,36 miljoen berichten uit met minstens 25.000 mensen. Volgens Anthropic omvatte het netwerk zo'n 28 met elkaar verbonden datingapps, waaronder publiekelijk genoemde apps als Dora, Doni, Romi, Luma, Jovia, Kira, Gracechat, Haven, Nalo en Lovia.
Opvallend is niet de fraude zelf, een inmiddels vertrouwd patroon bij een nieuw netwerk, maar hoe die aan het licht kwam. Volgens Anthropic's eigen lezing werd de operatie ontdekt omdat een prepaid account meer dan 100.000 API-verzoeken per dag verstuurde, een volumepatroon dat op zichzelf opviel, los van elke gebruikersklacht of elke detectie op inhoudsniveau die een gesprek als verdacht markeerde.
Waarom het telt: de rekening was de waarschuwing
De meeste fraude- en misbruikprogramma's zijn gebouwd om inhoud, resultaten en gebruikersmeldingen te volgen: ziet een bericht eruit als oplichting, heeft iemand het gemeld, is een betaling betwist. Anthropic's eigen weergave van deze zaak beschrijft een ander signaal dat de ontdekking mogelijk maakte, een ongewoon patroon in het ruwe gebruiksvolume van een enkel account. Dat is een onderscheid dat de moeite waard is. Een prepaid account met meer dan 100.000 verzoeken per dag is het soort getal dat opduikt op een gebruiksdashboard of een factuur, niet in een wachtrij voor contentmoderatie.
Voor elk bedrijf dat een eigen product draait op een AI-API met verbruiksafhankelijke facturering, of dat nu een chatbot, een supporttool of een intern werkproces is, is de praktische implicatie dat het bewaken van het gebruiksvolume op zich al een fraudecontrole is, niet alleen een post in kostenbeheer. Een plotselinge, aanhoudende piek in het aantal verzoeken vanaf een enkel account of een enkele integratie verdient een doorverwijzing naar een beveiligingsbeoordeling, niet alleen naar een factureringswaarschuwing.
Het netwerk achter de persona's
Anthropic's rapport beschrijft de datingapps als grotendeels autonoom door AI aangestuurde gesprekken, waarbij de persona's zich voordeden als echte romantische matches in plaats van te onthullen dat een chatbot antwoordde. De onderzoeker dreigingsinformatie van Anthropic sprak publiekelijk over de zaak op de beveiligingsconferentie Sleuthcon op 5 juni 2026, in een lezing getiteld Swipe Right, Pay Up: Industrial-Scale AI Catfishing, waarin een netwerk van zo'n 28 verbonden apps werd beschreven die genoeg code en infrastructuur deelden om als een enkele operatie te worden behandeld in plaats van 28 aparte.
Anthropic noemt zijn eigen openbaarmaking vrijwillig; er bestaat geen sectorbrede verplichting voor een AI-aanbieder om misbruik te melden dat het op zijn eigen platform ontdekt, waardoor het inzicht in deze zaak alleen bestaat omdat Anthropic ervoor koos het te publiceren.
Wat dit betekent voor elk team met een verbruiksafhankelijk AI-product
De concrete stap voor elk team dat een AI-product met verbruiksafhankelijke facturering runt, is waarschuwingen instellen op afwijkingen in verzoekvolume op accountniveau, niet alleen op uitgavendrempels, en aanhoudende, onverklaarde piekmomenten door te verwijzen naar een fraude- of misbruikbeoordeling, niet alleen naar een financiële. De operators achter dit netwerk van datingapps werden ontdekt door precies het soort getal dat een legitieme klant per ongeluk zou kunnen veroorzaken, een grote, plotselinge sprong in dagelijkse verzoeken. De les is niet dat fraudedetectie betere AI nodig heeft. Het is dat de eigen gebruiksgegevens van een bedrijf, gelezen op patroon in plaats van alleen op kosten, al een fraudesignaal zijn dat de meeste teams niet gebruiken.
Lees hierna: Uw NIS2-dreigingsmodel ging uit van de verkeerde aanvaller | De Beste AI-hacktools Zijn Nu Alleen Op Uitnodiging
