Un numero di volume ha scoperto ciò che nessuna segnalazione ha mai fatto

Il team di intelligence sulle minacce di Anthropic ha smantellato una rete di frode costruita attorno ad app di incontri che usava Claude per generare oltre 4.700 persone IA distinte, secondo il rapporto sulle minacce dell'azienda pubblicato il 10 settembre 2026, intitolato Detecting and Countering Misuse of AI: September 2026. Quelle persone hanno scambiato circa 2,36 milioni di messaggi con almeno 25.000 persone in una sola finestra di due settimane nell'aprile 2026. Anthropic afferma che la rete comprendeva circa 28 app di incontri collegate tra loro, incluse alcune nominate pubblicamente come Dora, Doni, Romi, Luma, Jovia, Kira, Gracechat, Haven, Nalo e Lovia.

Ciò che colpisce non è la frode in sé, uno schema ormai familiare in una nuova rete, ma come sia emersa. Secondo la versione di Anthropic, l'operazione è stata scoperta perché un account prepagato inviava oltre 100.000 richieste API al giorno, uno schema di volume evidente di per sé, indipendentemente da qualsiasi segnalazione di un utente o da qualsiasi rilevamento a livello di contenuto che segnalasse una conversazione come sospetta.

Perché conta: la fattura era l'avviso

La maggior parte dei programmi antifrode e antiabuso è costruita per osservare contenuti, esiti e segnalazioni degli utenti: un messaggio sembra una truffa, qualcuno lo ha segnalato, un pagamento è stato contestato. Il racconto di Anthropic di questo caso descrive un segnale diverso come quello che ha portato alla scoperta, uno schema insolito nel volume grezzo di utilizzo di un singolo account. È una distinzione su cui vale la pena soffermarsi. Un account prepagato con oltre 100.000 richieste al giorno è il tipo di numero che compare su una dashboard di utilizzo o su una fattura, non in una coda di moderazione dei contenuti.

Per qualsiasi azienda che gestisce un proprio prodotto su un'API IA a consumo, che si tratti di un chatbot, uno strumento di supporto o un flusso di lavoro interno, l'implicazione pratica è che il monitoraggio del volume di utilizzo è di per sé un controllo antifrode, non solo una voce di gestione dei costi. Un picco improvviso e prolungato nel volume di richieste da un singolo account o una singola integrazione merita una revisione di sicurezza, non solo un avviso di fatturazione.

La rete dietro le persone

Il rapporto di Anthropic descrive le app di incontri come conversazioni guidate in modo in gran parte autonomo dall'IA, in cui le persone si spacciavano per veri interessi romantici invece di rivelare che a rispondere era un chatbot. La ricercatrice di intelligence sulle minacce di Anthropic ha parlato pubblicamente del caso alla conferenza sulla sicurezza Sleuthcon il 5 giugno 2026, in un intervento intitolato Swipe Right, Pay Up: Industrial-Scale AI Catfishing, descrivendo una rete di circa 28 app collegate che condividevano codice e infrastruttura al punto da dover essere trattate come un'unica operazione e non come 28 separate.

Anthropic definisce la propria divulgazione come volontaria; non esiste alcun obbligo di settore che imponga a un fornitore di IA di segnalare l'abuso scoperto sulla propria piattaforma, motivo per cui la visibilità su questo caso esiste solo perché Anthropic ha scelto di pubblicarla.

Cosa significa per chi gestisce un prodotto IA a consumo

Il passo concreto per qualsiasi team che gestisce un prodotto IA con fatturazione a consumo è impostare avvisi sulle anomalie nel volume di richieste a livello di account, non solo sulle soglie di spesa, e indirizzare i picchi prolungati e inspiegati a una revisione antifrode, non solo a quella finanziaria. Gli operatori dietro questa rete di app di incontri sono stati scoperti dallo stesso tipo di numero che un cliente legittimo potrebbe innescare per errore, cioè un salto grande e improvviso nelle richieste giornaliere. La lezione però non è che il rilevamento delle frodi ha bisogno di un'IA migliore. È che i dati di utilizzo di un'azienda, letti come schema e non solo come costo, sono già un segnale di frode che la maggior parte dei team non sta usando.

Da leggere ora: Il vostro modello di minaccia NIS2 puntava sull'attaccante sbagliato  |  I migliori strumenti di IA per l'hacking sono ora solo su invito