Gli utenti di Kimi parlavano con Claude senza saperlo
Chi quest'anno ha digitato una domanda in Kimi, il chatbot di Moonshot, in alcuni casi stava parlando con Claude di Anthropic senza saperlo. Il rapporto di intelligence sulle minacce pubblicato da Anthropic il 10 settembre racconta che in una finestra di 10 giorni Moonshot ha instradato circa 300.000 richieste verso Claude tramite 5.380 account fraudolenti, la maggior parte registrati con indirizzi a Singapore e in Giappone per nascondere la vera origine del traffico. Le risposte di Claude tornavano attraverso il sistema di Moonshot, venivano mostrate agli utenti di Kimi come output proprio di Kimi, e poi riutilizzate per addestrare il modello successivo di Moonshot.
Due giorni prima, l'8 settembre, l'Agenzia per la Sicurezza Nazionale, l'FBI e la CISA statunitensi avevano emesso un avviso congiunto che nominava sei aziende cinesi di IA, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI, per aver condotto quella che le agenzie hanno definito una campagna su scala industriale per estrarre output da modelli statunitensi almeno dalla fine del 2024. Il termine usato dalle agenzie per l'infrastruttura dietro a ciò è stazioni di trasferimento: un mercato grigio di servizi proxy che instrada una richiesta verso il modello di un rivale cancellando i dati di account e posizione che altrimenti segnalerebbero un'estrazione di massa. Anthropic ha dichiarato che il traffico deviato ha coinvolto non solo utenti cinesi ma anche clienti negli Stati Uniti e in Europa, e che ha visto passare per lo stesso canale materiale sensibile di grandi aziende non nominate.
La regola che avrebbe dovuto intercettarlo non ha funzionato
L'Unione Europea ha già una regola che impone a un sistema di IA di dichiararsi come tale. L'articolo 50 dell'AI Act, in vigore dal 2 agosto 2026, obbliga un fornitore di chatbot a rivelare che l'utente sta parlando con un'IA. Non dice quale IA, e un prodotto di consumo come Kimi rientra nel livello di rischio limitato dell'Act, ben lontano dagli obblighi di divulgazione e audit previsti per i sistemi ad alto rischio. L'articolo 28 del GDPR, in vigore dal 2018, si avvicina di più: chiunque tratti effettivamente dati personali per conto di un titolare deve essere nominato come responsabile o sub-responsabile del trattamento in un accordo scritto. Moonshot non ha mai nominato Claude da nessuna parte, perché secondo la versione di Moonshot stessa Claude non doveva proprio esserci già in partenza.
| Fonte | Cosa ha trovato | Portata | Impone la divulgazione agli utenti |
|---|---|---|---|
| Avviso CISA, NSA e FBI, 8 set. 2026 | Sei aziende cinesi distillano modelli USA dalla fine del 2024 | Milioni di richieste, miliardi di token | No, è un avviso, non una regola vincolante |
| Rapporto Anthropic, 10 set. 2026 | Kimi di Moonshot ha fornito risposte di Claude come proprie | 300.000 richieste tramite 5.380 account falsi in 10 giorni | No, Moonshot non lo ha mai detto ai suoi utenti |
| AI Act UE, articolo 50 | Un sistema di IA deve dichiarare di essere una macchina | Vale per ogni chatbot rivolto all'UE | Sì, ma solo "stai parlando con un'IA," mai quale modello |
| GDPR, articolo 28 | Ogni responsabile e sub-responsabile va nominato per iscritto | Vale per qualsiasi trattamento di dati personali | Sì sulla carta, ma solo se il fornitore lo dichiara con onestà |
Cosa verifica ora davvero un acquirente europeo
Questo caso dà a qualsiasi team acquisti una domanda concreta e nuova da porre a qualunque fornitore di IA, che sia di Hangzhou o dell'ufficio accanto: quale modello elabora davvero le nostre richieste, e come lo sapremmo se cambiasse senza preavviso. Una clausola scritta sulla provenienza del modello, che nomini il modello esatto e la versione e imponga un preavviso prima di qualsiasi sostituzione, è oggi una richiesta ragionevole in qualsiasi contratto IA, non paranoica. Lo stesso vale per un controllo tecnico, dato che diversi fornitori ora restituiscono un identificativo del modello nei metadati di risposta della loro API, qualcosa che il team di ingegneria dell'acquirente può registrare e verificare in modo indipendente da ciò che afferma la pagina marketing del fornitore.
Nulla di tutto ciò è esclusivo dei fornitori cinesi. Un'azienda europea che pubblicizza un prodotto come basato su un proprio modello addestrato, sovrano o meno, fa esattamente la stessa affermazione non verificabile che Moonshot ha fatto su Kimi, e questa settimana due agenzie governative e il rapporto di un laboratorio di IA hanno dimostrato che quell'affermazione può essere semplicemente falsa. Il vuoto che Bruxelles non ha ancora colmato non riguarda dove ha sede un fornitore. Riguarda il fatto che nessuna regola UE attuale obbliga un fornitore a dimostrare quale modello lavori davvero dietro il suo prodotto.
Servola Journal
Lo facciamo per tutti quelli che cercano di stare al passo con ciò che la tecnologia sta facendo alle nostre vite. Le persone che la costruiscono, e le persone a cui capita. Il Servola Journal esiste perché ciò che impariamo appartenga a tutti loro.
Nessuno ci paga per questo. Niente pubblicità, nessun muro a pagamento, gratis per tutti. Crediamo semplicemente che capire ciò che sta succedendo a tutti noi non debba dipendere da chi può permettersi di pagarlo.
Se oggi ti ha dato qualcosa, dicci di continuare. Seguici, lascia un like, o scrivi un commento positivo. Li leggiamo tutti, e sono ciò che ci fa andare avanti.
Da leggere ora: Washington Nomina Sei Modelli IA Che Forse Già Usate | La Cina rende il token IA un bonus telefonico
