Kimi-gebruikers spraken met Claude zonder het te weten
Wie dit jaar een vraag typte in Kimi, de chatbot van Moonshot, sprak in sommige gevallen met Claude van Anthropic zonder het te weten. Anthropics eigen dreigingsrapport, gepubliceerd op 10 september, meldt dat Moonshot in een venster van 10 dagen ongeveer 300.000 verzoeken naar Claude doorstuurde via 5.380 frauduleuze accounts, de meeste geregistreerd met adressen in Singapore en Japan om de werkelijke herkomst van het verkeer te verhullen. De antwoorden van Claude kwamen terug via het systeem van Moonshot, werden aan Kimi-gebruikers getoond als eigen output van Kimi, en werden vervolgens hergebruikt om het volgende model van Moonshot te trainen.
Twee dagen eerder, op 8 september, hadden de Amerikaanse National Security Agency, de FBI en CISA in een gezamenlijke waarschuwing zes Chinese AI-bedrijven genoemd, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun en Z.AI, wegens het voeren van wat de instanties een campagne op industriële schaal noemden om sinds minstens eind 2024 output van Amerikaanse modellen te onttrekken. De term van de instanties voor de infrastructuur erachter is overstapstations: een grijze markt van proxydiensten die een verzoek naar het model van een concurrent leidt en daarbij account- en locatiegegevens wist die het verkeer anders als bulkextractie zouden kenmerken. Anthropic zei dat het omgeleide verkeer niet alleen Chinese gebruikers trof, maar ook klanten in de Verenigde Staten en Europa, en dat gevoelig materiaal van ongenoemde grote bedrijven via hetzelfde kanaal passeerde.
De regel die dit had moeten onderscheppen, werkte niet
De Europese Unie heeft al een regel die verlangt dat een AI-systeem zich als machine bekendmaakt. Artikel 50 van de AI-verordening, van kracht sinds 2 augustus 2026, verplicht een chatbotaanbieder te melden dat een gebruiker met AI praat. Welke AI, zegt het niet, en een consumentenproduct zoals Kimi valt onder de beperkt-risiconiveau van de verordening, ver verwijderd van de openbaarmakings- en auditverplichtingen voor hoogrisicosystemen. Artikel 28 van de AVG, van kracht sinds 2018, komt dichterbij: elke partij die daadwerkelijk persoonsgegevens verwerkt namens een verwerkingsverantwoordelijke moet als verwerker of subverwerker worden genoemd in een schriftelijke overeenkomst. Moonshot heeft Claude nergens genoemd, want volgens Moonshots eigen lezing hoorde Claude daar helemaal niet thuis.
| Bron | Wat werd gevonden | Omvang | Dwingt openbaarmaking aan gebruikers af |
|---|---|---|---|
| CISA-, NSA- en FBI-waarschuwing, 8 sep. 2026 | Zes Chinese bedrijven destilleren Amerikaanse modellen sinds eind 2024 | Miljoenen verzoeken, miljarden tokens | Nee, het is een waarschuwing, geen bindende regel |
| Anthropic-dreigingsrapport, 10 sep. 2026 | Kimi van Moonshot leverde Claude-antwoorden als eigen werk | 300.000 verzoeken via 5.380 nepaccounts in 10 dagen | Nee, Moonshot heeft zijn gebruikers nooit ingelicht |
| EU AI-verordening, artikel 50 | Een AI-systeem moet melden dat het een machine is | Geldt voor elke chatbot met EU-gebruikers | Ja, maar alleen "u spreekt met AI," nooit welk model |
| AVG, artikel 28 | Elke verwerker en subverwerker moet schriftelijk worden genoemd | Geldt voor elke verwerking van persoonsgegevens | Ja op papier, maar alleen als de leverancier het eerlijk meldt |
Wat een EU-inkoper nu daadwerkelijk controleert
Deze zaak geeft elk inkoopteam een concrete nieuwe vraag om aan elke AI-leverancier te stellen, of die nu in Hangzhou zit of om de hoek: welk model verwerkt onze verzoeken echt, en hoe zouden we merken als dat zonder melding zou veranderen. Een schriftelijke clausule over modelherkomst, die het exacte model en de versie noemt en vooraf melding verplicht bij elke vervanging, is vandaag een redelijk verzoek in elk AI-contract, geen paranoia. Hetzelfde geldt voor een technische controle, aangezien verschillende leveranciers nu een modelidentificatie teruggeven in de API-responsmetadata, iets wat het eigen engineeringteam van de koper onafhankelijk van de marketingpagina van de leverancier kan loggen en controleren.
Niets hiervan is uniek voor Chinese leveranciers. Een Europees bedrijf dat een product adverteert als draaiend op een eigen getraind model, soeverein of niet, doet precies dezelfde niet-verifieerbare bewering die Moonshot deed over Kimi, en deze week toonden twee overheidsinstanties en het eigen rapport van een AI-lab dat die bewering gewoon onwaar kan zijn. De leemte die Brussel nog niet heeft gedicht, gaat niet over waar een leverancier gevestigd is. Ze gaat over het feit dat geen enkele huidige EU-regel een leverancier dwingt te bewijzen welk model daadwerkelijk achter zijn product draait.
Servola Journal
We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.
Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.
Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.
Lees hierna: Washington Noemt Zes AI-Modellen Die U Mogelijk Al Gebruikt | China maakt van AI-tokens een belbundelextraatje
