Kimi-användare pratade med Claude utan att veta om det
Den som i år skrev en fråga i Kimi, Moonshots chattbot, pratade i vissa fall med Anthropics Claude utan att veta om det. Anthropics egen hotrapport, publicerad den 10 september, beskriver att Moonshot under ett fönster på 10 dagar dirigerade om cirka 300 000 förfrågningar till Claude via 5 380 bedrägliga konton, de flesta registrerade med adresser i Singapore och Japan för att dölja trafikens verkliga ursprung. Svaren från Claude kom tillbaka genom Moonshots system, visades för Kimi-användare som Kimis egen output, och återanvändes sedan för att träna Moonshots nästa modell.
Två dagar tidigare, den 8 september, hade de amerikanska myndigheterna NSA, FBI och CISA i en gemensam varning namngivit sex kinesiska AI-bolag, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun och Z.AI, för att ha drivit vad myndigheterna kallade en kampanj i industriell skala för att extrahera output från amerikanska modeller sedan åtminstone slutet av 2024. Myndigheternas term för infrastrukturen bakom är överföringsstationer: en gråmarknad av proxytjänster som dirigerar en förfrågan till en konkurrents modell samtidigt som konto- och platsdata raderas, vilket annars skulle märka trafiken som massutvinning. Anthropic sa att den omdirigerade trafiken påverkade inte bara kinesiska användare utan även kunder i USA och Europa, och att känsligt material från icke namngivna större bolag passerade genom samma kanal.
Regeln som borde ha fångat detta gjorde det inte
EU har redan en regel som kräver att ett AI-system uppger sig vara en maskin. Artikel 50 i AI-förordningen, i kraft sedan den 2 augusti 2026, förpliktar en chattbotleverantör att avslöja att en användare pratar med AI. Den säger inget om vilken AI, och en konsumentprodukt som Kimi hamnar i förordningens begränsade risknivå, långt från de avslöjande- och revisionsplikter som skrivits för högrisksystem. GDPR:s artikel 28, i kraft sedan 2018, kommer närmare: varje part som faktiskt behandlar personuppgifter för en personuppgiftsansvarigs räkning ska namnges som personuppgiftsbiträde eller underbiträde i ett skriftligt avtal. Moonshot namngav aldrig Claude någonstans, för enligt Moonshots egen version skulle Claude inte alls finnas där.
| Källa | Vad som hittades | Omfattning | Kräver avslöjande till användare |
|---|---|---|---|
| CISA-, NSA- och FBI-varning, 8 sep 2026 | Sex kinesiska bolag destillerar amerikanska modeller sedan slutet av 2024 | Miljoner förfrågningar, miljarder tokens | Nej, det är en varning, inte en bindande regel |
| Anthropics hotrapport, 10 sep 2026 | Moonshots Kimi levererade Claude-svar som sina egna | 300 000 förfrågningar via 5 380 falska konton på 10 dagar | Nej, Moonshot informerade aldrig sina användare |
| EU:s AI-förordning, artikel 50 | Ett AI-system måste avslöja att det är en maskin | Gäller för varje chattbot med EU-användare | Ja, men bara "du pratar med AI," aldrig vilken modell |
| GDPR, artikel 28 | Varje personuppgiftsbiträde och underbiträde måste namnges skriftligt | Gäller för all behandling av personuppgifter | Ja på pappret, men bara om leverantören avslöjar det ärligt |
Vad en EU-köpare faktiskt kollar nu
Det här fallet ger varje inköpsteam en konkret ny fråga att ställa till vilken AI-leverantör som helst, oavsett om den finns i Hangzhou eller runt hörnet: vilken modell behandlar egentligen våra förfrågningar, och hur skulle vi veta om det ändrades utan förvarning. En skriftlig klausul om modellens ursprung, som namnger exakt modell och version och kräver förhandsbesked inför varje utbyte, är idag en rimlig begäran i vilket AI-avtal som helst, inte en paranoid sådan. Detsamma gäller en teknisk kontroll, eftersom flera leverantörer nu returnerar en modellidentifierare i sin API-svarsmetadata, något köparens eget ingenjörsteam kan logga och granska oberoende av vad leverantörens marknadssida påstår.
Inget av detta är unikt för kinesiska leverantörer. Ett europeiskt bolag som marknadsför en produkt som byggd på en egen tränad modell, suverän eller ej, gör precis samma oprövbara påstående som Moonshot gjorde om Kimi, och den här veckan visade två myndigheter och ett AI-labbs egen rapport att ett sådant påstående helt enkelt kan vara falskt. Det gap Bryssel ännu inte har täckt handlar inte om var en leverantör har sitt säte. Det handlar om att ingen gällande EU-regel tvingar en leverantör att bevisa vilken modell som faktiskt körs bakom dess produkt.
Servola Journal
Vi gör detta för alla som försöker hålla jämna steg med vad tekniken gör med våra liv. Människorna som bygger den, och människorna det händer med. Servola Journal finns så att det vi lär oss tillhör dem alla.
Ingen betalar oss för detta. Inga annonser, ingen betalvägg, gratis för alla. Vi tror helt enkelt att förståelse av vad som händer oss alla inte borde bero på vem som har råd att betala för det.
Om det gav dig något idag, säg till oss att fortsätta. Följ oss, lämna en gilla-markering, eller skriv en positiv kommentar. Vi läser varenda en, och de är det som håller oss igång.
Läs vidare: Washington Namnger Sex AI-Modeller Du Kanske Redan Använder | Kina gör AI-tokens till en mobilbonus
