Kimi-brugere talte med Claude uden at vide det
Den, der i år skrev et spørgsmål ind i Kimi, Moonshots chatbot, talte i visse tilfælde med Anthropics Claude uden at vide det. Anthropics egen trusselsrapport, offentliggjort den 10. september, beskriver, at Moonshot i et vindue på 10 dage sendte omkring 300.000 forespørgsler videre til Claude via 5.380 svigagtige konti, de fleste registreret med adresser i Singapore og Japan for at skjule trafikkens reelle oprindelse. Svarene fra Claude kom tilbage gennem Moonshots system, blev vist til Kimi-brugere som Kimis eget output, og blev derefter genbrugt til at træne Moonshots næste model.
To dage forinden, den 8. september, havde de amerikanske myndigheder NSA, FBI og CISA i en fælles advarsel navngivet seks kinesiske AI-firmaer, DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun og Z.AI, for at have kørt det, myndighederne kaldte en kampagne i industriel skala for at udtrække output fra amerikanske modeller siden mindst slutningen af 2024. Myndighedernes betegnelse for infrastrukturen bag er transferstationer: et gråmarked af proxytjenester, der leder en forespørgsel videre til en konkurrents model, mens konto- og placeringsdata slettes, som ellers ville markere trafikken som masseudtrækning. Anthropic sagde, at den omdirigerede trafik ikke kun ramte kinesiske brugere, men også kunder i USA og Europa, og at følsomt materiale fra unavngivne større virksomheder passerede gennem samme kanal.
Reglen, der burde have fanget det, gjorde det ikke
EU har allerede en regel, der kræver, at et AI-system giver sig til kende som en maskine. Artikel 50 i AI-forordningen, i kraft siden 2. august 2026, forpligter en chatbot-udbyder til at oplyse, at brugeren taler med AI. Den siger intet om hvilken AI, og et forbrugerprodukt som Kimi hører hjemme i forordningens begrænsede risikoniveau, langt fra de oplysnings- og revisionspligter, der er skrevet for højrisikosystemer. GDPR's artikel 28, i kraft siden 2018, kommer tættere på: enhver part, der faktisk behandler personoplysninger på en dataansvarligs vegne, skal navngives som databehandler eller underdatabehandler i en skriftlig aftale. Moonshot navngav aldrig Claude nogen steder, for ifølge Moonshots egen fremstilling skulle Claude slet ikke være der.
| Kilde | Hvad blev fundet | Omfang | Kræver oplysning til brugere |
|---|---|---|---|
| CISA-, NSA- og FBI-advarsel, 8. sep. 2026 | Seks kinesiske firmaer destillerer amerikanske modeller siden slutningen af 2024 | Millioner af forespørgsler, milliarder af tokens | Nej, det er en advarsel, ikke en bindende regel |
| Anthropic trusselsrapport, 10. sep. 2026 | Moonshots Kimi leverede Claude-svar som sine egne | 300.000 forespørgsler via 5.380 falske konti på 10 dage | Nej, Moonshot oplyste aldrig sine brugere |
| EU's AI-forordning, artikel 50 | Et AI-system skal oplyse, at det er en maskine | Gælder for enhver chatbot med EU-brugere | Ja, men kun "du taler med AI," aldrig hvilken model |
| GDPR, artikel 28 | Enhver databehandler og underdatabehandler skal navngives skriftligt | Gælder for enhver behandling af personoplysninger | Ja på papiret, men kun hvis leverandøren oplyser ærligt |
Hvad en EU-indkøber reelt tjekker nu
Denne sag giver ethvert indkøbsteam et konkret nyt spørgsmål at stille enhver AI-leverandør, uanset om den ligger i Hangzhou eller lige om hjørnet: hvilken model behandler reelt vores forespørgsler, og hvordan ville vi vide det, hvis det ændrede sig uden varsel. En skriftlig klausul om modellens oprindelse, der navngiver den præcise model og version og kræver varsel forud for enhver udskiftning, er i dag et rimeligt krav i enhver AI-kontrakt, ikke et paranoidt et. Det samme gælder et teknisk tjek, da flere leverandører nu returnerer en modelidentifikator i deres API-svarmetadata, som køberens eget ingeniørteam kan logge og revidere uafhængigt af, hvad leverandørens marketingside påstår.
Intet af dette er unikt for kinesiske leverandører. En europæisk virksomhed, der markedsfører et produkt som kørende på sin egen trænede model, suveræn eller ej, kommer med præcis den samme uverificerbare påstand, som Moonshot kom med om Kimi, og denne uge viste to statslige myndigheder og et AI-laboratoriums egen rapport, at en sådan påstand ganske enkelt kan være falsk. Det hul, Bruxelles endnu ikke har lukket, handler ikke om, hvor en leverandør har hovedsæde. Det handler om, at ingen gældende EU-regel tvinger en leverandør til at bevise, hvilken model der reelt kører bag dens produkt.
Servola Journal
Vi gør dette for alle, der prøver at følge med i, hvad teknologi gør ved vores liv. De mennesker, der bygger det, og de mennesker, det sker for. Servola Journal findes, så det vi lærer, tilhører dem alle.
Ingen betaler os for dette. Ingen reklamer, ingen betalingsmur, gratis for alle. Vi tror simpelthen, at det at forstå, hvad der sker for os alle, ikke bør afhænge af, hvem der har råd til at betale for det.
Hvis det gav dig noget i dag, så sig til os, at vi skal blive ved. Følg os, giv et like, eller skriv en positiv kommentar. Vi læser hver eneste en, og de er det, der holder os i gang.
Læs videre: Washington Navngiver Seks AI-Modeller Du Måske Allerede Bruger | Kina gør AI-tokens til en mobilbonus
