Een draaiboek om AI stiekem slechter te maken
De National Security Agency, de Cybersecurity and Infrastructure Security Agency en de FBI droegen Amerikaanse AI-bedrijven op 8 september gezamenlijk op de dienst voor accounts die zij verdenken van het stelen van hun modellen in het geheim te verslechteren, in plaats van ze openlijk te blokkeren. De gezamenlijke waarschuwing, waarschuwing AA26-251A, noemt zes in China gevestigde bedrijven - DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun en Z.AI - en beschuldigt ze ervan sinds eind 2024 georganiseerde campagnes te voeren om capaciteiten van Claude, GPT, Gemini en Grok te onttrekken via wat de sector distillatie noemt: een goedkoper model trainen om de uitvoer van een sterker model te kopiëren. De instanties zeggen dat de campagnes miljarden tokens onttrokken via miljoenen verzoeken en waarschijnlijk werden uitgevoerd met medeweten van de Chinese overheid, via frauduleuze accounts, in bulk gekochte premiumabonnementen die gedeeld werden binnen ontwikkelteams, en een grijze markt van API-proxy's die de waarschuwing overstapstations noemt.
De waarschuwing bouwt voort op terrein dat Anthropic al in kaart had gebracht. In een rapport gepubliceerd op 23 februari 2026 zei het bedrijf DeepSeek, Moonshot en MiniMax te hebben betrapt op campagnes die meer dan 16 miljoen uitwisselingen met Claude genereerden via zo'n 24.000 frauduleuze accounts, geleid via commerciële proxy's omdat Anthropic om exportcontroleredenen geen commerciële toegang tot Claude in China verkoopt. Anthropic betrapte een van de drie labs midden in de campagne en zag, toen dagen later een nieuw model verscheen, dezelfde operatie binnen 24 uur bijna de helft van haar verkeer omleiden naar de nieuwe release - een live blik op hoe snel een distillatiecampagne zich aanpast zodra die al in de gebruikslogs van een aanbieder zit.
Het detectiesignaal is ook een groeiverhaal
De waarschuwing vraagt aanbieders op drie dingen te letten: een verhouding tussen abonnement en gebruik die te hoog lijkt voor het plan, onmiddellijk maximaal gebruik door gloednieuwe accounts, en verkeerspatronen op bedrijfsschaal. Geen van deze drie signalen is uniek voor diefstal. Een Europees softwarebedrijf dat een zakelijk contract tekent en in de eerste week een volledige productiepijplijn migreert, produceert in de logs dezelfde vorm als een distillatie-account dat zijn doellijst afwerkt, net als een startup waarvan het proof-of-concept plotseling live gaat tijdens een lanceerweekend.
| Signaal in de waarschuwing | Waar het ook op lijkt |
|---|---|
| Verhouding abonnement-gebruik te hoog voor het niveau | Een klein team op een zakelijke zetel, dat batchtaken draait |
| Onmiddellijk maximaal gebruik van een nieuw account | Migratie op dag een van een bestaande pijplijn naar een nieuwe aanbieder |
| Verkeerspatronen op bedrijfsschaal | Een productlancering of een plotselinge piek in klantvraag |
De waarschuwing beschrijft geen manier voor een aanbieder om de twee gevallen te onderscheiden voordat wordt opgetreden - ze beveelt aan te handelen bij hoge betrouwbaarheid, maar die betrouwbaarheid is precies opgebouwd uit deze gebruikspatroonsignalen, niet uit bewijs van wie er echt achter het account zit.
De instructie om het u niet te vertellen
De meest verstrekkende regel van de waarschuwing gaat niet over detectie, maar over wat er gebeurt nadat een aanbieder besluit dat een account verdacht lijkt. Aanbieders krijgen de instructie te veranderen wat een gemarkeerd account ontvangt - minder redeneerdiepte, correcte informatie via een andere redenering, of stilistische inconsistenties - zolang de veranderingen niet duidelijk genoeg zijn om alarm te wekken. De waarschuwing is expliciet: het account mag niet worden ingelicht, want het informeren van een vermeende distillateur over een afwaardering zou die in staat stellen zijn ontwijkingstechnieken te verbeteren en te weten wanneer te stoppen. Nergens in de gepubliceerde tekst staat een uitzondering voor het geval dat het account helemaal geen distillateur is.
Die stilte is onderdeel van het ontwerp, geen vergissing - een aanbieder die elke afwaardering zou uitleggen, zou echte distillateurs een kaart geven van wat het alarm doet afgaan. Maar diezelfde stilte betekent dat een per ongeluk gemarkeerd Europees bedrijf geen signaal krijgt dat er iets is veranderd, geen kanaal om het aan te vechten, en geen manier om een beleidsgedreven afwaardering te onderscheiden van gewone modeldrift of een slechte dag op de API. Een SLA belooft beschikbaarheid en latentie; niets in een standaard zakelijk AI-contract van vandaag belooft dat het model achter het eindpunt niet stiekem de opdracht kreeg minder zorgvuldig over uw vragen na te denken.
Wat dit verandert voor een bedrijf dat groeit op AI
Een bedrijf dat verwacht zijn AI-gebruik snel op te voeren - een migratie, een lancering, een nieuwe integratie die in dagen van pilot naar productie gaat - heeft nu een reden om vooraf een eigen dossier van die groei bij te houden, niet pas nadat iets verkeerd lijkt te gaan. Gedocumenteerde redenen voor een gebruikspiek - een getekende contractdatum, een deploymentticket, een gesprek met de aanbieder over opschaling - zijn het enige bewijs dat een klant heeft als de antwoordkwaliteit stiekem terugvalt precies in het venster dat de eigen signalen van de waarschuwing zouden markeren. De waarschuwing werd geschreven om een echte, ernstige campagne van diefstal op industriële schaal tegen Amerikaanse AI-bedrijven te stoppen. Ze werd niet geschreven met het controlespoor van een Europese zakelijke klant in gedachten, en op dit moment hoeft dat ook niet.
Servola Journal
We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.
Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.
Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.
Lees hierna: DeepSeek voegt beeldherkenning toe aan V4-Flash | Geen mens koos de exploit, CISA geeft 2 dagen
