Wat Anthropic mat en wat het niet liet zien
Het Frontier Red Team van Anthropic publiceerde op 12 oktober een paper van William Zhou en Daniel Freeman waarin staat dat kleine AI-modellen maanden verwijderd kunnen zijn van het kopiëren van zichzelf op commerciële internet-of-things-apparaten zoals slimme ovens en merkloze Android-tv-boxen. De cijfers hieronder komen uit de paper zelf.
| Test | Resultaat |
|---|---|
| Hardwaretypen waarop een model van 9B inferentie opzette | 8 van 9 |
| GLM-5.2 die zich repliceert in een testnetwerk van 8 knooppunten | Alle 8 knooppunten in 4 van 5 pogingen, 7 van 8 in de andere |
| Gemma4-26B-A4B verdeeld over 15 tv-boxen | 0,39 tokens per seconde |
| Tijd voor Qwen3.5-9B om inferentie op te zetten | 28 tot 51 uur |
| Groei van kleine open modellen (30B of minder) | Ongeveer 13,7 indexpunten per jaar |
| Mirai-infecties opgeruimd binnen 14 dagen | 92% met quarantaine en bericht, 74% zonder bericht |
Qwen3.5-9B zette zijn servers op bij hardware die loopt van Jetson Nano-borden tot Macs en RTX 4090-kaarten. De auteurs splitsen replicatie in vier stappen: doelen vinden, uitvoering krijgen, inferentie opzetten en doorgaan vanaf de nieuwe host. De eerste twee hielden ze bewust triviaal. Het testnetwerk had een Android-debugpoort zonder authenticatie, waardoor Anthropic zijn resultaat een bovengrens voor succes in de praktijk noemt. De conclusie is bescheiden: er is volgens de paper nog geen volledige rogue replicator, alleen 'tekenen van leven'.
Waarom goedkope apparaten de waarschijnlijke eerste gastheren zijn
Apparaten in huis en bij kleine bedrijven zouden de eerste doelwitten kunnen zijn, schrijven de auteurs, omdat ze met internet verbonden zijn en historisch nauwelijks beveiligd waren. Anthropic kocht 15 merkloze Android-tv-boxen van ongeveer 55 dollar per stuk, koppelde ze en draaide het model Gemma4-26B-A4B erover met 0,39 tokens per seconde, waarbij elke box een paar lagen van het model droeg.
Boxen van deze klasse hebben meestal 1 tot 4 GB geheugen. Met elk 4 GB en 4-bits compressie kunnen vier of meer boxen een model van 9B bedienen en tien of meer een model van 26B, en daarom kan een zwerm zwakke apparaten iets capabels dragen.
De volgende vraag is de schaal. Het Kimwolf-botnet besmette meer dan 2 miljoen apparaten, vooral merkloze Android-tv-boxen. Als elke groep van 15 van zulke apparaten één kopie van het model van 26B zou draaien, schat Anthropic ongeveer 133.000 kopieën en in totaal 80.000 tokens per seconde, ruwweg de inferentie van 40 Nvidia H100-versnellers. Dat is weinig rekenkracht, en een replicator zou zich langzaam verspreiden, met een verdubbelingstijd van dagen. De schade ontstaat in dit model uit een voetafdruk zonder één uitknop, want de rekenkracht zelf is klein. De schatting rust op één hardwareklasse en één eerder botnet, zoals de auteurs aantekenen.
De datum eind 2026 komt uit een trendlijn
De datum eind 2026 van Anthropic komt uit een rechte lijn door open modellen van hooguit 30B parameters, wier score op de Epoch Capabilities Index met ongeveer 13,7 punten per jaar stijgt, met een R-kwadraat van 0,95.
Van de geteste open modellen voltooide alleen GLM-5.2 de hele keten: het bereikte alle 8 knooppunten in 4 van 5 pogingen en 7 in de vijfde. Met dat model als ondergrens voor vaardigheid en een tv-box van 4 GB als bovengrens voor grootte, haalt een klein model die ondergrens volgens de trendlijn rond het einde van dit jaar. De auteurs noemen de index slechts een benadering van het vermogen tot replicatie en de datum een grove schatting.
Twee andere resultaten werken in beide richtingen. Toen elke kopie van Qwen3.5-9B de aantekeningen van de vorige erfde, steeg het slagingspercentage voor het opzetten van inferentie van 45 procent in de eerste generatie naar 61 tot 84 procent in latere. Toegang tot een sterker adviesmodel, Opus 4.8, leverde geen meetbare winst op.
Externe stemmen zijn voorzichtig. Al Jazeera, dat op 13 oktober over de paper berichtte, citeert Roman Yampolskiy van de University of Louisville, die zegt dat een AI-worm kan redeneren over onbekende apparaten en zich zonder menselijke beheerder kan blijven verspreiden, maar dat het vandaag geen existentiële dreiging is. Anthropic beantwoordde de vragen van Al Jazeera niet, die buiten kantooruren waren gestuurd.
Vier controles voor kantoren, winkels en kleine locaties
Anthropic beschrijft verdediging als een epidemie: breng R0, het aantal nieuwe apparaten dat elk besmet apparaat infecteert, onder 1 zodat de replicator uitsterft. Voor een eigenaar zijn dat vier controles.
Maak eerst een lijst van elk apparaat met een processor op uw netwerk, inclusief tv-boxen, camera's, vergaderapparatuur en opslagboxen, sluit inkomende beheerpoorten en vervang standaardinloggegevens. Mirai verspreidde zich via standaardwachtwoorden van fabrikanten, en de testworm had alleen een Android-debugpoort zonder authenticatie nodig. Het Britse regime voor aangesloten consumentenproducten, van kracht sinds 29 april 2024, verbiedt universele en makkelijk te raden standaardwachtwoorden, en Anthropic noemt dat soort regels als manier om het aantal doelwitten te verkleinen.
Vraag ten tweede uw internetprovider of beheerde-netwerkleverancier of die flowdata bewaakt. Een replicator zou modeldownloads van meerdere gigabytes achterlaten en voortdurend verkeer tussen machines die normaal niet met elkaar praten, en volgens de paper kan monitoring bij de provider beide zien. Vraag ten derde of besmette klanten in quarantaine worden gezet en gewaarschuwd: bij de Mirai-opruiming ruimde een provider die dat deed binnen 14 dagen 92 procent van de infecties op, tegen 74 procent zonder bericht.
Vraag ten vierde aan leveranciers van apparaten hoe ze de EU Cyber Resilience Act naleven. De Europese Commissie noemt 11 september 2026 voor de meldplicht bij actief misbruikte kwetsbaarheden en 11 december 2027 voor de hoofdverplichtingen. Een leverancier zonder antwoord is een leverancier om bij de volgende vervanging te wisselen.
Lees hierna: Bugs uit 2014 openen nog deuren voor Chinese aannemer | Anthropics OSS Scanner: rapporten zonder controle
