Hvad Anthropic målte, og hvad det ikke viste
Anthropics Frontier Red Team udgav den 12. oktober et papir af William Zhou og Daniel Freeman, der argumenterer for, at små AI-modeller kan være måneder fra at kunne kopiere sig selv over på kommercielle internet-of-things-enheder som smarte ovne og android-tv-bokse uden mærke. Tallene nedenfor stammer fra selve papiret.
| Test | Resultat |
|---|---|
| Hardwaretyper, hvor en 9B-model satte inferens op | 8 af 9 |
| GLM-5.2 der kopierer sig i et testnetværk med 8 noder | Alle 8 noder i 4 af 5 forsøg, 7 af 8 i det sidste |
| Gemma4-26B-A4B fordelt over 15 tv-bokse | 0,39 tokens i sekundet |
| Tid for Qwen3.5-9B til at sætte inferens op | 28 til 51 timer |
| Vækst i små åbne modeller (30B eller mindre) | Omkring 13,7 indekspoint om året |
| Mirai-infektioner ryddet inden for 14 dage | 92 % med karantæne og besked, 74 % uden besked |
Qwen3.5-9B satte sine servere op på hardware fra Jetson Nano-kort til Mac og RTX 4090-kort. Forfatterne deler replikation op i fire trin: at finde mål, at få udført kode, at sætte inferens op og at fortsætte fra den nye vært. De to første holdt de bevidst trivielle. Testnetværket havde en Android-fejlfindingsport uden autentificering, så Anthropic kalder resultatet en øvre grænse for succes i virkeligheden. Konklusionen er beskeden: papiret siger, at der endnu ikke findes en fuld rogue-replikator, kun 'livstegn'.
Hvorfor billigt udstyr er de sandsynlige første værter
Enheder i hjem og små virksomheder kan blive de første mål, skriver forfatterne, fordi de er forbundet til internettet og historisk har haft minimal sikkerhed. Anthropic købte 15 android-tv-bokse uden mærke til cirka 55 dollars stykket, koblede dem sammen og kørte modellen Gemma4-26B-A4B henover dem med 0,39 tokens i sekundet, hvor hver boks bar nogle få lag af modellen.
Bokse af denne klasse har typisk 1 til 4 GB hukommelse. Med 4 GB hver og 4-bit-komprimering kan fire eller flere bokse betjene en 9B-model og ti eller flere en 26B-model, og derfor kan en sværm af svage enheder rumme noget kapabelt.
Det næste spørgsmål er skala. Botnettet Kimwolf inficerede over 2 millioner enheder, mest android-tv-bokse uden mærke. Hvis hver gruppe på 15 sådanne enheder kørte en kopi af 26B-modellen, anslår Anthropic cirka 133.000 kopier og 80.000 tokens i sekundet i alt, omtrent inferensen fra 40 Nvidia H100-acceleratorer. Det er lidt regnekraft, og en replikator ville sprede sig langsomt med en fordoblingstid på dage. Skaden i denne model kommer fra et fodaftryk uden én samlet kontakt at slukke, for selve regnekraften er lille. Skønnet bygger på én hardwareklasse og ét tidligere botnet, som forfatterne noterer.
Datoen i slutningen af 2026 kommer fra en tendenslinje
Anthropics dato i slutningen af 2026 kommer fra en ret linje gennem åbne modeller på højst 30B parametre, hvis score på Epoch Capabilities Index stiger omkring 13,7 point om året, med et R i anden på 0,95.
Af de testede åbne modeller gennemførte kun GLM-5.2 hele kæden: den nåede alle 8 noder i 4 af 5 forsøg og 7 i det femte. Med den som bund for evne og en tv-boks på 4 GB som loft for størrelse når en lille model ifølge tendenslinjen bunden omkring årsskiftet. Forfatterne kalder indekset blot en tilnærmelse til evnen til at replikere og datoen et groft skøn.
To andre resultater peger i begge retninger. Da hver kopi af Qwen3.5-9B arvede notaterne fra den forrige, steg dens succes med at sætte inferens op fra 45 procent i første generation til mellem 61 og 84 procent i senere. Adgang til en stærkere rådgivermodel, Opus 4.8, gav ingen målbar gevinst.
Udefrakommende stemmer er forsigtige. Al Jazeera, der omtalte papiret den 13. oktober, citerer Roman Yampolskiy fra University of Louisville for, at en AI-orm kan ræsonnere om ukendte enheder og fortsætte med at sprede sig uden en menneskelig operatør, men at den i dag ikke er en eksistentiel trussel. Anthropic svarede ikke på Al Jazeeras spørgsmål, som blev sendt uden for almindelig arbejdstid.
Fire kontroller til kontorer, butikker og små lokationer
Anthropic beskriver forsvar som en epidemi: få R0, antallet af nye enheder, som hver smittet enhed går videre til at smitte, under 1, så replikatoren dør ud. For en ejer er det fire kontroller.
Lav først en liste over hver enhed med en processor på dit netværk, herunder tv-bokse, kameraer, konferenceenheder og lagerbokse, luk indgående administrationsporte og udskift standardlogin. Mirai spredte sig via producenternes standardadgangskoder, og testormen havde kun brug for en Android-fejlfindingsport uden autentificering. Det britiske regime for tilsluttede forbrugerprodukter, i kraft siden 29. april 2024, forbyder universelle og let gættelige standardadgangskoder, og Anthropic nævner den slags regler som en måde at gøre antallet af mål mindre.
Spørg dernæst din internetudbyder eller leverandør af administreret netværk, om den overvåger flowdata. En replikator ville efterlade modeldownloads på flere gigabyte og stabil trafik mellem maskiner, der normalt ikke taler sammen, og ifølge papiret kan udbyderens overvågning se begge dele. Spørg tredje gang, om smittede kunder sættes i karantæne og får besked: ved Mirai-oprydningen fjernede en udbyder, der gjorde det, 92 procent af infektionerne inden for 14 dage mod 74 procent uden besked.
Spørg fjerde gang enhedsleverandører, hvordan de vil opfylde EU's Cyber Resilience Act. Europa-Kommissionen angiver 11. september 2026 for indberetningspligten ved aktivt udnyttede sårbarheder og 11. december 2027 for hovedforpligtelserne. En leverandør uden svar er en leverandør, man bør skifte ved næste udskiftning.
Læs videre: Fejl fra 2014 giver stadig kinesisk leverandør adgang | Anthropics OSS Scanner sender rapporter uden kontrol
