Vad Anthropic mätte och vad det inte visade
Anthropics Frontier Red Team publicerade den 12 oktober ett papper av William Zhou och Daniel Freeman som hävdar att små AI-modeller kan vara månader från att kunna kopiera sig själva till kommersiella enheter för sakernas internet, som smarta ugnar och namnlösa Android-tv-boxar. Siffrorna nedan kommer från själva papperet.
| Test | Resultat |
|---|---|
| Maskinvarutyper där en 9B-modell satte upp inferens | 8 av 9 |
| GLM-5.2 som replikerar sig i ett testnät med 8 noder | Alla 8 noder i 4 av 5 försök, 7 av 8 i det sista |
| Gemma4-26B-A4B fördelad över 15 tv-boxar | 0,39 token per sekund |
| Tid för Qwen3.5-9B att sätta upp inferens | 28 till 51 timmar |
| Tillväxt hos små öppna modeller (30B eller mindre) | Cirka 13,7 indexpoäng per år |
| Mirai-infektioner rensade inom 14 dagar | 92 % med karantän och besked, 74 % utan besked |
Qwen3.5-9B satte upp sina servrar på maskinvara som sträcker sig från Jetson Nano-kort till Mac och RTX 4090-kort. Författarna delar upp replikeringen i fyra steg: hitta mål, få körning, sätta upp inferens och fortsätta från den nya värden. De två första höll de medvetet triviala. Testnätet hade en Android-felsökningsport utan autentisering, så Anthropic kallar resultatet en övre gräns för framgång i verkligheten. Slutsatsen är måttfull: papperet säger att det ännu inte finns någon fullständig rogue-replikator, bara 'livstecken'.
Varför billiga enheter är de troliga första värdarna
Enheter i hem och småföretag kan bli de första målen, skriver författarna, eftersom de är anslutna till internet och historiskt haft minimal säkerhet. Anthropic köpte 15 namnlösa Android-tv-boxar för cirka 55 dollar styck, kopplade ihop dem och körde modellen Gemma4-26B-A4B över dem med 0,39 token per sekund, där varje box bar några få lager av modellen.
Boxar i den här klassen har oftast 1 till 4 GB minne. Med 4 GB vardera och 4-bitskomprimering kan fyra eller fler boxar betjäna en 9B-modell och tio eller fler en 26B-modell, och därför kan en svärm av svaga enheter hysa något kapabelt.
Nästa fråga är skalan. Botnätet Kimwolf infekterade över 2 miljoner enheter, mest namnlösa Android-tv-boxar. Om varje grupp på 15 sådana enheter körde en kopia av 26B-modellen uppskattar Anthropic cirka 133 000 kopior och 80 000 token per sekund totalt, ungefär inferensen från 40 Nvidia H100-acceleratorer. Det är lite beräkningskraft, och en replikator skulle sprida sig långsamt med en fördubblingstid på dagar. Skadan i den här modellen kommer från ett fotavtryck utan en enda strömbrytare, eftersom själva beräkningskraften är liten. Uppskattningen bygger på en maskinvaruklass och ett tidigare botnät, som författarna noterar.
Datumet i slutet av 2026 kommer från en trendlinje
Anthropics datum i slutet av 2026 kommer från en rät linje genom öppna modeller på högst 30B parametrar, vars poäng på Epoch Capabilities Index stiger cirka 13,7 poäng per år, med ett R i kvadrat på 0,95.
Av de testade öppna modellerna klarade bara GLM-5.2 hela kedjan: den nådde alla 8 noder i 4 av 5 försök och 7 i det femte. Med den som golv för förmåga och en tv-box på 4 GB som tak för storlek når en liten modell enligt trendlinjen det golvet kring årsskiftet. Författarna kallar indexet bara en approximation av förmågan att replikera och datumet en grov uppskattning.
Två andra resultat pekar åt båda hållen. När varje kopia av Qwen3.5-9B ärvde anteckningarna från den förra steg dess framgång med att sätta upp inferens från 45 procent i första generationen till mellan 61 och 84 procent i senare. Tillgång till en starkare rådgivarmodell, Opus 4.8, gav ingen mätbar vinst.
Utomstående röster är försiktiga. Al Jazeera, som rapporterade om papperet den 13 oktober, citerar Roman Yampolskiy vid University of Louisville, som säger att en AI-mask kan resonera om okända enheter och fortsätta sprida sig utan mänsklig operatör, men att den i dag inte är ett existentiellt hot. Anthropic svarade inte på Al Jazeeras frågor, som skickades utanför kontorstid.
Fyra kontroller för kontor, butiker och små verksamheter
Anthropic beskriver försvaret som en epidemi: pressa R0, antalet nya enheter som varje smittad enhet för smittan vidare till, under 1 så att replikatorn dör ut. För en ägare blir det fyra kontroller.
Gör först en lista över varje enhet med processor i ditt nät, inklusive tv-boxar, kameror, konferensenheter och lagringsboxar, stäng inkommande hanteringsportar och byt ut standardinloggningar. Mirai spreds via tillverkarnas standardlösenord, och testmasken behövde bara en Android-felsökningsport utan autentisering. Det brittiska regelverket för uppkopplade konsumentprodukter, i kraft sedan 29 april 2024, förbjuder universella och lätt gissade standardlösenord, och Anthropic nämner den sortens regler som ett sätt att minska antalet mål.
Fråga sedan din internetleverantör eller leverantör av hanterat nät om den bevakar flödesdata. En replikator skulle lämna modellnedladdningar på flera gigabyte och jämn trafik mellan maskiner som normalt inte talar med varandra, och enligt papperet kan leverantörens övervakning se båda. Fråga för det tredje om smittade kunder sätts i karantän och får besked: vid Mirai-saneringen rensade en leverantör som gjorde det 92 procent av infektionerna inom 14 dagar, mot 74 procent utan besked.
Fråga för det fjärde enhetsleverantörerna hur de ska uppfylla EU:s Cyber Resilience Act. Europeiska kommissionen anger 11 september 2026 för rapporteringsplikten vid aktivt utnyttjade sårbarheter och 11 december 2027 för huvudskyldigheterna. En leverantör utan svar är en leverantör att byta vid nästa utbyte.
Läs vidare: Fel från 2014 ger fortfarande kinesisk firma ingång | Anthropics OSS Scanner skickar ogranskade rapporter
