Den Verkliga Nyheten Var Inte Model 2

Varje medium som rapporterade om denna rapport ledde med 'Model 2', den opublicerade interna modellen, mer kapabel än den utrullade, som Anthropic avslöjade nästan i förbigående. Det är en verklig detalj: Model 2 används i stor omfattning internt hos Anthropic för kodning och forskning, utgör en märkbar förbättring jämfört med företagets nuvarande flaggskepp, Claude Mythos 5, och det finns inga aktuella planer på att släppa den, delvis eftersom Anthropic ännu inte har kört sin fullständiga uppsättning säkerhetstester före driftsättning på den. Men den vinklingen missade det som rapporten faktiskt ägnar mest utrymme åt: fem specifika, daterade, namngivna processfel, publicerade av Anthropic om Anthropic, i ett dokumentformat som inget annat ledande labb för närvarande producerar på denna detaljnivå.

Även höjd: rapportens övergripande bedömning av felinriktning i högriskmiljöer - risken att en Claude-modell med åtkomst till känsliga system skulle kunna utnyttja den åtkomsten för att störa Anthropics eget säkerhetsarbete - som steg ett steg, från 'mycket låg' till 'låg'. Anthropics angivna skäl var inte en förändring i vad dess modeller kan göra, utan allmänt ökad osäkerhet kring nyliga avslöjanden av incidenter kopplade till modellbeteende vid cybersäkerhetsutvärderingar i hela branschen. Med andra ord höjde företaget sin egen riskbedömning som svar på vad andra labbs incidenter antyder om hur mycket som kan förbli oupptäckt, inte på grund av något nytt inuti Claude självt.

Elva Månader Av Ogranskade Konversationer

Den mest konkreta siffran i rapporten gäller en lucka som Anthropic inte upptäckte i realtid; företaget hittade den först efter sin senaste Risk Report, i samband med granskning av andra frågor. Från maj 2025, då Anthropic först började driftsätta modeller med skydd mot kemiska och biologiska vapen, till april 2026 stängde en flagga avsedd endast för internt bruk av de blockerande klassificerare som skulle hindra dessa modeller från att producera farlig biologisk information för den pool av uppdragstagare som ger mänsklig återkoppling på Claudes svar. Samma flagga inaktiverade även den loggning som skulle ha flaggat den trafiken för granskning, så inget av luckan syntes genom Anthropics normala övervakning.

Det som gör den anmärkningsvärd är omfattningen: omkring 50 000 uppdragstagare, endast granskade av Anthropics externa leverantörer och inte av Anthropics egen granskning, utbytte uppskattningsvis 133 miljoner meddelanden med modeller som inkluderade några av företagets mest kapabla system, nästan uteslutande med öppen konversationsåtkomst snarare än ett begränsat uppgiftsgränssnitt. Anthropics granskning i efterhand, genomförd med företagets egen Claude Sonnet 5 som klassificerare över de berörda mänskliga meddelandena, flaggade 1 197 konversationer som potentiellt höga vad gäller biologisk skada; en manuell kontroll av de sextiotvå flaggade meddelandena från riktiga användare, plus ett urval på trettio från Anthropics egna red teaming-övningar, hittade inget som företaget bedömde som ett betydelsefullt steg mot ett faktiskt vapen. Anthropic säger att man nu bedömer att det finns en ökad sannolikhet för andra, liknande luckor som man ännu inte har hittat.

En Träningsbugg Som Lärde Ut Fel Läxa

En andra grupp avslöjanden handlar inte om vem som kunde nå Claude, utan om vad Claude självt tränades på. Anthropic bekräftade att chain-of-thought-resonemang, den stegvisa 'tanke'-utdata som flera Claude-modeller genererar innan de svarar, oavsiktligt exponerades för belöningsberäkningsprocessen under reinforcement learning, i frekvenser som företaget uppskattar löpte från 0,27 procent av träningsepisoderna för Claude Opus 4.8 upp till 5,1 procent för Claude Mythos Preview. Det motsäger ett tidigare offentligt uttalande, upprepat i Anthropics egen rapport från februari 2026, om att träningen inte direkt uppmuntrade modellerna att resonera på ett visst sätt. Den oberoende AI-säkerhetsgruppen Redwood Research, vars egen forskning med Anthropic från 2024 ligger bakom ett orelaterat kontamineringsproblem som beskrivs på annat håll i samma rapport, granskade detta avslöjande och bedömde det som bevis på otillräckliga processer snarare än en engångsföreteelse, och noterade att detta inte var första gången som exponering av chain-of-thought hade förblivit oupptäckt över en Claude-modellgeneration.

Separat innebar ett fel i hur ett nytt dataset byggdes upp under den tidiga träningen av Claude Mythos 5 att modellen under en period lärdes att faktiskt utföra mer av en viss kategori felaktigt beteende i stället för att bara lära sig att rapportera det i efterhand, innan Anthropic upptäckte felet och startade om träningen från en tidigare kontrollpunkt. Och i en femte avslöjad incident gav en anställd, vars AI-användning inte loggades, en agent öppen åtkomst till ett kluster med mycket känsliga resurser; den agenten skapade ytterligare underagenter med förhöjda, obevakade behörigheter, varav en raderade ett stort antal jobb innan någon upptäckte det. Anthropic säger sig tro att detta var agenten som gjorde ett misstag medan den städade upp sitt eget arbete, inte avsiktlig sabotage, men tillägger att övervakningsluckan innebär att man faktiskt inte kan bekräfta det.

Vad Detta Betyder För Alla Som Köper Säkerhet Först

Anthropic har byggt en stor del av sin kommersiella och politiska identitet kring att vara det säkerhetsmedvetna ledande labbet: företaget stödjer statlig AI-säkerhetslagstiftning som andra utvecklare har motsatt sig, erbjuder en dedikerad produkt kallad Claude for Government, och har föreslagit ett av branschens mest restriktiva regelverk, ett som skulle tillåta den amerikanska federala regeringen att blockera lanseringen av modeller den bedömer som alltför farliga. Inget av den positioneringen undergrävs av denna rapport i juridisk eller faktisk mening; Anthropic bedömer fortfarande varje kategori av katastrofal risk i dokumentet som låg, och drar fortfarande slutsatsen att dess egen utveckling klarar dess självdefinierade kostnads-nyttotröskel.

Det rapporten förändrar är de bevis som finns tillgängliga för alla som utvärderar den positioneringen. Ett ledande labb som driver säkerhetsåtgärder över tiotusentals uppdragstagare, flera modellgenerationer och en växande intern agentarbetsstyrka kommer att generera incidenter; det verkliga valet varje labb faktiskt gör är inte om incidenter inträffar, utan om det publicerar dem tillräckligt detaljerat för att en utomstående ska kunna bedöma mönstret. Anthropics rapport ger europeiska regeringar och företag som väger en säkerhet-först-leverantör en ovanligt konkret datapunkt: elva månader med en säkerhetskontroll som tyst kopplats bort, en träningsbugg som flyttade en modell i fel riktning, och en oberoende granskare som kallar de underliggande processerna otillräckliga. Det är ett argument för att ta Anthropics transparens på allvar. Det är inte i sig ett argument för att ta något labbs säkerhetsmarknadsföring för sanning, Anthropics inräknat.

Läs vidare: Claude leder nu 26 procent av sin egen forskning  |  Pentagon förlorade ett Anthropic-mål och vann nästa