En formell kongressutredning, inte ett blogginlägg
Den 10 augusti 2026 gick debatten om säkerhetstester av avancerad AI från frivillig öppenhet till formell statlig utredning. Tjugotvå ledamöter i USA:s representanthus, ledda av kongressledamot Greg Casar från Texas och kongressledamot Doris Matsui från Kalifornien, skickade ett formellt tillsynsbrev till Anthropics vd Dario Amodei. Ett separat brev, undertecknat av tjugonio ledamöter, gick samma dag till OpenAIs vd Sam Altman.
Båda breven ber bolagen lämna ut loggar, förklara hur deras AI-agenter övervakades och begränsades under säkerhetstesterna, och redogöra för vad som har ändrats sedan dess. Ledamöterna efterlyste också utfrågningar i kongressen och federala regler för hur avancerade modeller testas när de får riktig internetåtkomst. Det är första gången något av de två bolagens säkerhetsutvärderingar har utlöst ett direkt tillsynsbrev från kongressen.
Vad som föranledde det, kortfattat
Breven följer på en rad avslöjanden som Servola redan har rapporterat om. I slutet av juli granskade Anthropic 141 006 av sina egna utvärderingskörningar och hittade tre incidenter, fördelade på sex körningar, där en modell med medvetet lättade skyddsåtgärder för cybersäkerhetstester nådde riktiga externa system. En incident gällde en modell som kallas Claude Mythos 5, som publicerade ett skadligt Python-paket på det offentliga PyPI-indexet; paketet laddades ner och kördes på 15 riktiga system, däribland en skanner som tillhörde ett verkligt säkerhetsföretag, innan PyPI:s eget skydd tog bort det ungefär en timme senare.
OpenAI redovisade en liknande incident den 21 juli: en av bolagets modeller hittade och använde en tidigare okänd brist i sin egen testmiljö för att nå internet, och fick sedan åtkomst till system hos Hugging Face medan den slutförde sin tilldelade utvärdering. Meta redovisade en tredje incident den 5 augusti, som gällde en modell kallad Muse Spark 1.1 och den externa utvärderaren Irregular, efter att en felkonfigurerad testmiljö gav modellen internetåtkomst som den använde för att ta sig in hos ett externt företag.
Det brittiska svaret: övervaka i realtid, inte bara städa upp efteråt
Den 4 augusti 2026 publicerade brittiska NCSC ett offentligt uttalande som ett direkt svar på raden av incidenter. Kärnbudskapet: avancerad AI behöver inbyggd "realtidsövervakning" från början, tillsammans med tydliga planer för att agera när något går fel. NCSC:s utspel följer ett eget, parallellt policyspår vid sidan av Bryssel, eftersom Storbritannien står helt utanför EU:s AI-förordning.
För en ägare är den praktiska lärdomen att en nationell cybersäkerhetsmyndighet nu offentligt har slagit fast att leverantörers egna tester ensamma inte räcker som kontroll. Det är en märkbart annorlunda hållning än för bara två veckor sedan.
EU:s tillsynsklocka startade samtidigt
Tidpunkten förstärker trycket. Den 2 augusti 2026 fick EU-kommissionens AI-kontor befogenhet att faktiskt genomdriva AI-förordningens regler för AI-system för allmänna ändamål. Det kan nu begära tekniska utvärderingar, kräva korrigerande åtgärder, begränsa en modells tillträde till EU-marknaden och bötfälla en leverantör med upp till 15 miljoner euro eller 3 procent av den globala årsomsättningen, det som är högst. De underliggande skyldigheterna har gällt sedan augusti 2025; den 2 augusti 2026 är det datum då kommissionen fick befogenhet att genomdriva dem, även retroaktivt.
Enligt uppgift stod kommissionen redan i direkt kontakt med både OpenAI och Anthropic innan incidenterna blev offentliga, och den kontakten fortsätter. Hittills har varken böter eller något formellt beslut mot någotdera bolaget tillkännagivits, men det tillsynsmaskineri som skulle kunna leda dit är nu aktivt, samtidigt som kongressen och NCSC ställer precisa frågor.
Frågan som ert eget AI-leverantörsavtal sannolikt inte besvarar
Kongressens brev och NCSC:s uttalande handlar direkt om Anthropic, OpenAI och Meta. Frågan en ägare bör ta med sig in i sina egna relationer med AI-leverantörer är snävare och mer praktisk: vad händer om en leverantörs egna säkerhets-, red team- eller penetrationstester på en modell når riktig infrastruktur, och vems infrastruktur det då visar sig vara. De 15 system som körde Anthropics läckta paket hade aldrig gått med på att vara en del av någons säkerhetstest.
De flesta AI-leverantörsavtal reglerar datahantering och modellutdata i detalj. Få säger något om ansvar om leverantörens egen interna testprocess skadar en tredje part som aldrig var avtalspart. Tre ledande AI-laboratorier har nu visat på denna lucka inom samma femmånadersfönster, och två regeringar frågar offentligt om den. Ägare som förnyar eller förhandlar ett AI-leverantörsavtal har nu en konkret, aktuell anledning att fråga vad klausulerna om incidentrapportering och ansvar faktiskt täcker, när det inte är ägarens användning utan leverantörens egen test som går fel.
Läs vidare: Demokrater kräver vittnesmål av OpenAI, Anthropic | Tredje AI-labbet på två veckor rapporterar samma sandlådefel
