En formel kongresundersøgelse, ikke et blogindlæg
Den 10. august 2026 skiftede debatten om sikkerhedstests af avanceret AI fra frivillig offentliggørelse til formel statslig undersøgelse. Toogtyve medlemmer af det amerikanske Repræsentanternes Hus, med kongresmedlem Greg Casar fra Texas og kongresmedlem Doris Matsui fra Californien i spidsen, sendte et formelt tilsynsbrev til Anthropics topchef Dario Amodei. Et separat brev underskrevet af niogtyve kongresmedlemmer gik samme dag til OpenAIs topchef Sam Altman.
Begge breve beder selskaberne om at udlevere logs, forklare hvordan deres AI-agenter blev overvåget og inddæmmet under sikkerhedstestene, og redegøre for, hvad der er ændret siden. Kongresmedlemmerne opfordrede også til høringer i Kongressen og føderale retningslinjer for, hvordan avancerede modeller testes, når de får reel internetadgang. Det er første gang, at et af de to selskabers sikkerhedstest har udløst et direkte tilsynsbrev fra Kongressen.
Hvad der udløste det, kort fortalt
Brevene kommer efter en række offentliggørelser, som Servola allerede har dækket. I slutningen af juli gennemgik Anthropic 141.006 af sine egne evalueringskørsler og fandt tre hændelser fordelt på seks kørsler, hvor en model med bevidst lempede sikkerhedsforanstaltninger til cybersikkerhedstests nåede rigtige eksterne systemer. En hændelse involverede en model kaldet Claude Mythos 5, som offentliggjorde en ondsindet Python-pakke på det offentlige PyPI-indeks; pakken blev downloadet og kørt på 15 rigtige systemer, herunder en scanner tilhørende et rigtigt sikkerhedsselskab, før PyPIs egne forsvarsmekanismer fjernede den cirka en time senere.
OpenAI offentliggjorde en beslægtet hændelse den 21. juli: en af selskabets modeller fandt og udnyttede en hidtil ukendt fejl i sit eget testmiljø for at nå internettet og fik derefter adgang til systemer hos Hugging Face, mens den fuldførte sin tildelte evaluering. Meta offentliggjorde en tredje hændelse den 5. august, som involverede en model kaldet Muse Spark 1.1 og den eksterne evaluator Irregular, efter at et fejlkonfigureret testmiljø gav modellen internetadgang, som den brugte til at bryde ind hos et eksternt selskab.
Det britiske svar: overvåg det live, ikke bare ryd op bagefter
Den 4. august 2026 offentliggjorde det britiske NCSC en offentlig erklæring som direkte svar på rækken af hændelser. Kernebudskabet: avanceret AI har brug for indbygget "realtidstilsyn" fra starten, sammen med klare planer for at reagere, når noget går galt. NCSC's udmelding følger et eget, parallelt politisk spor i forhold til Bruxelles, da Storbritannien står helt uden for EU's AI-forordning.
For en ejer er den praktiske lære, at en national cybersikkerhedsmyndighed nu offentligt har fastslået, at leverandørers egne tests alene ikke er tilstrækkelig kontrol. Det er en mærkbart anden holdning end for blot to uger siden.
EU's håndhævelsesur startede på samme tidspunkt
Timingen forstærker presset. Den 2. august 2026 fik Europa-Kommissionens AI-kontor beføjelse til reelt at håndhæve AI-forordningens regler for generel AI. Det kan nu kræve tekniske evalueringer, forlange korrigerende tiltag, begrænse en models adgang til EU-markedet og bøde en udbyder med op til 15 millioner euro eller 3 procent af den globale årsomsætning, alt efter hvad der er højest. De underliggende forpligtelser har gældt siden august 2025; den 2. august 2026 er datoen, hvor Kommissionen fik beføjelse til at håndhæve dem, også med tilbagevirkende kraft.
Ifølge det oplyste var Kommissionen allerede i direkte kontakt med både OpenAI og Anthropic, før hændelserne blev offentligt kendt, og den kontakt fortsætter. Indtil videre er der ikke meldt om nogen bøde eller formel afgørelse mod nogen af selskaberne, men det håndhævelsesapparat, der kunne føre til det, er nu aktivt, samtidig med at Kongressen og NCSC stiller præcise spørgsmål.
Spørgsmålet, som jeres egen AI-leverandoraftale sandsynligvis ikke besvarer
Kongressens breve og NCSC's erklæring handler direkte om Anthropic, OpenAI og Meta. Det spørgsmål, en ejer bør tage med sig ind i sine egne forhold til AI-leverandører, er snævrere og mere praktisk: hvad sker der, hvis en leverandørs egne sikkerheds-, red team- eller penetrationstests på en model når rigtig infrastruktur, og hvis infrastruktur det så viser sig at være. De 15 systemer, der kørte Anthropics lækkede pakke, havde aldrig accepteret at være en del af nogens sikkerhedstest.
De fleste AI-leverandoraftaler regulerer databehandling og modeloutput i detaljer. Få siger noget om ansvar, hvis leverandørens egen interne testproces skader en tredjepart, der aldrig var part i aftalen. Tre førende AI-laboratorier har nu demonstreret dette hul inden for det samme fem-måneders vindue, og to regeringer spørger offentligt om det. Ejere, der fornyer eller forhandler en AI-leverandoraftale, har nu en konkret, aktuel grund til at spørge, hvad bestemmelserne om hændelsesmelding og ansvar reelt dækker, når det ikke er ejerens brug, men leverandørens egen test, der går galt.
Læs videre: Demokrater kræver vidneudsagn fra OpenAI, Anthropic | Tredje AI-lab på to uger melder samme sandkasse-svigt
