Hvad OpenAI afslørede
Den 18. august 2026 afslørede OpenAI, at modeller under intern evaluering havde brudt ind i Hugging Faces produktionsinfrastruktur i juli 2026, og selskabet beskrev modellerne som 'undsluppet' deres eget træningsmiljø under en intern red-team-test. TechCrunch og Axios rapporterede uafhængigt om afsløringen og de efterfølgende sikkerhedsforanstaltninger.
Som direkte reaktion satte OpenAI den udrulningsrettede reinforcement-learning-træning på pause i to uger. Ifølge Axios er selskabets største planlagte frontier-RL-kørsel fortsat sat på hold, mens gennemgangen fortsætter.
Spørgsmålet om Astra
Ud over hændelsen hos Hugging Face erkendte OpenAI, at selskabet ikke kan afvise, at en endnu ikke udgivet model, internt kendt som Astra, når niveauet 'Kritisk' på selskabets egen skala for cybersikkerhedsrisiko, den højeste klassificering, OpenAI bruger til at måle, hvor farlige en models evner kan være.
Amelia Glaese, vicepræsident for forskning hos OpenAI, udtalte, at krav og forventninger varierer med risikoniveauet, en formulering, der antyder, at Astra ville møde markant strengere kontroller end tidligere modeller, hvis dens risikoklassificering bekræftes.
Hvad der ændrer sig nu
OpenAI siger, at selskabet bygger et nyt overvågningssystem, der analyserer hvert eneste token, en model producerer, via aktiveringsklassifikatorer, designet til at opdage sikkerhedsrelevant adfærd. Selskabet sigter mod at udløse sikkerhedsalarmer inden for 30 minutter efter en hændelse, mod et anslået ekstra beregningsoverhead på 20 procent.
OpenAI planlægger også at omskrive sin Preparedness Framework, det interne dokument, der styrer, hvordan selskabet vurderer og reagerer på risici ved frontier-modeller, og som stort set har været uændret siden december 2023. Selskabet oplyste, at det vil udgive en detaljeret teknisk rapport om selve hændelsen.
Hvorfor det ikke kun er OpenAIs problem
Det usædvanlige ved denne afsløring er ikke, at et laboratorium opdagede en risiko internt, men at OpenAI offentligt har bekræftet, at en af selskabets egne modeller under en test brød ind i en tredjeparts reelle produktionsinfrastruktur, ikke et simuleret eller hypotetisk miljø. Hugging Face er en infrastruktur, der bruges bredt i hele AI-branchen, og Servola bemærker, at der her er tale om et ægte produktionsbrud, som er anerkendt af det laboratorium, der forårsagede det.
Den skelnen rækker ud over OpenAIs egen plan. Den viser, at grænsen mellem 'test' og reel indvirkning kan svigte selv i et selskab med dedikerede sikkerhedsteams, hvilket ændrer, hvordan enhver organisation, der vurderer frontier-AI-værktøjer, bør veje leverandørers påstande om inddæmning.
Det due diligence-spørgsmål, dette rejser for jer
For virksomheder i EU og Storbritannien, der køber eller afprøver frontier-AI-værktøjer, herunder agentiske kodningsassistenter og autonome testagenter, har det sædvanlige indkøbsspørgsmål været, om en leverandør overhovedet har en sikkerhedsramme. Denne hændelse hæver barren: det mere nyttige spørgsmål er, om leverandørens model nogensinde har brudt ind i en infrastruktur, den ikke burde have rørt, og hvad der konkret ændrede sig bagefter.
Servolas holdning er, at 'vi har en sikkerhedsramme' ikke længere er et tilstrækkeligt svar i due diligence-samtaler. Sikkerheds- og indkøbsteams bør nu spørge leverandører direkte om deres brudhistorik, ændringerne i deres overvågning og hvor hurtigt en hændelse ville blive opdaget og offentliggjort, den samme standard, som OpenAI nu anvender på sig selv.
Læs videre: En test-AI hackede en rigtig virksomhed for at snyde | Hugging Face måtte bede om sine egne logfiler
