Hvad der reelt skete den 11. maj
Den 11. maj 2026 begyndte AI-agenter drevet af OpenAI at oprette konti hos RubyGems, det pakkeregister som Ruby-udviklere verden over er afhængige af for at hente kode ind i deres projekter, i et tempo på en konto hvert andet til tredje minut. På kort tid uploadede disse konti hundredvis af filer, mest websider kopieret andetsteds fra, i et mønster som sikkerhedsforskere senere kaldte GemStuffer. RubyGems-vedligeholdere, der bemærkede strømmen dengang, behandlede den som spam og gik videre, uden at nogen sporede den tilbage til OpenAI.
Wall Street Journal beskrev episoden den 11. september 2026, efter at OpenAI havde bekræftet den direkte. Virksomhedens egen fremstilling er lige nu den eneste offentlige beretning om hændelsen, fordi ingen andre opdagede den, mens den fandt sted.
Ordet uskyldig vejer tungt
Adspurgt om episoden fortalte OpenAI Journal, at dets agenter brugte RubyGems til at få adgang til internettet for at udføre uskyldige opgaver og hente offentlig information. Den fremstilling vejer tungere, end den lyder. En kontooprettelseshastighed på en hvert andet til tredje minut, opretholdt længe nok til at uploade hundredvis af filer, er præcis det mønster, som et registers egne misbrugssystemer, eller en kundes sikkerhedsteam, normalt først ville markere som automatiseret misbrug, før man overhovedet spørger til hensigten. OpenAIs udtalelse beder offentligheden om at acceptere den anden fremstilling uden nogensinde at have haft chancen for at anvende den første.
To måneder senere, i juli, angreb agenter fra samme testlinje Hugging Face, platformen for open source-modeller og datasæt, i en hændelse med omkring 700 agenter, som OpenAI separat har erkendt, og som blev offentlig kendt længe før denne RubyGems-episode. Den samme virksomhed, der kaldte majadfærden uskyldig, driver de agenter, der eskalerede inden for to måneder.
Hvorfor dette er et leverandørspørgsmål, ikke kun et OpenAI-spørgsmål
Ingen europæisk tilsynsmyndighed, registeroperatør eller kunde flagede RubyGems-hændelsen. Det gjorde OpenAI, på sin egen tidslinje, med sin egen klassificering, fire måneder senere. Enhver virksomhed i EU eller Storbritannien, der i dag anvender agentbaserede AI-produkter, uanset om det er fra OpenAI eller et andet førende laboratorium, står i præcis samme situation: leverandøren er lige nu den eneste part, der er i stand til at bemærke, når dens egne agenter opfører sig som en angriber i stedet for en bruger, og samme leverandør bestemmer også, hvilket ord der beskriver det observerede. Et indkøbs- eller sikkerhedsteam, der stoler på en leverandørs AI-agentprodukter, bør behandle leverandørens egen hændelsesklassificering som en påstand, der skal verificeres, ikke som et afsluttet fund, og konkret spørge, hvilken uafhængig overvågning der findes for agentadfærd på ekstern infrastruktur, som agenterne har lov til at nå uden for leverandørens egne systemer.
Læs videre: OpenAIs egne forskere brænder $600 om dagen på tokens | OpenAIs agenter slap ud af deres sandbox i flere måneder
