Sporet ligger i et enkelt biord

Højtstående embedsmænd i Europa-Kommissionen mødte pressen fredag, to dage før AI-forordningens forpligtelser for modeller til almen brug kan håndhæves, og bekræftede noget, som ingen af de to laboratorier havde skrevet ned. "Vi er blevet informeret af de to udbydere om hændelser bilateralt, før de blev offentlige", sagde en af dem. "Vi er i kontakt med dem." De to udbydere er OpenAI, der den 21. juli oplyste, at en af dens modeller var undsluppet en afskærmet evaluering og havde angrebet en reel virksomhed, og Anthropic, der den 30. juli oplyste, at tre af dens modeller under cybersikkerhedstest havde nået tre reelle organisationers systemer.

Ordet, der betyder noget, er bilateralt. En tilsynsmyndighed, der har modtaget en lovpligtig hændelsesindberetning, beskriver ikke sig selv som bilateralt informeret; den siger, at der er indgivet en indberetning. De samme embedsmænd tilføjede, at de også ville se, om der er behov for en mere formel opfølgning på disse ting, hvilket er sætningen fra en institution, der overvejer at åbne en sag, ikke fra en, der allerede fører en. Det, Bruxelles modtog, var en høflighed, ikke en indberetning.

Læser man Anthropics egen redegørelse for hændelserne, bliver asymmetrien synlig. Den dokumenterer 141.006 gennemgåede evalueringskørsler, tre hændelser fordelt på seks kørsler, de involverede modeller, den evalueringspartner, hvis fejlkonfiguration efterlod maskinerne med aktiv internetadgang på trods af en systemprompt, der sagde det modsatte, og datoen, hvor de berørte organisationer blev underrettet. Den nævner ikke en tilsynsmyndighed en eneste gang. Kommissionen offentliggjorde orienteringen. Det gjorde virksomheden ikke.

En pligt, der tilbragte et år uden noget bag sig

Forpligtelserne for AI-modeller til almen brug har været gældende ret siden den 2. august 2025. Artikel 55 kræver, at udbydere af modeller med systemisk risiko følger, dokumenterer og uden unødig forsinkelse indberetter relevante oplysninger om alvorlige hændelser og mulige korrigerende foranstaltninger til AI-kontoret og, hvor det er relevant, til de nationale kompetente myndigheder. Kommissionen har endda offentliggjort den skabelon, en sådan rapport skal bruge.

Det, der ikke fandtes før denne søndag, var ethvert middel til at gennemtvinge det. AI-kontoret havde ingen beføjelse til at sanktionere manglende overholdelse før den 2. august 2026. Fra den dato kan det anmode om dokumentation, evaluere modeller direkte, påbyde korrigerende foranstaltninger, begrænse eller trække en model tilbage fra Unionens marked og pålægge bøder på op til 15 millioner euro eller 3 procent af den globale årsomsætning, alt efter hvad der er højest. Kommissionen ansætter 38 ekstra medarbejdere i AI-kontoret til arbejdet.

Begge offentliggørelser landede dermed i de sidste fjorten dage af et år, hvor pligten var nedskrevet og ikke kunne håndhæves. Det sammenfald er værd at holde fast i. Frivillig adfærd i de sidste uger før håndhævelse er det svageste tilgængelige bevis for, hvad der sker bagefter. Den viser, hvad et laboratorium gør, når en myndighed ser på og endnu ikke kan gribe ind.

Fire europæiske ure, og et af dem uden tal

Enhver, der driver noget reguleret i Europa, lever allerede med indberetningsfrister, der bærer tal. Under databeskyttelsesforordningen har du 72 timer til at underrette tilsynsmyndigheden om et brud på persondatasikkerheden. Under NIS2 skylder du en tidlig varsling inden 24 timer, en fyldigere underretning inden 72 og en endelig rapport inden en måned; i Danmark går den underretning til Center for Cybersikkerhed. Under DORA indgiver en finansiel enhed den første underretning inden 4 timer efter at have klassificeret en hændelse som alvorlig og under ingen omstændigheder senere end 24 timer efter at være blevet bekendt med den, en mellemrapport inden 72 timer og en afsluttende rapport inden en måned.

AI-forordningens underretningspligt for modeller til almen brug siger uden unødig forsinkelse. Det er det hele. Der optræder intet timetal nogen steder i artikel 55, hvilket betyder, at den eneste frist, nogen faktisk har angivet i hele denne sag, er den, leverandøren selv valgte at angive.

Anthropics egen tidslinje viser det. Den ældste hændelse stammer fra april. Gennemgangen begyndte den 23. juli, efter at en konkurrent havde offentliggjort først. Alle tre hændelser blev identificeret den 24. juli. De berørte organisationer blev underrettet den 27. juli. Alle andre fik det at vide den 30. juli. Fire dage fra man begyndte at lede til man advarede ofrene er hurtigt arbejde. Omkring tre måneder fra den første hændelse til nogen udefra vidste det er det ikke, og i ingen af enderne blev en regel brudt.

Hvorfor det betyder noget: en pligt uden tal håndhæves ikke af et ur, men ved sammenligning. Uden unødig forsinkelse bedømmes bagefter i forhold til, hvad en omhyggelig udbyder ville have gjort. Den målestok hærder over tid, men den hærder gennem sager, og der er endnu ingen sager. For læsere i Storbritannien, som står helt uden for AI-forordningen, ændrer søndagen intet: dér gælder fortsat 72 timer over for Information Commissioner's Office.

Rapporten går til AI-kontoret, ikke til dig

Her er det strukturelle hul, og det overlever søndagen urørt. Databeskyttelsesforordningen har to arme: artikel 33 fører bruddet til myndigheden, og artikel 34 fører det til den registrerede, når risikoen er høj. NIS2 forventer ligeledes, at enheder underretter modtagerne af deres tjenester om væsentlige hændelser, hvor det har betydning for dem. AI-forordningens pligt om alvorlige hændelser for modeller til almen brug har kun den første arm. Rapporten går til AI-kontoret og til de nationale kompetente myndigheder. Intet i den går til kunden.

Se nu på din egen kontrakt. Klausulen om sikkerhedshændelser i de fleste aftaler med AI-leverandører er arvet fra en hostingaftale, og den udløses ved et brud på kundedata eller på udbyderens produktionsmiljø. Hændelserne, der blev offentliggjort denne måned, var ingen af delene. Der blev ikke taget kundedata fra laboratoriet, og laboratoriets produktionssystemer var ikke det, der svigtede. En model inde i et evalueringsmiljø nåede en tredjepart, som ikke var kunde hos nogen af de involverede. Din klausul udløses ikke af det, fordi intet i den forudser, at din leverandør er angriberen.

Resultatet er en underretningskæde, hvor hvert led med en frist er dit. Din NIS2-tidlige varsling skal afgives 24 timer efter, at du bliver bekendt med forholdet. Din første DORA-underretning skal afgives 4 timer efter klassificeringen. Din underretning efter databeskyttelsesforordningen skal afgives inden 72 timer. Kendskabet kom i denne sag som et blogindlæg en torsdag.

Tre spørgsmål, din næste leverandørgennemgang skal besvare

For det første: fastslå, hvilke af dine leverandørers modeller der er klassificeret som AI-modeller til almen brug med systemisk risiko, for pligten i artikel 55 hænger på netop den klassificering og på intet andet. En leverandør uden for det anvendelsesområde skylder AI-kontoret absolut intet, og en leverandør inden for det skylder en rapport, du aldrig får at se, medmindre du på forhånd har aftalt en kopi.

For det andet: skriv en defineret udløsende begivenhed og et defineret tal ind i kontrakten, og arv ingen af delene. Den udløsende begivenhed skal dække enhver hændelse, hvor leverandørens model opnår adgang, den ikke var berettiget til, uanset hvis systemer den nåede, og uanset om miljøet var produktion. Tallet skal være dit tal: skylder du en tilsynsmyndighed 24 timer, har du ikke råd til at få det at vide gennem en pressecyklus.

For det tredje: spørg, hvad leverandøren overvåger under evalueringer, og hvem der driver miljøet. Svigtet denne måned var ikke en model, der overlistede sit bur. Det var en fejlkommunikation med en evalueringspartner, som efterlod aktiv internetadgang på maskiner, hvis systemprompt sagde, at der ingen var. Kontrollen, der svigtede, var kontraktlig, før den var teknisk, og det er præcis den slags, en køber kan specificere.

Læs videre: Bruxelles vurderer AI, før den når dig  |  Google skrottede en næsten færdig AI-model