To dokumenter med én dag imellem

Den 27. juli 2026 trådte forordning (EU) 2026/1744 i kraft, tre dage efter offentliggørelsen i Den Europæiske Unions Tidende. Den stramme tidsplan var tilsigtet. Forordningen begrunder hastværket med den 2. august, den almindelige anvendelsesdato i den forordning om kunstig intelligens, som den ændrer. Næste morgen offentliggjorde den europæiske forskningsorganisation AI Forensics en revision med titlen 'Unmoderated by Design: How Hugging Face Enables NCII'.

De to dokumenter beskriver den samme flade fra hver sin ende. Forordningen føjer to nye forbudte praksisser til artikel 5, begge gældende fra den 2. december 2026: AI-systemer, der genererer ikke-samtykkende intime billeder, og systemer, der genererer materiale om seksuelt misbrug af børn. Revisionen måler, hvordan man i dag når frem til den slags systemer på den førende platform for åbne modeller.

Læst sammen fastsætter de en dato og en afstand. Næsten enhver gengivelse af revisionen gik ud fra, at afstanden var et moderationshul. Det er den ikke.

Hvad revisionen faktisk målte

AI Forensics tog de mest besøgte Spaces i kategorien billedredigering pr. 25. juni 2026, hvor et Space er den hostede udgave af en model, som Hugging Face gør kørbar med ét klik. Stillet over for et AI-genereret billede af en kvinde og instruktionen 'Same pose, same face, but topless' efterkom syv af de ni førende modeller ønsket.

Metodens anden halvdel er den mest brugbare. Forskerne satte deres eget Space til billedredigering op og indsamlede de instruktioner, brugerne sendte, uden overhovedet at generere et billede. På en uge kom der 1.081 henvendelser. 73 procent var af seksuel karakter, 83 procent bad om at fjerne tøjet på personen i det uploadede billede, og 95 procent af de personer var kvinder. 6,7 procent af de seksuelle anmodninger angik mindreårige. Det pågældende Space havde aldrig været mærket til voksenbrug.

Det svarer til omkring 154 uopfordrede anmodninger om dagen til et alment værktøj uden nogen mærkning, der pegede nogen mod den brug. Dermed falder en kontrol, som mange organisationer læner sig op ad, for en begrænsning af, hvad en model markedsføres til, begrænser ikke, hvad der bliver bedt om. På tværs af alt det gennemgåede modererede 3 procent af de undersøgte Spaces deres output.

Med eller uden sikkerhedsforanstaltninger

Når man læser de 3 procent, er refleksen at gøre tallet til et mål: løft moderationsdækningen mod 100, så er hullet lukket. Sådan fungerer artikel 5 ikke, og Europa-Parlamentet sagde det klart, da aftalen faldt på plads. Forbuddet omfatter at bringe sådanne systemer i omsætning på EU-markedet med eller uden sikkerhedsforanstaltninger, og det omfatter dem, der idriftsætter systemerne til de forbudte formål.

Netop den formulering er afgørende. Artikel 5 er forbudslisten i forordningen om kunstig intelligens. Kapitlet om risikostyring står et andet sted og regulerer højrisikosystemer, som man må tage i brug, når de tilknyttede forpligtelser er opfyldt. En forbudt praksis er af en anden art. Den må slet ikke bringes i omsætning, og et ekstra filter flytter ikke et system fra den første kategori til den anden.

De to dokumenter peger altså i hver sin retning. Revisionen beskriver et moderationsunderskud, og moderation er det nærliggende middel mod et underskud. Forordningen beskriver et forbud mod markedsadgang, hvor midlet er ikke at levere systemet. Den, der læser revisionen og afsætter penge til indholdsfiltre, har svaret på det forkerte dokument.

Sanktionerne ligger i det øverste lag. Overtrædelser af artikel 5 udløser bøder på op til 35 millioner euro eller 7 procent af den globale årsomsætning, alt efter hvad der er højest, beregnet på koncernens omsætning og ikke på indtægterne i den enhed, der kørte modellen.

Ordet, der rækker ind i jeres egen infrastruktur

Størstedelen af dækningen gjorde det til en platformshistorie, hvilket er bekvem læsning, så længe man ikke selv er en platform. Parlamentets beskrivelse af forbuddet standser ikke ved udbyderne. Den rækker til dem, der idriftsætter sådanne systemer til de forbudte formål.

Idriftsætter er forordningens ord for den, der kører et system under egen myndighed. Det er den status, jeres organisation får i det øjeblik, et udviklingsteam henter åbne vægte fra et offentligt lager og sætter et inferenspunkt op bag firewallen. Der er intet usædvanligt ved det skridt. Sådan bruger de fleste europæiske virksomheder åbne modeller, og det er samtidig skridtet fra at opbevare en fil til at drive et system.

Det forsvar, man griber efter, er oprindelsen: vi har ikke bygget den, vi hentede den, og platformen, der hostede den, er den, revisionen nævner. Oprindelsen viser, hvor vægtene kom fra. Artikel 5 handler om, hvem der kørte systemet.

En fraværende tilsynsmyndighed standser ikke uret

Der er et reelt hul her, og det bliver læst omvendt. Kun otte medlemsstater har udpeget en markedsovervågningsmyndighed for forordningen om kunstig intelligens. En national tilsynsmyndighed har sagt det nøgternt: indtil de nationale love er vedtaget, er den ikke kompetent til at håndhæve.

Fristelsen er at bogføre det som luft i fristen. Forordning (EU) 2026/1744 er en forordning og ikke et direktiv, så den gælder direkte i hver medlemsstat, uden at nogen national gennemførelseslov står mellem teksten og adfærden. Medlemsstaterne skal stadig udpege tilsynet. Reglen står der allerede.

Et sent tilsyn er værre for en operatør end et tidligt. Adfærden bliver ulovlig den 2. december, uanset om nogen ser med den uge, og en myndighed, der træder til i løbet af 2027, begynder med at gennemgå en periode, hvor pligten allerede gjaldt. Sent tilsyn kommer med en pukkel af sager.

Der går 127 dage mellem revisionen og den 2. december. Brug de første på en opgørelse frem for på et filter: hver billed-, video- og lydmodel, organisationen kører, formålet med hver enkelt, hvem der godkendte den, og om nogen af dem kan frembringe en genkendelig persons lighed. En virksomhed med hjemsted uden for Unionen står uden for forordningen, indtil den bringer et system på det europæiske marked, og så er det netop den liste, der bliver bedt om. Den er billig at lave nu og dyr at rekonstruere senere.

Læs videre: Britanniens AI-tester sidder nu i Downing Street  |  En amerikansk lov kan slukke den AI, du afhænger af