Lanceret torsdag, trukket tilbage fredag

Joseph Cox fra 404 Media skrev en instruks ind i Google Earth og fik et sprængkrater i Los Angeles. En anden instruks satte en menneskemængde af demonstranter foran Googles eget område i Mountain View. En skribent hos PC Gamer forvandlede sin hjemby til krigszone. Intet af det var sket, og det hele lå oven på ægte satellitbilleder af ægte steder.

Funktionen var én dag gammel. Google meddelte den 30. juli 2026, at Nano Banana, virksomhedens egen model til billedgenerering, nu kunne skabe billeder forankret i Google Earths satellit-, luft- og tredimensionelle visninger. Den 31. juli havde selskabet rullet den tilbage og føjet en opdatering til sit eget meddelelsesopslag.

Erklæringen bag kursskiftet lyder: "Vi har set fagfolk inden for geodata bruge denne funktion til en række nyttige formål, men vi har også set folk dele skærmbilleder af genereret billedmateriale, som ser ud til at overtræde vores politikker. Vi ruller denne funktion tilbage i Google Earth, mens vi arbejder på stærkere værn". Den anledning, sætningen nævner, er værd at holde fast i. Det var skærmbilleder.

Hvert billede bar mærket

Dette var ikke et umærket system. Hvert billede, funktionen frembragte, bar SynthID, Googles maskinlæsbare vandmærke. Googles egen opdatering fastslår, at de genererede billeder var mærket som skabt med kunstig intelligens, og at de ikke optrådte i den egentlige Google Earth-visning, hvor andre ville støde på dem.

Ved den første kritik pegede Google netop på det. Enhver kunne tjekke et billede med Gemini eller Google Lens, og selskabet oplyste, at det forhindrer billedgenerering om skadelige emner og løbende opdaterer sine værn. Teknisk set havde Google ret. Billederne var mærket, mærkningen kunne opdages, og der fandtes en vej til verifikation for den, der søgte den.

Cox svarede, at den tankegang misforstår, hvordan misinformation faktisk bevæger sig. Folk sender ikke de billeder, de scroller forbi, gennem et kontrolværktøj, og en billedtekst rejser hurtigere end et herkomsttjek. Mærket lå i hver eneste fil og blev slået op i næsten ingen af dem.

Bruxelles gør det mærke til prøven på søndag

Artikel 50 i EU's forordning om kunstig intelligens gælder fra den 2. august 2026, som i år falder på en søndag. Den pålægger udbydere af systemer, herunder systemer til almen brug, der genererer syntetisk lyd, billede, video eller tekst, at sikre, at resultaterne er mærket i et maskinlæsbart format og kan opdages som kunstigt genereret eller manipuleret. Pligten er ikke begrænset til højrisikosystemer, og netop derfor rammer den helt almindelige virksomheder.

Europa-Kommissionens retningslinjer beskriver de krævede mærker som effektive, pålidelige, robuste og interoperable og fastsætter ingen teknisk specifikation ud over den formulering. Undtagelserne dækker understøttende redigering, kildekode, korte tegnfølger, resultater mellem maskiner samt kunstneriske, satiriske eller fiktive værker. Overtrædelsen er prissat til op til 15 millioner euro eller 3 procent af den globale årsomsætning.

Generative systemer, der allerede er bragt på markedet den 2. august, har frist til den 2. december 2026 til at opfylde mærkningspligten i artikel 50, stk. 2, en overgang aftalt i omnibusteksten fra maj 2026. Indhold genereret før den 2. august skal ikke mærkes med tilbagevirkende kraft. For en dansk kommune, der læner sig op ad luftfotos i sin planlægning, er den praktiske læsning enkel: det, I køber fra søndag, kommer allerede mærket ind, og jeres eksisterende bestand får fire måneder mere.

Efterlevelse og sikkerhed viste sig at være to spørgsmål

Lægger man de to kendsgerninger ved siden af hinanden, bliver resultatet ubehageligt. Google mærkede hvert resultat. Målt på den standard, der binder udbydere fra søndag, bestod systemet. Google trak det derefter tilbage på under et døgn, fordi korrekt mærkede billeder i omløb gjorde skaden alligevel.

Et maskinlæsbart mærke læses af en maskine, der er blevet bedt om at kigge. I et skærmbillede klistret ind i en gruppesamtale, et opslag eller et sæt lysbilleder er der ingen, der beder om det. Mærket overlever som en egenskab ved en fil, ingen udspørger, hvilket gør det til et fremragende revisionsspor og et svagt forsvar. Artikel 50 ophøjer den reviderbare udgave til krav, og Google har lige vist i verdensmålestok, at det at opfylde det ikke er det samme som at kunne udsende det.

Det er ikke et argument mod reglen. Mærkning er et gulv, og et gulv er værd at have, for uden det kan herkomst slet ikke fastslås, heller ikke når nogen rent faktisk ser efter. Det er et argument imod at behandle et artikel 50-projekt som arbejdets afslutning. Den største virksomhed, der har taget teknikken i brug i et forbrugerprodukt, ramte gulvet og vendte om på 24 timer.

Tre ting at få på plads inden søndag

For det første: find ud af, hvilken side af reglen I står på. Køber I et generativt værktøj, er I næsten med sikkerhed idriftsætter, og pligten til maskinlæsbar mærkning ligger hos udbyderen. Jeres egen pligt er en anden og mere synlig: oplys om dybe forfalskninger, og oplys om tekst genereret eller manipuleret med kunstig intelligens, der udgives i sager af almen interesse, uden at et menneske har gennemset den. Det er en oplysning, læseren ser, ikke et signal begravet i en fil.

For det andet: lav en liste over alt syntetisk materiale, der forlader jeres organisation. Produktvisualiseringer, reklamebilleder, undervisningsmateriale, genereret stemme i telefonomstillingen, skrevne tekster på et offentligt websted. Sæt navn på, hvem der påfører mærket for hver enkelt, og få det på skrift fra leverandøren i stedet for at gå ud fra, at modellen klarer det.

For det tredje: kør Googles prøve på jeres eget materiale. Antag, at materialet tages som skærmbillede, renses for metadata og deles videre med en billedtekst, I ikke har skrevet. Hvis jeres svar på det scenarie er, at filen indeholder et vandmærke, står I i den position, Google stod i om torsdagen og opgav om fredagen.

Læs videre: AI-mærkningsreglen rammer jer, ikke jeres leverandør  |  Bruxelles blev orienteret før blogindlægget