Donderdag gelanceerd, vrijdag ingetrokken

Joseph Cox van 404 Media typte een opdracht in Google Earth en kreeg een explosiekrater in Los Angeles. Een volgende opdracht zette een menigte demonstranten voor Googles eigen campus in Mountain View. Een redacteur bij PC Gamer veranderde zijn geboorteplaats in oorlogsgebied. Niets daarvan was gebeurd, en alles lag boven op echte satellietbeelden van echte plaatsen.

De functie was één dag oud. Google kondigde op 30 juli 2026 aan dat Nano Banana, het eigen model voor beeldgeneratie, voortaan beelden kon maken die verankerd waren in de satelliet-, lucht- en driedimensionale weergaven van Google Earth. Op 31 juli had het bedrijf de functie teruggedraaid en een actualisering aan het eigen aankondigingsbericht toegevoegd.

De verklaring bij die ommekeer luidt: "We hebben gezien dat professionals in de geo-informatie deze functie voor allerlei nuttige doeleinden gebruiken, maar we hebben ook gezien dat mensen schermafbeeldingen van gegenereerde beelden delen die ons beleid lijken te schenden. We draaien deze functie in Google Earth terug terwijl we aan sterkere waarborgen werken". De aanleiding die in die zin genoemd wordt, is het onthouden waard. Het waren schermafbeeldingen.

Elk beeld droeg de markering

Dit was geen ongelabeld systeem. Elk beeld dat de functie voortbracht droeg SynthID, Googles machineleesbare watermerk. Googles eigen actualisering vermeldt dat de gegenereerde beelden als door AI gemaakt waren gemarkeerd en dat ze niet verschenen in de eigenlijke Google Earth-weergave, waar anderen ze tegen zouden komen.

Bij de eerste kritiek wees Google precies daarop. Iedereen kon een beeld controleren met Gemini of Google Lens, en het bedrijf stelde dat het beeldgeneratie over schadelijke onderwerpen tegenhoudt en zijn beschermingen voortdurend bijwerkt. Technisch had Google gelijk. De beelden waren gemarkeerd, de markering was detecteerbaar, en er bestond een route naar verificatie voor wie die zocht.

Cox antwoordde dat deze redenering miskent hoe desinformatie zich werkelijk beweegt. Mensen halen de beelden waar ze langs scrollen niet door een verificatiehulpmiddel, en een onderschrift reist sneller dan een herkomstcontrole. De markering zat in elk bestand en werd in vrijwel geen enkel bestand geraadpleegd.

Brussel maakt die markering zondag tot de toets

Artikel 50 van de Europese AI-verordening geldt vanaf 2 augustus 2026, dat dit jaar op een zondag valt. Het verplicht aanbieders van AI-systemen, met inbegrip van systemen voor algemene doeleinden, die synthetische audio, beeld, video of tekst genereren ervoor te zorgen dat de uitvoer machineleesbaar gemarkeerd is en detecteerbaar als kunstmatig gegenereerd of gemanipuleerd. De plicht is niet beperkt tot systemen met een hoog risico, en juist daarom raakt zij doodgewone ondernemingen.

De richtsnoeren van de Europese Commissie omschrijven de vereiste markeringen als doeltreffend, betrouwbaar, robuust en interoperabel, en leggen daarbuiten geen technische specificatie vast. Uitzonderingen betreffen ondersteunende bewerking, broncode, korte reeksen symbolen, uitvoer tussen machines en artistieke, satirische of fictionele werken. De overtreding is geprijsd op maximaal 15 miljoen euro of 3 procent van de wereldwijde jaaromzet.

Generatieve systemen die op 2 augustus al op de markt zijn, hebben tot 2 december 2026 om aan de markeringsplicht van artikel 50, lid 2, te voldoen, een overgang die is afgesproken in de omnibustekst van mei 2026. Inhoud die vóór 2 augustus is gegenereerd hoeft niet met terugwerkende kracht te worden gelabeld. Voor een Nederlands waterschap dat op luchtbeelden vertrouwt bij dijkinspecties, is de praktische lezing eenvoudig: wat u vanaf zondag inkoopt komt al gemarkeerd binnen, en uw bestaande bestand krijgt vier maanden extra.

Naleving en veiligheid bleken twee verschillende vragen

Leg de twee feiten naast elkaar en het resultaat is ongemakkelijk. Google markeerde elke uitvoer. Gemeten aan de maatstaf die aanbieders vanaf zondag bindt, slaagde het systeem. Google trok het vervolgens binnen één dag terug, omdat correct gemarkeerde beelden die al in omloop waren de schade toch aanrichtten.

Een machineleesbare markering wordt gelezen door een machine die gevraagd is te kijken. In een schermafbeelding die in een groepsgesprek, een bericht of een presentatie belandt, vraagt niemand erom. De markering overleeft als eigenschap van een bestand dat niemand ondervraagt, wat haar tot een uitstekend auditstuk en een zwakke verdediging maakt. Artikel 50 verheft de controleerbare versie tot vereiste, en Google heeft zojuist op wereldschaal aangetoond dat eraan voldoen niet hetzelfde is als kunnen uitleveren.

Dit is geen argument tegen de regel. Markering is een ondergrens, en een ondergrens is waardevol, want zonder die grens is herkomst zelfs niet vast te stellen wanneer iemand wél gaat kijken. Het is een argument tegen de gedachte dat een artikel 50-traject het einde van het werk is. Het grootste bedrijf dat deze techniek in een consumentenproduct heeft ingezet, haalde de ondergrens en draaide binnen 24 uur bij.

Drie zaken om vóór zondag te regelen

Ten eerste: bepaal aan welke kant van de regel u staat. Wie een generatief hulpmiddel inkoopt, is vrijwel zeker gebruiksverantwoordelijke, en de machineleesbare markeringsplicht ligt bij de aanbieder. Uw eigen plicht is een andere en zichtbaardere: deepfakes vermelden, en met AI gegenereerde of gemanipuleerde teksten vermelden die over kwesties van algemeen belang worden gepubliceerd zonder dat een mens ze heeft nagelopen. Dat is een vermelding die de lezer ziet, geen signaal diep in een bestand.

Ten tweede: maak een lijst van al het synthetische materiaal dat uw organisatie verlaat. Productvisualisaties, reclamebeelden, opleidingsmateriaal, gegenereerde stem in de telefooncentrale, opgestelde teksten op een openbare site. Benoem per stuk wie de markering aanbrengt, en laat dat door de leverancier schriftelijk bevestigen in plaats van aan te nemen dat het model het regelt.

Ten derde: pas Googles proef toe op uw eigen uitvoer. Neem aan dat het materiaal als schermafbeelding wordt vastgelegd, van zijn metagegevens wordt ontdaan en verder wordt gedeeld met een onderschrift dat u niet hebt geschreven. Als uw antwoord op dat scenario is dat het bestand een watermerk bevat, houdt u de positie vast die Google donderdag hield en vrijdag opgaf.

Lees hierna: De AI-labelregel landt bij u, niet bij uw leverancier  |  Brussel werd voor de blogpost ingelicht