Donnerstag gestartet, Freitag zurückgezogen

Joseph Cox von 404 Media gab eine Anweisung in Google Earth ein und erzeugte einen Explosionskrater in Los Angeles. Eine weitere Eingabe stellte eine Menge Demonstrierender vor Googles eigenen Campus in Mountain View. Ein Autor bei PC Gamer verwandelte seine Heimatstadt in ein Kriegsgebiet. Nichts davon war geschehen, und alles davon lag über echten Satellitenaufnahmen echter Orte.

Die Funktion war einen Tag alt. Google kündigte am 30. Juli 2026 an, dass Nano Banana, das eigene Modell zur Bilderzeugung, nun Bilder auf Grundlage der Satelliten-, Luft- und 3D-Ansichten von Google Earth erstellen könne. Am 31. Juli hatte das Unternehmen die Funktion zurückgenommen und dem eigenen Ankündigungsbeitrag eine Aktualisierung angefügt.

Die Erklärung zur Kehrtwende lautet: "Wir haben gesehen, dass Fachleute aus der Geoinformatik diese Funktion für eine Reihe nützlicher Zwecke einsetzen, wir haben aber auch gesehen, dass Menschen Bildschirmfotos erzeugter Bilder teilen, die offenbar gegen unsere Richtlinien verstoßen. Wir nehmen diese Funktion in Google Earth zurück, während wir an stärkeren Schutzmechanismen arbeiten." Der in diesem Satz genannte Auslöser lohnt das Festhalten. Es waren Bildschirmfotos.

Jedes Bild trug die Markierung

Dies war kein unmarkiertes System. Jedes von der Funktion erzeugte Bild trug SynthID, Googles maschinenlesbares Wasserzeichen. Googles eigene Aktualisierung hält fest, dass die erzeugten Bilder als KI-generiert gekennzeichnet waren und in der eigentlichen Google-Earth-Ansicht, in der andere Menschen ihnen begegnen würden, gar nicht auftauchten.

Auf die erste Kritik hin verwies Google genau darauf. Jeder könne ein Bild mit Gemini oder Google Lens prüfen, und das Unternehmen erklärte, es verhindere die Bilderzeugung zu schädlichen Themen und aktualisiere seine Schutzmechanismen fortlaufend. In der technischen Aussage lag Google richtig. Die Bilder waren markiert, die Markierung war erkennbar, und ein Weg zur Überprüfung stand jedem offen, der ihn suchte.

Cox hielt dagegen, dass dies verkennt, wie Falschinformation sich tatsächlich bewegt. Menschen schicken die Bilder, an denen sie vorbeiscrollen, nicht durch ein Prüfwerkzeug, und eine Bildunterschrift reist schneller als ein Herkunftsnachweis. Die Markierung war in jeder Datei vorhanden und wurde in fast keiner abgefragt.

Brüssel macht diese Markierung am Sonntag zum Maßstab

Artikel 50 der KI-Verordnung gilt ab dem 2. August 2026, der in diesem Jahr auf einen Sonntag fällt. Er verpflichtet Anbieter von KI-Systemen einschließlich Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, dafür zu sorgen, dass die Ausgaben maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht beschränkt sich nicht auf Hochrisikosysteme, und genau deshalb erreicht sie ganz gewöhnliche Unternehmen.

Die Leitlinien der Europäischen Kommission beschreiben die verlangten Markierungen als wirksam, zuverlässig, robust und interoperabel und legen darüber hinaus keine technische Vorgabe fest. Ausnahmen betreffen unterstützende Bearbeitung, Quellcode, kurze Zeichenfolgen, Ausgaben zwischen Maschinen sowie künstlerische, satirische oder fiktionale Werke. Ein Verstoß ist mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes bewertet.

Generative Systeme, die am 2. August bereits auf dem Markt sind, haben bis zum 2. Dezember 2026 Zeit, die maschinenlesbare Kennzeichnungspflicht nach Artikel 50 Absatz 2 zu erfüllen, ein Übergang, der im Omnibus-Text vom Mai 2026 vereinbart wurde. Vor dem 2. August erzeugte Inhalte müssen nicht rückwirkend gekennzeichnet werden. Für ein deutsches Unternehmen heißt das: Der Stichtag betrifft die Systeme, die Sie ab Sonntag neu in Betrieb nehmen, unmittelbar, und Ihren bestehenden Bestand mit vier Monaten Aufschub.

Vorschriftstreue und Sicherheit erwiesen sich als zwei Fragen

Legt man beide Tatsachen nebeneinander, wird das Ergebnis unbequem. Google markierte jede Ausgabe. Gemessen an dem Maßstab, der Anbieter ab Sonntag bindet, bestand das System. Google nahm es dann in weniger als einem Tag zurück, weil korrekt markierte Bilder im Umlauf den Schaden trotzdem anrichteten.

Eine maschinenlesbare Markierung wird von einer Maschine gelesen, die man darum gebeten hat. In einem Bildschirmfoto, das in einen Gruppenchat, einen Beitrag oder eine Präsentation wandert, bittet niemand darum. Die Markierung überlebt als Eigenschaft einer Datei, die niemand befragt, was sie zu einem hervorragenden Prüfnachweis und zu einer schwachen Verteidigung macht. Artikel 50 erhebt die prüfbare Fassung zur Anforderung, und Google hat gerade im Weltmaßstab vorgeführt, dass ihre Erfüllung nicht dasselbe ist wie die Auslieferbarkeit eines Produkts.

Das ist kein Argument gegen die Regel. Die Kennzeichnung ist ein Mindestmaß, und ein Mindestmaß ist wertvoll, denn ohne es lässt sich Herkunft auch dann nicht belegen, wenn jemand tatsächlich nachsieht. Es ist ein Argument dagegen, ein Artikel-50-Vorhaben für das Ende der Arbeit zu halten. Das größte Unternehmen, das diese Technik in einem Verbraucherprodukt eingesetzt hat, erfüllte das Mindestmaß und machte binnen 24 Stunden kehrt.

Drei Dinge, die vor Sonntag geklärt sein sollten

Erstens: Klären Sie, auf welcher Seite der Regel Sie stehen. Wer ein generatives Werkzeug einkauft, ist fast immer Betreiber, und die maschinenlesbare Kennzeichnungspflicht liegt beim Anbieter. Ihre eigene Pflicht ist eine andere und sichtbarere: Deepfakes offenlegen und KI-erzeugte oder manipulierte Texte offenlegen, die zu Fragen von öffentlichem Interesse veröffentlicht werden, ohne dass ein Mensch sie geprüft hat. Das ist ein Hinweis, den eine Leserin sieht, kein Signal tief in einer Datei.

Zweitens: Führen Sie jedes synthetische Material auf, das Ihr Haus verlässt. Produktdarstellungen, Werbebilder, Schulungsunterlagen, erzeugte Stimmen in der Telefonanlage, entworfene Texte auf einer öffentlichen Seite. Benennen Sie zu jedem Posten, wer die Markierung anbringt, und lassen Sie sich das vom Lieferanten schriftlich geben, statt anzunehmen, das Modell erledige es.

Drittens: Wenden Sie Googles Probe auf Ihre eigene Ausgabe an. Nehmen Sie an, das Material werde als Bildschirmfoto festgehalten, seiner Metadaten entkleidet und mit einer Bildunterschrift weiterverbreitet, die nicht von Ihnen stammt. Wenn Ihre Antwort darauf lautet, die Datei enthalte ein Wasserzeichen, halten Sie die Position, die Google am Donnerstag hielt und am Freitag aufgab.

Weiterlesen: Die KI-Kennzeichnung trifft Sie, nicht Ihren Anbieter  |  Brüssel wurde vor dem Blogbeitrag informiert