Google oznaczył każdy obraz i wycofał go w dzień

Uruchomiona w czwartek, wycofana w piątek

Joseph Cox z 404 Media wpisał polecenie do Google Earth i uzyskał krater po wybuchu w Los Angeles. Kolejne polecenie ustawiło tłum demonstrantów przed własnym kampusem Google w Mountain View. Autor piszący dla PC Gamer zamienił swoje rodzinne miasto w strefę wojny. Nic z tego się nie wydarzyło, a wszystko to leżało na prawdziwych zdjęciach satelitarnych prawdziwych miejsc.

Funkcja miała jeden dzień. Google ogłosił 30 lipca 2026 roku, że Nano Banana, jego własny model generowania obrazów, potrafi już tworzyć obrazy osadzone w satelitarnych, lotniczych i trójwymiarowych widokach Google Earth. Do 31 lipca firma ją wycofała i dopisała aktualizację do własnego wpisu z ogłoszeniem.

Oświadczenie tłumaczące zwrot brzmi: "Widzieliśmy specjalistów od geoinformacji korzystających z tej funkcji do wielu użytecznych celów, ale widzieliśmy też ludzi udostępniających zrzuty ekranu wygenerowanych obrazów, które zdają się naruszać nasze zasady. Wycofujemy tę funkcję w Google Earth, pracując nad mocniejszymi zabezpieczeniami". Warto zapamiętać powód wskazany w tym zdaniu. Były to zrzuty ekranu.

Każdy obraz niósł oznaczenie

To nie był system bez etykiety. Każdy obraz tworzony przez tę funkcję nosił SynthID, odczytywalny maszynowo znak wodny Google. Własna aktualizacja firmy odnotowuje, że wygenerowane obrazy były oznaczone jako stworzone przez sztuczną inteligencję i że nie pojawiały się w zasadniczym widoku Google Earth, tam gdzie natknęliby się na nie inni ludzie.

Wobec pierwszej krytyki Google wskazał dokładnie na to. Każdy mógł sprawdzić obraz w Gemini albo w Google Lens, a firma oświadczyła, że blokuje generowanie obrazów o szkodliwej tematyce i stale aktualizuje swoje zabezpieczenia. Od strony technicznej Google miał rację. Obrazy były oznaczone, oznaczenie dawało się wykryć, a droga do weryfikacji istniała dla każdego, kto jej szukał.

Cox odpowiedział, że to rozumowanie nie rozumie, jak naprawdę porusza się dezinformacja. Ludzie nie przepuszczają przez narzędzie weryfikujące obrazów, które mijają, przewijając ekran, a podpis podróżuje szybciej niż sprawdzenie pochodzenia. Oznaczenie było obecne w każdym pliku i sprawdzone w prawie żadnym.

Bruksela czyni z tego oznaczenia sprawdzian w niedzielę

Artykuł 50 unijnego rozporządzenia o sztucznej inteligencji obowiązuje od 2 sierpnia 2026 roku, który w tym roku wypada w niedzielę. Nakazuje dostawcom systemów, w tym systemów ogólnego przeznaczenia, generujących syntetyczne treści dźwiękowe, obrazowe, wideo lub tekstowe zapewnić, by wyniki były oznaczone w formacie odczytywalnym maszynowo i wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Obowiązek nie ogranicza się do systemów wysokiego ryzyka i właśnie dlatego dosięga zwykłych przedsiębiorstw.

Wytyczne Komisji Europejskiej opisują wymagane oznaczenia jako skuteczne, wiarygodne, odporne i interoperacyjne i poza tą formułą nie ustalają żadnej specyfikacji technicznej. Wyłączenia obejmują edycję wspomagającą, kod źródłowy, krótkie ciągi symboli, wyniki wymieniane między maszynami oraz dzieła artystyczne, satyryczne lub fikcyjne. Naruszenie wyceniono na maksymalnie 15 milionów euro lub 3 procent światowego rocznego obrotu.

Systemy generatywne wprowadzone na rynek przed 2 sierpnia mają czas do 2 grudnia 2026 roku na spełnienie obowiązku oznaczania z artykułu 50 ustęp 2, zgodnie z przejściem uzgodnionym w tekście omnibusowym z maja 2026 roku. Treści wygenerowane przed 2 sierpnia nie muszą być oznaczane wstecznie. Dla polskiej firmy logistycznej, która opiera planowanie tras na zdjęciach satelitarnych, praktyczny odczyt jest prosty: to, co kupicie od niedzieli, przychodzi już oznaczone, a wasz obecny zasób dostaje cztery miesiące więcej.

Zgodność i bezpieczeństwo okazały się dwoma pytaniami

Zestawcie oba fakty, a wynik staje się niewygodny. Google oznaczył każdy wynik. Mierzony miarą, która wiąże dostawców od niedzieli, system zdał. Google wycofał go potem w niespełna dobę, ponieważ poprawnie oznaczone obrazy będące już w obiegu i tak wyrządzały szkodę.

Oznaczenie odczytywalne maszynowo odczytuje maszyna, którą o to poproszono. W zrzucie ekranu wklejonym do rozmowy grupowej, do wpisu albo do prezentacji nikt o to nie prosi. Oznaczenie przetrwa jako cecha pliku, którego nikt nie przepytuje, co czyni je znakomitym śladem audytowym i słabą obroną. Artykuł 50 podnosi wersję możliwą do skontrolowania do rangi wymogu, a Google właśnie pokazał w skali świata, że jego spełnienie to nie to samo co gotowość do wdrożenia.

To nie jest argument przeciwko regule. Oznaczanie jest podłogą, a podłoga jest warta posiadania, bo bez niej pochodzenia nie da się ustalić nawet wtedy, gdy ktoś rzeczywiście sprawdza. To argument przeciwko traktowaniu projektu wokół artykułu 50 jako końca pracy. Największa firma, która wdrożyła tę technikę w produkcie konsumenckim, sięgnęła podłogi i wycofała się w 24 godziny.

Trzy rzeczy do rozstrzygnięcia przed niedzielą

Po pierwsze, ustalcie, po której stronie reguły stoicie. Jeśli kupujecie narzędzie generatywne, jesteście niemal na pewno podmiotem stosującym, a obowiązek oznaczania odczytywalnego maszynowo spoczywa na dostawcy. Wasz własny obowiązek jest inny i bardziej widoczny: ujawniać głębokie fałszywki oraz ujawniać teksty wygenerowane lub zmanipulowane przez sztuczną inteligencję, publikowane w sprawach interesu publicznego bez przejrzenia przez człowieka. To informacja, którą czytelnik widzi, a nie sygnał zakopany w pliku.

Po drugie, spiszcie każdy materiał syntetyczny, który opuszcza waszą organizację. Wizualizacje produktu, obrazy reklamowe, materiały szkoleniowe, wygenerowany głos w centrali telefonicznej, teksty redagowane na publicznej stronie. Przy każdej pozycji wskażcie, kto nakłada oznaczenie, i uzyskajcie to od dostawcy na piśmie, zamiast zakładać, że model załatwia sprawę.

Po trzecie, przeprowadźcie próbę Google na własnym materiale. Załóżcie, że materiał zostaje uchwycony jako zrzut ekranu, pozbawiony metadanych i rozesłany dalej z podpisem, którego nie napisaliście. Jeśli waszą odpowiedzią na taki scenariusz jest to, że plik zawiera znak wodny, zajmujecie stanowisko, które Google zajmował w czwartek i porzucił w piątek.

Czytaj dalej: Obowiązek oznaczania AI spada na ciebie, nie na dostawcę  |  Bruksela dowiedziała się przed wpisem na blogu