Google ha marcato ogni immagine e l'ha ritirata

Lanciata di giovedì, ritirata il venerdì

Joseph Cox di 404 Media ha digitato una richiesta in Google Earth e ha ottenuto un cratere da esplosione a Los Angeles. Un'altra istruzione ha collocato una folla di manifestanti davanti al campus di Google a Mountain View. Un redattore di PC Gamer ha trasformato la propria città natale in una zona di guerra. Niente di tutto ciò era accaduto, e tutto poggiava su immagini satellitari reali di luoghi reali.

La funzione aveva un giorno di vita. Google ha annunciato il 30 luglio 2026 che Nano Banana, il proprio modello di generazione di immagini, poteva ormai creare immagini ancorate alle viste satellitari, aeree e tridimensionali di Google Earth. Il 31 luglio l'azienda l'aveva revocata e aveva aggiunto un aggiornamento al proprio annuncio.

La dichiarazione che spiega il dietrofront recita: "Abbiamo visto professionisti della geoinformazione usare questa funzione per una serie di scopi utili, ma abbiamo anche visto persone condividere schermate di immagini generate che sembrano violare le nostre politiche. Stiamo revocando questa funzione in Google Earth mentre lavoriamo a garanzie più solide". Vale la pena trattenere l'innesco che quella frase nomina. Erano schermate.

Ogni immagine portava la marcatura

Non era un sistema privo di etichetta. Ogni immagine prodotta dalla funzione portava SynthID, la filigrana leggibile dalla macchina di Google. L'aggiornamento della stessa azienda registra che le immagini generate erano contrassegnate come create con l'IA e che non comparivano nella vista principale di Google Earth, quella in cui altre persone le avrebbero incontrate.

Alle prime contestazioni Google ha indicato proprio questo. Chiunque poteva verificare un'immagine con Gemini o con Google Lens, e l'azienda ha affermato di impedire la generazione di immagini su temi dannosi e di aggiornare le protezioni di continuo. Sul piano tecnico Google aveva ragione. Le immagini erano marcate, la marcatura era rilevabile e una via di verifica esisteva per chi la cercasse.

La replica di Cox è stata che questo ragionamento fraintende il modo in cui la disinformazione si muove davvero. Nessuno passa da un verificatore le immagini che scorre, e una didascalia viaggia più in fretta di un controllo di provenienza. La marcatura era presente in ogni file e consultata in quasi nessuno.

Bruxelles rende quella marcatura la prova domenica

L'articolo 50 del regolamento europeo sull'IA si applica dal 2 agosto 2026, che quest'anno cade di domenica. Obbliga i fornitori di sistemi di IA, compresi quelli per finalità generali, che generano contenuti sintetici audio, immagine, video o testo ad assicurare che gli output siano marcati in un formato leggibile dalla macchina e rilevabili come generati o manipolati artificialmente. L'obbligo non è ristretto ai sistemi ad alto rischio, ed è per questo che raggiunge le imprese ordinarie.

Gli orientamenti della Commissione europea descrivono le marcature richieste come efficaci, affidabili, robuste e interoperabili, e non fissano alcuna specifica tecnica oltre a quella formula. Le esenzioni riguardano l'editing assistito, il codice sorgente, le sequenze brevi di simboli, gli output tra macchine e le opere artistiche, satiriche o di finzione. La violazione è tariffata fino a 15 milioni di euro o al 3 per cento del fatturato annuo mondiale.

I sistemi generativi già immessi sul mercato il 2 agosto hanno tempo fino al 2 dicembre 2026 per adempiere all'obbligo di marcatura dell'articolo 50, paragrafo 2, una transizione concordata nel testo omnibus del maggio 2026. I contenuti generati prima del 2 agosto non vanno etichettati retroattivamente. Per un'impresa di costruzioni italiana che usa riprese aeree per i controlli catastali, la lettura pratica è semplice: quello che acquistate da domenica arriva già marcato, e il vostro parco esistente ha quattro mesi in più.

Conformità e sicurezza si sono rivelate due domande diverse

Se si accostano i due fatti, il risultato mette a disagio. Google ha marcato ogni output. Misurato con il criterio che vincola i fornitori da domenica, il sistema passava. Google lo ha poi ritirato in meno di un giorno, perché le immagini correttamente marcate già in circolazione producevano comunque il danno.

Una marcatura leggibile dalla macchina viene letta da una macchina a cui è stato chiesto di guardare. In una schermata incollata in una chat di gruppo, in un post o in una presentazione, nessuno lo chiede. La marcatura sopravvive come proprietà di un file che nessuno interroga, il che ne fa un'eccellente prova di audit e una difesa debole. L'articolo 50 eleva la versione verificabile a requisito, e Google ha appena dimostrato su scala mondiale che soddisfarlo non equivale a poterlo mettere in produzione.

Non è un argomento contro la regola. La marcatura è un pavimento, e un pavimento vale la pena, perché senza non c'è modo di accertare la provenienza nemmeno quando qualcuno va a controllare. È un argomento contro il trattare un progetto sull'articolo 50 come la fine del lavoro. La più grande azienda che abbia messo questa tecnica in un prodotto di consumo ha rispettato il pavimento e ha fatto marcia indietro in 24 ore.

Tre cose da chiarire prima di domenica

Primo, stabilite da che parte della regola vi trovate. Se acquistate uno strumento generativo, siete quasi certamente deployer, e l'obbligo di marcatura leggibile dalla macchina resta in capo al fornitore. Il vostro obbligo è un altro e più visibile: dichiarare i deepfake e dichiarare i testi generati o manipolati con l'IA pubblicati su questioni di interesse pubblico senza che una persona li abbia rivisti. È un avviso che il lettore vede, non un segnale sepolto in un file.

Secondo, elencate ogni materiale sintetico che esce dalla vostra organizzazione. Rendering di prodotto, immagini pubblicitarie, materiali di formazione, voce generata sul centralino, testi redatti su un sito pubblico. Per ciascuno indicate chi appone la marcatura e fatevelo mettere per iscritto dal fornitore invece di dare per scontato che ci pensi il modello.

Terzo, applicate la prova di Google alla vostra produzione. Ipotizzate che il materiale venga catturato come schermata, privato dei metadati e rilanciato con una didascalia che non avete scritto voi. Se la vostra risposta a quello scenario è che il file contiene una filigrana, state tenendo la posizione che Google teneva giovedì e ha abbandonato venerdì.

Da leggere ora: L'etichetta IA ricade su di voi, non sul fornitore  |  Bruxelles informata prima del blog