Una Domanda Suggerita Che Nessuno Voleva Vedere Risolta
Kalie Robins, creatrice di contenuti con base nello Utah, ha pubblicato su Instagram e Facebook un video di sé stessa e di una delle figlie che cantano in auto. Controllando il post, ha visto che l'IA di Meta aveva proposto una domanda suggerita: "Chi è la passeggera bambina?" Incuriosita, l'ha toccata, e ha raccontato a Futurism cosa è successo dopo: "Continuava e continuava, e quel nodo allo stomaco diventava sempre più grande e profondo."
L'IA di Meta non si è fermata alla figlia visibile nel video. Ha identificato anche la seconda figlia, oltre all'età di entrambe le bambine, la loro probabile classe scolastica, la spiaggia e il sentiero preferiti, dove vive la famiglia e, secondo la ricostruzione di Futurism dello scambio, persino il peso alla nascita di entrambe le bambine e il background professionale di Robins nel campo della salute mentale. Robins ha detto di non aver mai pubblicato lei stessa i nomi delle figlie. L'IA di Meta li ha ricavati da un post Facebook di una nonna che annunciava, anni prima, la nascita di una delle bambine.
Il Profilo Esisteva Già Prima Che Qualcuno Facesse Una Domanda
Ciò che conta non è la conversazione che Robins ha avuto con l'IA di Meta. È ciò che l'IA di Meta aveva già assemblato prima ancora che digitasse una sola parola: un profilo incrociato di due minori identificate per nome, costruito combinando i suoi post con post altrui di parenti che non avevano alcun motivo di aspettarsi che le loro foto di compleanno e annunci di nascita finissero, anni dopo, dentro la funzione IA di qualcun altro.
La portavoce di Meta, Dina El-Kassaby, ha dichiarato a The Verge che l'azienda "ha sbagliato" e che "la funzione non avrebbe mai dovuto suggerire domande del genere", aggiungendo che Meta ha corretto il problema e che la funzione mostra comunque solo informazioni che l'utente potrebbe già vedere da sé. Questa dichiarazione riguarda la domanda. Non riguarda il profilo, che l'IA di Meta ha dovuto costruire, identificando correttamente due bambine attraverso anni di post altrui, prima di poter suggerire qualsiasi cosa.
Due Nuove Leggi Sulla Sicurezza Dei Minori, Nessuna Pensata Per Questo
Il 2026 ha portato uno slancio reale su IA e sicurezza dei minori: l'articolo 50 del Regolamento UE sull'IA impone ora di rivelare che un utente sta parlando con un sistema IA, e la SB 1119 della California, firmata questo mese, impone protocolli di crisi e controlli parentali nei chatbot IA di compagnia. Entrambi sono progressi reali. Nessuno dei due avrebbe intercettato questo caso, perché entrambi sono scritti per il momento in cui un minore o un genitore sta attivamente parlando con un'IA. Qui non c'è stata alcuna conversazione con una minore. Una funzione ha profilato in silenzio una bambina per la comodità di qualcun altro, senza alcuna interfaccia di chat.
| Norma | Cosa Copre | Copre Questo Caso? |
|---|---|---|
| Regolamento UE sull'IA, articolo 50 | Rivelare che un utente sta parlando con un chatbot IA | No, non è avvenuta alcuna conversazione con un chatbot |
| SB 1119 della California (2026) | Protocolli di crisi e controlli parentali nei chatbot IA di compagnia | No, per lo stesso motivo, non c'è stata alcuna conversazione |
| GDPR, articolo 22 e considerando 38 | Profilazione automatizzata, con protezione aggiuntiva esplicita per i minori | Sulla carta sì, ma non è mai stata applicata contro una funzione di 'domanda suggerita' |
Quella terza riga è quella scomoda. Il considerando 38 del GDPR afferma già che i minori meritano una protezione specifica in materia di profilazione, e l'articolo 22 limita rigorosamente le decisioni automatizzate con effetti significativi a tre eccezioni: necessità contrattuale, autorizzazione di legge o consenso esplicito. Nessuna di queste eccezioni copre in modo plausibile il fatto che il post di compleanno di una nonna, vecchio di un decennio, venga incrociato per profilare sua nipote. La legge capace di intercettare questo caso esiste già in Europa. Semplicemente non è mai stata messa alla prova contro una funzione presentata come comodità anziché come decisione.
Una Domanda Corretta Non È Una Pipeline Corretta
Ogni famiglia europea che pubblica tra generazioni sulle piattaforme di Meta, esattamente lo schema che ha esposto le figlie di Robins, si trova dentro la stessa pipeline di profilazione che Meta dice di aver ormai "corretto". Ciò che Meta ha davvero corretto è la superficie: la domanda suggerita che ha reso visibile la profilazione. Nulla nella sua dichiarazione descrive il ritiro dell'aggregazione tra account che ha costruito il profilo fin dall'inizio, il che significa che la domanda sulla minimizzazione dei dati che il GDPR intendeva imporre, se quel profilo avrebbe dovuto essere costruito, non ha mai davvero trovato risposta, si è solo di nuovo nascosta alla vista.
Servola Journal
Lo facciamo per tutti quelli che cercano di stare al passo con ciò che la tecnologia sta facendo alle nostre vite. Le persone che la costruiscono, e le persone a cui capita. Il Servola Journal esiste perché ciò che impariamo appartenga a tutti loro.
Nessuno ci paga per questo. Niente pubblicità, nessun muro a pagamento, gratis per tutti. Crediamo semplicemente che capire ciò che sta succedendo a tutti noi non debba dipendere da chi può permettersi di pagarlo.
Se oggi ti ha dato qualcosa, dicci di continuare. Seguici, lascia un like, o scrivi un commento positivo. Li leggiamo tutti, e sono ciò che ci fa andare avanti.
Da leggere ora: Meta deve ora dimostrare che i controlli sull'età funzionano | Il New Mexico trasforma una multa in un obbligo
