Een Voorgestelde Vraag Die Niemand Beantwoord Wilde Zien
Kalie Robins, een contentmaker uit Utah, plaatste op Instagram en Facebook een video van zichzelf en een van haar dochters die in de auto zingen. Toen ze de post bekeek, had Meta's AI een voorgestelde vraag getoond: "Wie is het meerijdende kind?" Uit nieuwsgierigheid tikte ze erop, en vertelde later aan Futurism wat daarna gebeurde: "Het bleef maar doorgaan, en dat knagende gevoel in mijn maag werd steeds groter en dieper."
Meta's AI bleef niet steken bij de dochter die zichtbaar was in de video. Ze identificeerde ook de tweede dochter, plus de leeftijd van beide meisjes, hun vermoedelijke schooljaar, hun favoriete strand en wandelpad, waar het gezin woont en, volgens Futurism's beoordeling van de uitwisseling, zelfs het geboortegewicht van beide meisjes en Robins' eigen professionele achtergrond als pleitbezorger voor geestelijke gezondheid. Robins zei dat ze de namen van haar dochters nooit zelf had gepubliceerd. Meta's AI haalde ze uit een Facebookbericht van een oma die jaren eerder de geboorte van een van de meisjes had aangekondigd.
Het Profiel Bestond Al Voordat Iemand Een Vraag Stelde
Wat telt, is niet het gesprek dat Robins voerde met Meta's AI. Het is wat Meta's AI al had samengesteld voordat ze ook maar één woord typte: een gekoppeld profiel van twee bij naam genoemde minderjarigen, gebouwd door haar eigen berichten te combineren met berichten van anderen, familieleden die geen enkele reden hadden om te verwachten dat hun verjaardagsfoto's en geboorteaankondigingen jaren later zouden voeden in de AI-functie van iemand anders.
Meta-woordvoerder Dina El-Kassaby verklaarde tegenover The Verge dat het bedrijf "de plank had misgeslagen" en dat "de functie nooit met zulke vragen had moeten komen", en voegde toe dat Meta het probleem heeft verholpen en dat de functie sowieso alleen informatie toont die een gebruiker al zelf zou kunnen zien. Die verklaring gaat over de vraag. Ze gaat niet over het profiel, dat Meta's AI eerst moest opbouwen, door jarenlang berichten van anderen correct aan twee meisjes te koppelen, voordat ze ook maar iets kon voorstellen.
Twee Nieuwe Kinderveiligheidswetten, Geen Ervan Hiervoor Gemaakt
2026 heeft echte vooruitgang gebracht op het gebied van AI en kinderveiligheid: artikel 50 van de EU AI-verordening vereist nu bekendmaking dat een gebruiker met een AI-systeem praat, en de Californische SB 1119, deze maand ondertekend, verplicht crisisprotocollen en ouderlijk toezicht in AI-companion-chatbots. Beide zijn echte vooruitgang. Geen van beide had dit incident opgevangen, want beide zijn geschreven voor het moment waarop een kind of ouder actief met een AI praat. Hier vond geen gesprek met een kind plaats. Een functie profileerde in stilte een kind voor het gemak van iemand anders, zonder enige chatinterface in zicht.
| Regel | Wat Het Dekt | Dekt Dit Incident? |
|---|---|---|
| EU AI-verordening, artikel 50 | Bekendmaken dat een gebruiker met een AI-chatbot praat | Nee, er vond geen chatbotgesprek plaats |
| Californische SB 1119 (2026) | Crisisprotocollen en ouderlijk toezicht in AI-companion-chatbots | Nee, om dezelfde reden, er was geen gesprek |
| AVG, artikel 22 en overweging 38 | Geautomatiseerde profilering, met expliciete extra bescherming voor kinderen | Op papier ja, maar nooit gehandhaafd tegen een functie met 'voorgestelde vraag' |
Die derde rij is de ongemakkelijke. Overweging 38 van de AVG stelt al dat kinderen specifieke bescherming verdienen op het gebied van profilering, en artikel 22 beperkt geautomatiseerde beslissingen met aanzienlijk effect strikt tot drie uitzonderingen: contractuele noodzaak, wettelijke machtiging of uitdrukkelijke toestemming. Geen van die uitzonderingen dekt aannemelijk dat een decennium oud verjaardagsbericht van een oma wordt gekoppeld om haar kleindochter te profileren. De wet die dit incident zou kunnen dekken, bestaat al in Europa. Ze is alleen nog nooit getest tegen een functie die als gemak wordt verkocht in plaats van als beslissing.
Een Gerepareerde Vraag Is Geen Gerepareerde Pijplijn
Elk Europees gezin dat generatie na generatie op Meta's platforms post, precies het patroon dat Robins' dochters blootstelde, zit in dezelfde profileringspijplijn die Meta nu naar eigen zeggen heeft "gecorrigeerd". Wat Meta feitelijk heeft gecorrigeerd, is het oppervlak: de voorgestelde vraag die de profilering zichtbaar maakte. Niets in de verklaring beschrijft dat de onderliggende koppeling van gegevens tussen accounts, die het profiel om te beginnen bouwde, is stopgezet, wat betekent dat de vraag over dataminimalisatie die de AVG juist wilde afdwingen, of dat profiel überhaupt gebouwd had mogen worden, nooit echt is beantwoord, maar alleen weer aan het zicht is onttrokken.
Servola Journal
We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.
Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.
Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.
Lees hierna: Meta moet nu bewijzen dat leeftijdscontroles werken | New Mexico maakt van een boete een verplichting
