Et Foreslået Spørgsmål, Som Ingen Ønskede Besvaret
Kalie Robins, en indholdsskaber fra Utah, delte en video af sig selv og en af sine døtre, der sang i bilen, på Instagram og Facebook. Da hun tjekkede opslaget, havde Metas AI vist et foreslået spørgsmål: "Hvem er barnepassageren?" Nysgerrig trykkede hun på det, og fortalte senere Futurism, hvad der skete derefter: "Det blev bare ved og ved, og den klump i maven blev bare større og dybere."
Metas AI stoppede ikke ved den datter, der var synlig i videoen. Den identificerede også den anden datter, samt begge pigers alder, deres sandsynlige klassetrin, deres yndlingsstrand og -vandresti, hvor familien bor og, ifølge Futurisms gennemgang af udvekslingen, endda begge pigers fødselsvægt og Robins' egen faglige baggrund inden for mental sundhed. Robins sagde, at hun aldrig selv havde offentliggjort sine døtres navne. Metas AI hentede dem fra et Facebook-opslag fra en bedstemor, der år forinden havde annonceret den ene datters fødsel.
Profilen Fandtes, Før Nogen Stillede Et Spørgsmål
Det, der betyder noget, er ikke den samtale, Robins havde med Metas AI. Det er, hvad Metas AI allerede havde samlet, før hun overhovedet skrev et eneste ord: en krydsrefereret profil af to navngivne mindreårige, bygget ved at kombinere hendes egne opslag med andres opslag fra familiemedlemmer, der ikke havde nogen grund til at forvente, at deres fødselsdagsbilleder og fødselsannoncer år senere ville blive fodret ind i en andens AI-funktion.
Metas talsperson, Dina El-Kassaby, sagde til The Verge, at virksomheden "ramte forbi", og at "funktionen aldrig burde have stillet den slags spørgsmål", og tilføjede, at Meta har rettet problemet, og at funktionen under alle omstændigheder kun viser oplysninger, som en bruger allerede kunne se selv. Den udtalelse handler om spørgsmålet. Den handler ikke om profilen, som Metas AI først skulle bygge, ved korrekt at identificere to piger på tværs af års opslag fra andre, før den overhovedet kunne foreslå noget som helst.
To Nye Børnesikkerhedslove, Ingen Af Dem Lavet Til Dette
2026 har bragt reel fremdrift inden for AI og børnesikkerhed: artikel 50 i EU's AI-forordning kræver nu, at det oplyses, at en bruger taler med et AI-system, og Californiens SB 1119, underskrevet denne måned, kræver kriseprotokoller og forældrekontrol i AI-ledsagerchatbots. Begge er reelle fremskridt. Ingen af dem ville have fanget denne sag, fordi begge er skrevet til det øjeblik, hvor et barn eller en forælder aktivt taler med en AI. Her fandt der ingen samtale sted med et barn. En funktion profilerede i stilhed et barn til en andens bekvemmelighed, helt uden nogen chatgrænseflade i sigte.
| Regel | Hvad Den Dækker | Dækker Den Denne Sag? |
|---|---|---|
| EU's AI-forordning, artikel 50 | At oplyse, at en bruger taler med en AI-chatbot | Nej, der fandt ingen chatbotsamtale sted |
| Californiens SB 1119 (2026) | Kriseprotokoller og forældrekontrol i AI-ledsagerchatbots | Nej, af samme grund, der var ingen samtale |
| GDPR, artikel 22 og betragtning 38 | Automatiseret profilering, med udtrykkelig ekstra beskyttelse for børn | På papiret ja, men aldrig håndhævet mod en funktion med 'foreslået spørgsmål' |
Den tredje række er den ubekvemme. GDPR's betragtning 38 fastslår allerede, at børn fortjener specifik beskyttelse i forhold til profilering, og artikel 22 begrænser strengt automatiserede beslutninger med væsentlig virkning til tre undtagelser: kontraktlig nødvendighed, lovmæssig bemyndigelse eller udtrykkeligt samtykke. Ingen af disse undtagelser dækker plausibelt, at en bedstemors tiår gamle fødselsdagsopslag krydsrefereres for at profilere hendes barnebarn. Den lov, der kunne fange denne sag, findes allerede i Europa. Den er blot aldrig blevet afprøvet mod en funktion, der markedsføres som bekvemmelighed frem for beslutning.
Et Rettet Spørgsmål Er Ikke En Rettet Pipeline
Enhver europæisk familie, der deler opslag på tværs af generationer på Metas platforme, netop det mønster, der eksponerede Robins' døtre, sidder i den samme profileringspipeline, som Meta siger, den nu har "rettet". Det, Meta faktisk rettede, er overfladen: det foreslåede spørgsmål, der gjorde profileringen synlig. Intet i dens udtalelse beskriver, at den underliggende sammenkobling af data på tværs af konti, som byggede profilen i første omgang, er blevet afviklet, hvilket betyder, at spørgsmålet om dataminimering, som GDPR var skrevet for at håndhæve, om den profil overhovedet burde være bygget, aldrig reelt blev besvaret, men blot forsvandt fra syne igen.
Servola Journal
Vi gør dette for alle, der prøver at følge med i, hvad teknologi gør ved vores liv. De mennesker, der bygger det, og de mennesker, det sker for. Servola Journal findes, så det vi lærer, tilhører dem alle.
Ingen betaler os for dette. Ingen reklamer, ingen betalingsmur, gratis for alle. Vi tror simpelthen, at det at forstå, hvad der sker for os alle, ikke bør afhænge af, hvem der har råd til at betale for det.
Hvis det gav dig noget i dag, så sig til os, at vi skal blive ved. Følg os, giv et like, eller skriv en positiv kommentar. Vi læser hver eneste en, og de er det, der holder os i gang.
Læs videre: Meta skal nu bevise at alderskontroller faktisk virker | New Mexico gør en bøde til et påbud
