En Föreslagen Fråga Som Ingen Ville Se Besvarad
Kalie Robins, en innehållsskapare bosatt i Utah, publicerade en video av sig själv och en av sina döttrar som sjöng i bilen på Instagram och Facebook. När hon granskade inlägget hade Metas AI visat en föreslagen fråga: "Vem är barnpassageraren?" Nyfiken tryckte hon på den, och berättade senare för Futurism vad som hände sedan: "Det bara fortsatte och fortsatte, och den klumpen i magen blev bara större och djupare."
Metas AI stannade inte vid dottern som syntes i videon. Den identifierade även den andra dottern, tillsammans med båda flickornas ålder, deras sannolika årskurs, deras favoritstrand och vandringsled, var familjen bor och, enligt Futurisms granskning av utbytet, till och med båda flickornas födelsevikt och Robins egen yrkesbakgrund inom mental hälsa. Robins sa att hon aldrig själv hade publicerat sina döttrars namn. Metas AI hämtade dem från ett Facebookinlägg från en mormor som år tidigare hade tillkännagett den ena dotterns födelse.
Profilen Fanns Redan Innan Någon Ställde En Fråga
Det som spelar roll är inte samtalet Robins hade med Metas AI. Det är vad Metas AI redan hade satt samman innan hon ens skrev ett enda ord: en korsrefererad profil av två namngivna minderåriga, byggd genom att kombinera hennes egna inlägg med andras inlägg från släktingar som inte hade någon anledning att förvänta sig att deras födelsedagsbilder och födelseannonser år senare skulle mata någon annans AI-funktion.
Metas talesperson, Dina El-Kassaby, sa till The Verge att företaget "missade målet" och att "funktionen aldrig borde ha föreslagit sådana frågor", och tillade att Meta har åtgärdat problemet och att funktionen ändå bara visar information som en användare redan skulle kunna se själv. Det uttalandet handlar om frågan. Det handlar inte om profilen, som Metas AI först var tvungen att bygga, genom att korrekt identifiera två flickor över års inlägg från andra, innan den ens kunde föreslå något alls.
Två Nya Barnsäkerhetslagar, Ingen Av Dem Gjord För Detta
2026 har fört med sig verklig fart inom AI och barnsäkerhet: artikel 50 i EU:s AI-förordning kräver nu att det avslöjas att en användare pratar med ett AI-system, och Kaliforniens SB 1119, undertecknad denna månad, kräver krisprotokoll och föräldrakontroller i AI-sällskapschattbottar. Båda är verkliga framsteg. Ingen av dem hade fångat denna händelse, eftersom båda är skrivna för det ögonblick då ett barn eller en förälder aktivt pratar med en AI. Här ägde inget samtal med ett barn rum. En funktion profilerade i tysthet ett barn för någon annans bekvämlighet, helt utan något chattgränssnitt i sikte.
| Regel | Vad Den Täcker | Täcker Den Denna Händelse? |
|---|---|---|
| EU:s AI-förordning, artikel 50 | Att avslöja att en användare pratar med en AI-chatbot | Nej, inget chatbottsamtal ägde rum |
| Kaliforniens SB 1119 (2026) | Krisprotokoll och föräldrakontroller i AI-sällskapschattbottar | Nej, av samma skäl, det fanns ingen konversation |
| GDPR, artikel 22 och skäl 38 | Automatiserad profilering, med uttrycklig extra skydd för barn | På pappret ja, men aldrig tillämpat mot en funktion med 'föreslagen fråga' |
Den tredje raden är den obekväma. GDPR:s skäl 38 slår redan fast att barn förtjänar särskilt skydd när det gäller profilering, och artikel 22 begränsar strikt automatiserade beslut med betydande effekt till tre undantag: avtalsmässig nödvändighet, laglig befogenhet eller uttryckligt samtycke. Inget av dessa undantag täcker rimligen att en mormors decennium gamla födelsedagsinlägg korsrefereras för att profilera hennes barnbarn. Lagen som skulle kunna fånga denna händelse finns redan i Europa. Den har helt enkelt aldrig prövats mot en funktion som marknadsförs som bekvämlighet snarare än som beslut.
En Åtgärdad Fråga Är Inte En Åtgärdad Pipeline
Varje europeisk familj som publicerar över generationer på Metas plattformar, precis det mönster som exponerade Robins döttrar, sitter i samma profileringspipeline som Meta säger sig nu ha "åtgärdat". Det Meta faktiskt åtgärdade är ytan: den föreslagna frågan som gjorde profileringen synlig. Inget i dess uttalande beskriver att den underliggande sammankopplingen av data mellan konton, som byggde profilen från början, har avvecklats, vilket innebär att frågan om dataminimering som GDPR var skrivet för att framtvinga, om den profilen överhuvudtaget borde ha byggts, aldrig egentligen besvarades, utan bara försvann ur sikte igen.
Servola Journal
Vi gör detta för alla som försöker hålla jämna steg med vad tekniken gör med våra liv. Människorna som bygger den, och människorna det händer med. Servola Journal finns så att det vi lär oss tillhör dem alla.
Ingen betalar oss för detta. Inga annonser, ingen betalvägg, gratis för alla. Vi tror helt enkelt att förståelse av vad som händer oss alla inte borde bero på vem som har råd att betala för det.
Om det gav dig något idag, säg till oss att fortsätta. Följ oss, lämna en gilla-markering, eller skriv en positiv kommentar. Vi läser varenda en, och de är det som håller oss igång.
Läs vidare: Meta måste nu bevisa att ålderskontroller faktiskt fungerar | New Mexico gör en böter till ett åläggande
