Eine Vorgeschlagene Frage, Die Niemand Beantwortet Haben Wollte
Kalie Robins, eine Content-Erstellerin aus Utah, postete ein Video von sich und einer ihrer Töchter beim Singen im Auto auf Instagram und Facebook. Als sie den Beitrag ansah, hatte Metas KI einen vorgeschlagenen Prompt eingeblendet: "Wer ist das mitfahrende Kind?" Neugierig tippte sie darauf und schilderte Futurism, was danach geschah: "Es ging einfach immer weiter, und dieses mulmige Gefühl in meinem Magen wurde immer größer und tiefer."
Metas KI blieb nicht bei der im Video sichtbaren Tochter stehen. Sie identifizierte auch die zweite Tochter, dazu das Alter beider Mädchen, ihre wahrscheinliche Schulstufe, ihren Lieblingsstrand und -wanderweg, den Wohnort der Familie und, laut Futurisms Auswertung des Austauschs, sogar das Geburtsgewicht beider Mädchen sowie Robins eigenen beruflichen Hintergrund als Fürsprecherin für psychische Gesundheit. Robins sagte, sie habe die Namen ihrer Töchter nie selbst veröffentlicht. Metas KI zog sie aus dem Facebook-Beitrag einer Großmutter, der Jahre zuvor die Geburt einer der Töchter verkündet hatte.
Das Profil Existierte, Bevor Jemand Eine Frage Stellte
Entscheidend ist nicht das Gespräch, das Robins mit Metas KI führte. Entscheidend ist, was Metas KI bereits zusammengestellt hatte, bevor sie auch nur ein Wort tippte: ein verknüpftes Profil zweier namentlich identifizierter Minderjähriger, erstellt durch die Kombination ihrer eigenen Beiträge mit fremden Beiträgen von Verwandten, die keinen Grund hatten anzunehmen, dass ihre Geburtstagsfotos und Geburtsanzeigen Jahre später in die KI-Funktion einer anderen Person einfließen würden.
Meta-Sprecherin Dina El-Kassaby erklärte gegenüber The Verge, das Unternehmen habe "daneben gelegen" und "die Funktion hätte der betroffenen Person niemals solche Fragen vorschlagen dürfen"; sie fügte hinzu, Meta habe das Problem behoben und die Funktion zeige ohnehin nur Informationen, die ein Nutzer selbst schon sehen könne. Diese Aussage betrifft den Prompt. Sie betrifft nicht das Profil, das Metas KI erst erstellen musste, zwei Kinder über Jahre hinweg aus fremden Beiträgen korrekt zuordnen musste, bevor sie überhaupt etwas vorschlagen konnte.
Zwei Neue Kinderschutzgesetze, Keines Dafür Gemacht
2026 brachte echten Schwung bei KI und Kinderschutz: Artikel 50 der EU-KI-Verordnung verlangt nun die Offenlegung, dass ein Nutzer mit einem KI-System spricht, und Kaliforniens SB 1119, diesen Monat unterzeichnet, schreibt Krisenprotokolle und Elternkontrollen in KI-Begleit-Chatbots vor. Beides sind echte Fortschritte. Keines hätte diesen Vorfall erfasst, denn beide sind für den Moment geschrieben, in dem ein Kind oder Elternteil aktiv mit einer KI spricht. Hier fand kein Gespräch mit einem Kind statt. Eine Funktion profilierte still ein Kind zum Nutzen einer anderen Person, ganz ohne Chat-Oberfläche.
| Regel | Was Sie Abdeckt | Deckt Diesen Vorfall Ab? |
|---|---|---|
| EU-KI-Verordnung, Artikel 50 | Offenlegung, dass ein Nutzer mit einem KI-Chatbot spricht | Nein - es fand kein Chatbot-Gespräch statt |
| Kaliforniens SB 1119 (2026) | Krisenprotokolle und Elternkontrollen in KI-Begleit-Chatbots | Nein - aus demselben Grund, es gab kein Gespräch |
| DSGVO, Artikel 22 und Erwägungsgrund 38 | Automatisiertes Profiling, mit ausdrücklichem Zusatzschutz für Kinder | Auf dem Papier ja - noch nie gegen ein Feature mit vorgeschlagenen Fragen durchgesetzt |
Diese dritte Zeile ist die unbequeme. Erwägungsgrund 38 der DSGVO hält bereits fest, dass Kinder besonderen Schutz in Bezug auf Profiling verdienen, und Artikel 22 beschränkt automatisierte Entscheidungen mit erheblicher Auswirkung eng auf drei Ausnahmen: vertragliche Notwendigkeit, gesetzliche Ermächtigung oder ausdrückliche Einwilligung. Keine dieser Ausnahmen deckt plausibel ab, dass ein jahrzehntealter Geburtstagsbeitrag einer Großmutter herangezogen wird, um deren Enkelin zu profilieren. Das Gesetz, das diesen Vorfall erfassen könnte, existiert in Europa bereits. Es wurde nur nie gegen ein Feature getestet, das als Komfortfunktion vermarktet wird, statt als Entscheidung.
Ein Reparierter Prompt Ist Keine Reparierte Pipeline
Jede europäische Familie, die generationenübergreifend auf Metas Plattformen postet, genau das Muster, das Robins' Töchter exponierte, sitzt in derselben Profiling-Pipeline, die Meta nun angeblich "behoben" hat. Was Meta tatsächlich reparierte, ist die Oberfläche: die vorgeschlagene Frage, die das Profiling sichtbar machte. Nichts in der Erklärung beschreibt, dass die zugrunde liegende kontoübergreifende Aggregation, die das Profil überhaupt erst erstellte, abgeschaltet wurde, was bedeutet, dass genau die Datenminimierungsfrage, die die DSGVO erzwingen sollte, ob dieses Profil überhaupt hätte erstellt werden dürfen, nie wirklich beantwortet wurde, sondern nur wieder aus dem Blickfeld verschwand.
Servola Journal
Wir machen das für alle, die versuchen mit dem Schritt zu halten, was die Technologie mit unserem Leben macht. Für die Menschen, die sie bauen, und für die Menschen, denen sie widerfährt. Das Servola Journal existiert, damit das, was wir lernen, allen von ihnen gehört.
Niemand bezahlt uns dafür. Keine Werbung, keine Bezahlschranke, kostenlos für alle. Wir glauben einfach, dass das Verstehen dessen, was mit uns allen geschieht, nicht davon abhängen sollte, wer es sich leisten kann, dafür zu bezahlen.
Wenn es Ihnen heute etwas gegeben hat, sagen Sie uns, dass wir weitermachen sollen. Folgen Sie uns, hinterlassen Sie ein Like, oder schreiben Sie einen positiven Kommentar. Wir lesen jeden einzelnen, und sie sind es, was uns weitermachen lässt.
Weiterlesen: Meta Muss Jetzt Beweisen, Dass Altersprüfungen Funktionieren | New Mexico macht aus einer Geldstrafe eine Auflage
