Sugerowane Pytanie, Na Które Nikt Nie Chciał Znać Odpowiedzi
Kalie Robins, twórczyni treści z Utah, opublikowała na Instagramie i Facebooku nagranie, na którym śpiewa w samochodzie razem z jedną ze swoich córek. Gdy sprawdziła wpis, AI Mety wyświetliła sugerowane pytanie: "Kim jest pasażerka-dziecko?". Zaciekawiona, kliknęła w nie, a później opowiedziała Futurism, co wydarzyło się dalej: "To po prostu nie ustawało, a ten ucisk w żołądku robił się coraz większy i głębszy".
AI Mety nie zatrzymała się na córce widocznej na nagraniu. Zidentyfikowała też drugą córkę, a do tego wiek obu dziewczynek, ich prawdopodobną klasę szkolną, ulubioną plażę i szlak turystyczny, miejsce zamieszkania rodziny oraz, według analizy Futurism tej wymiany, nawet wagę urodzeniową obu dziewczynek i zawodowe doświadczenie Robins w obszarze zdrowia psychicznego. Robins powiedziała, że nigdy sama nie opublikowała imion swoich córek. AI Mety wzięła je z wpisu na Facebooku babci, która lata wcześniej ogłosiła narodziny jednej z dziewczynek.
Profil Istniał, Zanim Ktokolwiek Zadał Pytanie
Liczy się nie rozmowa, którą Robins odbyła z AI Mety. Liczy się to, co AI Mety zdążyła już zestawić, zanim wpisała choć jedno słowo: powiązany profil dwóch wskazanych z imienia małoletnich, zbudowany przez połączenie jej własnych wpisów z cudzymi wpisami krewnych, którzy nie mieli żadnego powodu przypuszczać, że ich zdjęcia z urodzin i ogłoszenia narodzin lata później zasilą funkcję AI kogoś innego.
Rzeczniczka Mety, Dina El-Kassaby, oświadczyła w rozmowie z The Verge, że firma "nie trafiła w sedno" i że "funkcja nigdy nie powinna była sugerować takich pytań", dodając, że Meta naprawiła problem i że funkcja i tak pokazuje wyłącznie informacje, które użytkownik mógłby już sam zobaczyć. To oświadczenie dotyczy pytania. Nie dotyczy profilu, który AI Mety musiała najpierw zbudować, poprawnie identyfikując dwie dziewczynki na przestrzeni lat cudzych wpisów, zanim w ogóle mogła cokolwiek zasugerować.
Dwie Nowe Ustawy O Bezpieczeństwie Dzieci, Żadna Nie Powstała Z Myślą O Tym
Rok 2026 przyniósł realny postęp w kwestii AI i bezpieczeństwa dzieci: artykuł 50 unijnego rozporządzenia o AI wymaga teraz ujawnienia, że użytkownik rozmawia z systemem AI, a kalifornijska ustawa SB 1119, podpisana w tym miesiącu, nakazuje protokoły kryzysowe i kontrolę rodzicielską w chatbotach-towarzyszach AI. Obie to prawdziwe postępy. Żadna z nich nie wychwyciłaby tego przypadku, ponieważ obie zostały napisane z myślą o chwili, gdy dziecko lub rodzic aktywnie rozmawia z AI. Tutaj nie doszło do żadnej rozmowy z dzieckiem. Funkcja po cichu profilowała dziecko dla wygody kogoś innego, bez żadnego interfejsu rozmowy w zasięgu wzroku.
| Przepis | Co Obejmuje | Czy Obejmuje Ten Przypadek? |
|---|---|---|
| Rozporządzenie UE o AI, artykuł 50 | Ujawnienie, że użytkownik rozmawia z chatbotem AI | Nie, żadna rozmowa z chatbotem się nie odbyła |
| Kalifornijska ustawa SB 1119 (2026) | Protokoły kryzysowe i kontrola rodzicielska w chatbotach-towarzyszach AI | Nie, z tego samego powodu, nie było żadnej rozmowy |
| RODO, artykuł 22 i motyw 38 | Zautomatyzowane profilowanie, z wyraźną dodatkową ochroną dla dzieci | Na papierze tak, ale nigdy nie egzekwowane wobec funkcji 'sugerowanego pytania' |
Ten trzeci wiersz jest tym niewygodnym. Motyw 38 RODO już stwierdza, że dzieci zasługują na szczególną ochronę w zakresie profilowania, a artykuł 22 ściśle ogranicza zautomatyzowane decyzje o istotnym skutku do trzech wyjątków: konieczności umownej, upoważnienia ustawowego lub wyraźnej zgody. Żaden z tych wyjątków w wiarygodny sposób nie obejmuje sytuacji, w której sprzed dekady wpis urodzinowy babci zostaje zestawiony, by profilować jej wnuczkę. Przepis zdolny objąć ten przypadek już istnieje w Europie. Po prostu nigdy nie został wypróbowany wobec funkcji sprzedawanej jako wygoda, a nie jako decyzja.
Naprawione Pytanie To Nie Naprawiony Potok Danych
Każda europejska rodzina, która publikuje wpisy na platformach Mety z pokolenia na pokolenie, dokładnie ten wzorzec, który wyeksponował córki Robins, tkwi w tym samym potoku profilowania, który Meta twierdzi, że teraz "naprawiła". To, co Meta faktycznie naprawiła, to powierzchnia: sugerowane pytanie, które uczyniło profilowanie widocznym. Nic w jej oświadczeniu nie opisuje wycofania leżącej u podstaw agregacji danych między kontami, która zbudowała profil od samego początku, co oznacza, że pytanie o minimalizację danych, które RODO miało wymusić, czy ten profil w ogóle powinien był powstać, nigdy naprawdę nie doczekało się odpowiedzi, a jedynie ponownie zniknęło z pola widzenia.
Servola Journal
Robimy to dla wszystkich, którzy starają się nadążyć za tym, co technologia robi z naszym życiem. Dla ludzi, którzy ją budują, i dla ludzi, którym się to przydarza. Servola Journal istnieje, aby to, czego się uczymy, należało do nich wszystkich.
Nikt nam za to nie płaci. Żadnych reklam, żadnego muru płatności, za darmo dla wszystkich. Po prostu wierzymy, że zrozumienie tego, co dzieje się z nami wszystkimi, nie powinno zależeć od tego, kogo stać na zapłacenie za to.
Jeśli to dało ci dziś coś, powiedz nam, żebyśmy kontynuowali. Obserwuj nas, zostaw polubienie, albo napisz pozytywny komentarz. Czytamy każdy jeden, i to oni sprawiają, że działamy dalej.
Czytaj dalej: Meta musi teraz udowodnić, że weryfikacja wieku działa | Nowy Meksyk zamienia karę w nakaz
