Une Question Suggérée Que Personne Ne Voulait Voir Posée
Kalie Robins, créatrice de contenu basée dans l'Utah, a publié sur Instagram et Facebook une vidéo d'elle-même et de l'une de ses filles chantant en voiture. En consultant la publication, elle a découvert qu'une question suggérée par l'IA de Meta était apparue : "Qui est la passagère enfant ?" Intriguée, elle a cliqué dessus, et a raconté à Futurism ce qui s'est passé ensuite : "Ça n'arrêtait pas de continuer, et cette boule au ventre devenait de plus en plus grosse et profonde."
L'IA de Meta ne s'est pas arrêtée à la fille visible dans la vidéo. Elle a également identifié la seconde fille, ainsi que l'âge des deux fillettes, leur classe scolaire probable, leur plage et leur sentier préférés, l'endroit où vit la famille et, selon l'examen de l'échange par Futurism, jusqu'au poids de naissance des deux fillettes et le parcours professionnel de Robins dans le domaine de la santé mentale. Robins a affirmé n'avoir jamais publié elle-même les prénoms de ses filles. L'IA de Meta les a tirés d'une publication Facebook d'une grand-mère annonçant, des années plus tôt, la naissance de l'une des fillettes.
Le Profil Existait Déjà Avant Que Quiconque Ne Pose Une Question
Ce qui compte, ce n'est pas la conversation que Robins a eue avec l'IA de Meta. C'est ce que l'IA de Meta avait déjà rassemblé avant même qu'elle ne tape un seul mot : un profil croisé de deux mineures identifiées par leur nom, construit en combinant ses propres publications avec des publications d'autres personnes, des proches qui n'avaient aucune raison de penser que leurs photos d'anniversaire et leurs faire-part de naissance alimenteraient, des années plus tard, la fonctionnalité IA de quelqu'un d'autre.
La porte-parole de Meta, Dina El-Kassaby, a déclaré à The Verge que l'entreprise "s'était trompée" et que "la fonctionnalité n'aurait jamais dû suggérer des questions de ce genre", ajoutant que Meta a corrigé le problème et que la fonctionnalité ne fait de toute façon apparaître que des informations que l'utilisateur pourrait déjà voir lui-même. Cette déclaration porte sur la question. Elle ne porte pas sur le profil, que l'IA de Meta a dû construire, en identifiant correctement deux fillettes à travers des années de publications d'autrui, avant même de pouvoir suggérer quoi que ce soit.
Deux Nouvelles Lois Sur La Sécurité Des Mineurs, Aucune Conçue Pour Cela
L'année 2026 a apporté un véritable élan sur l'IA et la sécurité des mineurs : l'article 50 du règlement européen sur l'IA impose désormais de révéler qu'un utilisateur parle à un système d'IA, et la SB 1119 de Californie, promulguée ce mois-ci, impose des protocoles de crise et des contrôles parentaux dans les chatbots IA compagnons. Ce sont deux avancées réelles. Aucune n'aurait repéré cet incident, car toutes deux sont écrites pour le moment où un mineur ou un parent parle activement à une IA. Ici, il n'y a eu aucune conversation avec une mineure. Une fonctionnalité a profilé en silence une enfant pour la commodité de quelqu'un d'autre, sans aucune interface de conversation en vue.
| Règle | Ce Qu'elle Couvre | Couvre-t-elle Cet Incident ? |
|---|---|---|
| Règlement européen sur l'IA, article 50 | Révéler qu'un utilisateur parle à un chatbot IA | Non, aucune conversation avec un chatbot n'a eu lieu |
| SB 1119 de Californie (2026) | Protocoles de crise et contrôles parentaux dans les chatbots IA compagnons | Non, pour la même raison, aucune conversation n'a eu lieu |
| RGPD, article 22 et considérant 38 | Profilage automatisé, avec une protection supplémentaire explicite pour les mineurs | Sur le papier, oui, mais jamais appliqué contre une fonctionnalité de 'question suggérée' |
Cette troisième ligne est la gênante. Le considérant 38 du RGPD affirme déjà que les mineurs méritent une protection spécifique en matière de profilage, et l'article 22 restreint strictement les décisions automatisées ayant un effet significatif à trois exceptions : nécessité contractuelle, autorisation légale ou consentement explicite. Aucune de ces exceptions ne couvre de façon plausible le fait qu'une publication d'anniversaire vieille de dix ans, postée par une grand-mère, soit croisée pour profiler sa petite-fille. La loi capable de saisir cet incident existe déjà en Europe. Elle n'a simplement jamais été mise à l'épreuve face à une fonctionnalité présentée comme un service pratique plutôt que comme une décision.
Une Question Corrigée N'est Pas Un Pipeline Corrigé
Chaque famille européenne qui publie entre générations sur les plateformes de Meta, exactement le schéma qui a exposé les filles de Robins, se trouve dans le même pipeline de profilage que Meta dit avoir désormais "corrigé". Ce que Meta a réellement corrigé, c'est la surface : la question suggérée qui a rendu le profilage visible. Rien dans sa déclaration ne décrit le retrait de l'agrégation entre comptes qui a construit le profil en premier lieu, ce qui signifie que la question de minimisation des données que le RGPD entendait imposer, celle de savoir si ce profil aurait dû être construit, n'a en réalité jamais reçu de réponse ; elle a seulement disparu de nouveau de la vue.
Servola Journal
Nous faisons cela pour tous ceux qui essaient de suivre ce que la technologie fait à nos vies. Les personnes qui la construisent, et les personnes à qui cela arrive. Le Servola Journal existe pour que ce que nous apprenons appartienne à tous.
Personne ne nous paie pour cela. Pas de publicité, pas de mur payant, gratuit pour tous. Nous croyons simplement que comprendre ce qui nous arrive à tous ne devrait pas dépendre de qui peut se permettre de payer pour cela.
Si cela vous a apporté quelque chose aujourd'hui, dites-le-nous pour que nous continuions. Suivez-nous, laissez un like, ou écrivez un commentaire positif. Nous les lisons tous, et ce sont eux qui nous font continuer.
À lire ensuite: Meta doit désormais prouver que ses contrôles d'âge marchent | Le Nouveau-Mexique transforme une amende en obligation
