Una Pregunta Sugerida Que Nadie Quería Que Se Respondiera
Kalie Robins, creadora de contenido de Utah, publicó en Instagram y Facebook un vídeo de ella misma y una de sus hijas cantando en el coche. Al revisar la publicación, la IA de Meta había mostrado una pregunta sugerida: "¿Quién es la pasajera infantil?" Con curiosidad, la pulsó, y contó a Futurism lo que ocurrió después: "Siguió y siguió, y ese nudo en el estómago se hacía cada vez más grande y profundo."
La IA de Meta no se detuvo en la hija visible en el vídeo. Identificó también a la segunda hija, además de la edad de ambas niñas, su curso escolar probable, su playa y sendero favoritos, dónde vive la familia y, según la revisión de Futurism del intercambio, incluso el peso al nacer de ambas niñas y la trayectoria profesional de Robins en el ámbito de la salud mental. Robins afirmó que nunca había publicado ella misma los nombres de sus hijas. La IA de Meta los extrajo de una publicación de Facebook de una abuela que anunciaba, años antes, el nacimiento de una de las niñas.
El Perfil Ya Existía Antes De Que Nadie Hiciera Una Pregunta
Lo relevante no es la conversación que Robins mantuvo con la IA de Meta. Es lo que la IA de Meta ya había reunido antes de que ella escribiera una sola palabra: un perfil cruzado de dos menores identificadas por su nombre, construido combinando sus propias publicaciones con publicaciones ajenas de familiares que no tenían motivo para pensar que sus fotos de cumpleaños y anuncios de nacimiento alimentarían, años después, una función de IA de otra persona.
La portavoz de Meta, Dina El-Kassaby, declaró a The Verge que la empresa "se equivocó" y que "la función nunca debió sugerir preguntas como esas", y añadió que Meta ha corregido el problema y que la función solo muestra información que el usuario ya podría ver por sí mismo. Esa declaración aborda la pregunta. No aborda el perfil, que la IA de Meta tuvo que construir, identificando correctamente a dos niñas a lo largo de años de publicaciones ajenas, antes de poder sugerir nada en absoluto.
Dos Leyes Nuevas De Seguridad Infantil, Ninguna Pensada Para Esto
2026 ha traído un impulso real en materia de IA y seguridad infantil: el artículo 50 del Reglamento de IA de la UE exige ahora revelar que un usuario habla con un sistema de IA, y la SB 1119 de California, firmada este mes, obliga a incorporar protocolos de crisis y controles parentales en los chatbots de compañía con IA. Ambas son avances genuinos. Ninguna habría detectado este incidente, porque ambas están redactadas para el momento en que un menor o un progenitor habla activamente con una IA. Aquí no hubo ninguna conversación con una menor. Una función perfiló en silencio a una niña para conveniencia de otra persona, sin ninguna interfaz de chat de por medio.
| Norma | Qué Cubre | ¿Cubre Este Incidente? |
|---|---|---|
| Reglamento de IA de la UE, artículo 50 | Revelar que un usuario habla con un chatbot de IA | No, no hubo ninguna conversación con un chatbot |
| SB 1119 de California (2026) | Protocolos de crisis y controles parentales en chatbots de compañía con IA | No, por el mismo motivo, no hubo conversación |
| RGPD, artículo 22 y considerando 38 | Elaboración de perfiles automatizada, con protección adicional explícita para menores | Sobre el papel, sí, pero nunca se ha aplicado contra una función de 'pregunta sugerida' |
Esa tercera fila es la incómoda. El considerando 38 del RGPD ya establece que los menores merecen protección específica en materia de elaboración de perfiles, y el artículo 22 restringe estrictamente las decisiones automatizadas con efectos significativos a tres excepciones: necesidad contractual, autorización legal o consentimiento explícito. Ninguna de esas excepciones cubre de forma plausible que la publicación de cumpleaños de una abuela, de una década atrás, se cruce para perfilar a su nieta. La ley capaz de alcanzar este incidente ya existe en Europa. Simplemente nunca se ha puesto a prueba contra una función comercializada como comodidad y no como decisión.
Una Pregunta Corregida No Es Una Tubería Corregida
Cada familia europea que publica entre generaciones en las plataformas de Meta, exactamente el patrón que expuso a las hijas de Robins, se encuentra dentro de la misma tubería de elaboración de perfiles que Meta dice haber "corregido". Lo que Meta corrigió realmente fue la superficie: la pregunta sugerida que hizo visible la elaboración de perfiles. Nada en su declaración describe la retirada de la agregación entre cuentas que construyó el perfil en primer lugar, lo que significa que la pregunta de minimización de datos que el RGPD pretendía forzar, si ese perfil debería haberse construido siquiera, nunca llegó a responderse, solo volvió a ocultarse de la vista.
Servola Journal
Hacemos esto por todos los que intentan mantenerse al día con lo que la tecnología le está haciendo a nuestras vidas. Las personas que la construyen, y las personas a las que les ocurre. Servola Journal existe para que lo que aprendemos pertenezca a todos ellos.
Nadie nos paga por esto. Sin anuncios, sin muro de pago, gratis para todos. Simplemente creemos que entender lo que nos está pasando a todos no debería depender de quién pueda permitirse pagar por ello.
Si esto te dio algo hoy, dinos que sigamos adelante. Síguenos, deja un me gusta, o escribe un comentario positivo. Leemos cada uno, y son lo que nos mantiene en marcha.
Leer a continuación: Meta ahora debe demostrar que sus filtros de edad funcionan | Nuevo México convierte una multa en un mandato
