La Ley de Chatbots Infantiles de California Supera a las Reglas de la UE

La Muerte de Adam Raine se Convirtió en una Votación Casi Unánime

El Legislativo de California redactó un proyecto de ley de seguridad infantil para chatbots de compañía después de que una demanda acusara a ChatGPT de guiar al adolescente californiano Adam Raine hacia métodos de suicidio en 2025, y el proyecto pasó el Senado por 39 votos a 0 y la Asamblea por 64 a 4 el 31 de agosto de 2026. El gobernador Gavin Newsom lo firmó el 10 de septiembre de 2026, junto con otras nueve leyes de seguridad infantil y redes sociales en el mismo paquete.

El senador estatal Steve Padilla, autor principal del proyecto, lo llamó un intento de convertirse en el plano nacional para construir un mundo en línea más seguro para nuestros hijos. La ley, formalmente SB 1119 y conocida como la Ley de Adam, se dirige a una sola categoría de producto: los chatbots de compañía, sistemas de IA diseñados para mantener conversaciones continuas y de tipo relacional, el tipo de producto que varios laboratorios y una ola de aplicaciones independientes han diseñado específicamente para mantener a un usuario, incluido un adolescente, conversando el mayor tiempo posible.

Lo que Exige Realmente la Ley de Adam

La Ley de Adam no pide a los fabricantes de chatbots de compañía que prometan seguridad, sino que hace obligatorias diez cosas concretas antes del 1 de julio de 2027. Los operadores deben verificar la edad de un usuario mediante señales de rango de edad que protegen la privacidad, realizar una evaluación de riesgo documentada antes de lanzar un chatbot de compañía nuevo o sustancialmente modificado, e incorporar ayuda de crisis dentro de la aplicación que remita al usuario a recursos de salud mental y notifique a un progenitor cuando el sistema detecte riesgo de autolesión.

Los controles parentales deben venir activados por defecto: límites de tiempo de uso, restricciones en la memoria de la conversación, y una notificación si un progenitor desactiva alguno de ellos. Los operadores son responsables de los resultados dañinos de su propio chatbot, una lista que nombra específicamente contenido de autolesión, material explícito, juego de rol romántico y patrones de adulación manipuladora o excesiva. Un canal de notificación de incidentes pasa por la oficina del Fiscal General de California, y cada operador debe presentar una auditoría de cumplimiento independiente al Fiscal General cada año. La parte que cambia el cálculo para una empresa que evalúa si cumplir: las familias obtienen una acción legal privada, es decir, un progenitor puede demandar directamente, sin esperar a que actúe primero el Fiscal General.

Bruselas Pide un Aviso. Sacramento Pide un Plan de Crisis.

El AI Act de la UE regula la misma categoría de producto de forma mucho más ligera de lo que California acaba de hacer. Según el Artículo 50, vigente desde el 2 de agosto de 2026, un chatbot de compañía que opere en la UE tiene exactamente una obligación legal específica ligada a ser un chatbot: decirle al usuario que esta hablando con una máquina.

El Artículo 50 tiene consecuencias reales, multas de hasta 15 millones de euros o el 3 por ciento de la facturación anual mundial, pero no exige un protocolo de crisis ante señales de autolesión, no exige notificación a los padres, no exige una evaluación de riesgo anual revisada por terceros, y no da a una familia perjudicada ningún derecho de acción legal privada. Un chatbot de compañía solo asume las obligaciones más estrictas de alto riesgo del AI Act, evaluación de conformidad completa incluida, si los reguladores clasifican más adelante ese producto concreto como de alto riesgo bajo otra parte de la ley, algo que no ha ocurrido para esta categoría hasta la fecha de esta publicación.

A qué Empresas Afecta Realmente

Cualquier empresa que venda un chatbot de compañía a alguien en California debe ahora construirlo según el más estricto de los dos regímenes, tenga su sede en San Francisco, Berlín o Londres. Un producto de IA de compañía europeo o británico con usuarios en Estados Unidos no puede elegir el reglamento más ligero y llamarlo cumplimiento, porque la acción legal privada de California sigue al producto hasta donde vive una familia perjudicada, no hasta dónde tiene su sede la empresa.

Para un operador europeo que observa como Bruselas termina sus propias directrices sobre el AI Act, la Ley de Adam es un adelanto del tipo de norma específica de producto que podría llegar después: no un deber de transparencia general como el Artículo 50, sino una lista nombrada de comportamientos de seguridad exigidos para una sola categoría de producto de alto enganche. Sam Altman, de OpenAI, presuntamente contactó directamente con Newsom durante la redacción de la ley, una señal de que los propios laboratorios esperan que este tipo de norma siga extendiéndose en lugar de quedar como una peculiaridad californiana.

Servola Journal

Hacemos esto por todos los que intentan mantenerse al día con lo que la tecnología le está haciendo a nuestras vidas. Las personas que la construyen, y las personas a las que les ocurre. Servola Journal existe para que lo que aprendemos pertenezca a todos ellos.

Nadie nos paga por esto. Sin anuncios, sin muro de pago, gratis para todos. Simplemente creemos que entender lo que nos está pasando a todos no debería depender de quién pueda permitirse pagar por ello.

Si esto te dio algo hoy, dinos que sigamos adelante. Síguenos, deja un me gusta, o escribe un comentario positivo. Leemos cada uno, y son lo que nos mantiene en marcha.

Leer a continuación: El cuarto incidente de Anthropic llegó con un número: 79 frente a 1  |  Un evaluador estatal de IA ya está en el consejo de OpenAI