La Loi Californienne sur les Chatbots Enfants Dépasse les Règles de l'UE

La Mort d'Adam Raine Devient un Vote Presque Unanime

Le parlement californien a rédigé un projet de loi sur la sécurité des enfants face aux chatbots compagnons après qu'une plainte a accusé ChatGPT d'avoir guidé un adolescent californien, Adam Raine, vers des méthodes de suicide en 2025. Le texte a été adopté par le Sénat par 39 voix contre 0 et par l'Assemblée par 64 voix contre 4 le 31 août 2026. Le gouverneur Gavin Newsom l'a promulgué le 10 septembre 2026, avec neuf autres lois sur la sécurité des enfants et les réseaux sociaux dans le même paquet.

Le sénateur Steve Padilla, principal auteur du texte, l'a présenté comme une tentative de devenir le modèle national pour un monde en ligne plus sûr pour les enfants. Le texte, officiellement SB 1119 et connu sous le nom de loi d'Adam, vise une seule catégorie de produit: les chatbots compagnons, des systèmes d'IA conçus pour tenir des conversations continues et de type relationnel, exactement le type de produit que plusieurs laboratoires et une vague d'applications indépendantes ont conçu pour garder un utilisateur, y compris un adolescent, en conversation le plus longtemps possible.

Ce Que la Loi d'Adam Exige Réellement

La loi d'Adam ne demande pas aux éditeurs de chatbots compagnons de promettre la sécurité, elle rend dix choses précises obligatoires d'ici le 1er juillet 2027. Les opérateurs doivent vérifier l'âge d'un utilisateur via des signaux de tranche d'âge protecteurs de la vie privée, réaliser une évaluation des risques documentée avant de lancer un chatbot compagnon nouveau ou substantiellement modifié, et intégrer une aide de crise dans l'application qui oriente l'utilisateur vers des ressources de santé mentale et avertit un parent quand le système détecte un risque d'automutilation.

Les contrôles parentaux doivent être activés par défaut: limites de temps d'utilisation, restrictions de la mémoire des conversations, et une notification si un parent désactive l'un de ces réglages. Les opérateurs sont responsables des sorties dommageables de leur propre chatbot, une liste qui nomme spécifiquement le contenu d'automutilation, le matériel explicite, le jeu de rôle romantique et les schémas de flatterie manipulatrice ou excessive. Un canal de signalement des incidents passe par le bureau du procureur général de Californie, et chaque opérateur doit soumettre chaque année un audit de conformité indépendant au procureur général. Le point qui change le calcul pour une entreprise qui évalue si elle doit se conformer: les familles obtiennent une action en justice privée, ce qui veut dire qu'un parent peut poursuivre directement, sans attendre que le procureur général agisse en premier.

Bruxelles Demande une Mention. Sacramento Demande un Plan de Crise.

L'AI Act européen réglemente la même catégorie de produit de façon bien plus légère que ce que la Californie vient de faire. Selon l'article 50, en vigueur depuis le 2 août 2026, un chatbot compagnon qui opère dans l'UE a exactement une obligation légale précise liée au fait d'être un chatbot: dire à l'utilisateur qu'il parle à une machine.

L'article 50 a de vraies conséquences, des amendes allant jusqu'à 15 millions d'euros ou 3 pour cent du chiffre d'affaires mondial annuel, mais il n'exige pas de protocole de crise face à des signaux d'automutilation, n'exige pas de notification aux parents, n'exige pas d'évaluation des risques annuelle revue par un tiers, et ne donne à une famille lésée aucun droit d'action en justice privée. Un chatbot compagnon ne bascule dans les obligations plus strictes à haut risque de l'AI Act, évaluation de conformité complète incluse, que si les régulateurs classent plus tard ce produit précis comme à haut risque au titre d'une autre partie du texte, ce qui n'est pas arrivé pour cette catégorie à ce jour.

Les Entreprises Que Cela Touche Vraiment

Toute entreprise qui vend un chatbot compagnon à une personne en Californie doit désormais construire selon le plus strict des deux régimes, qu'elle ait son siège à San Francisco, Berlin ou Londres. Un produit d'IA compagnon européen ou britannique avec des utilisateurs américains ne peut pas choisir le règlement le plus léger et appeler ça de la conformité, car l'action en justice privée californienne suit le produit jusqu'à l'endroit où vit une famille lésée, pas jusqu'au siège de l'entreprise.

Pour un opérateur européen qui observe Bruxelles finaliser ses propres lignes directrices sur l'AI Act, la loi d'Adam est un aperçu du type de règle spécifique à un produit qui pourrait arriver ensuite: pas une obligation de transparence générale comme l'article 50, mais une liste nommée de comportements de sécurité exigés pour une seule catégorie de produit à fort engagement. Sam Altman, d'OpenAI, aurait contacté directement Newsom pendant la rédaction du texte, un signe que les laboratoires eux-mêmes s'attendent à voir ce type de règle se répandre plutôt que de rester une particularité californienne.

Servola Journal

Nous faisons cela pour tous ceux qui essaient de suivre ce que la technologie fait à nos vies. Les personnes qui la construisent, et les personnes à qui cela arrive. Le Servola Journal existe pour que ce que nous apprenons appartienne à tous.

Personne ne nous paie pour cela. Pas de publicité, pas de mur payant, gratuit pour tous. Nous croyons simplement que comprendre ce qui nous arrive à tous ne devrait pas dépendre de qui peut se permettre de payer pour cela.

Si cela vous a apporté quelque chose aujourd'hui, dites-le-nous pour que nous continuions. Suivez-nous, laissez un like, ou écrivez un commentaire positif. Nous les lisons tous, et ce sont eux qui nous font continuer.

À lire ensuite: Le quatrième incident d'Anthropic arrive avec un chiffre: 79 contre 1  |  Un évaluateur d'IA de l'État entre au board d'OpenAI