De Dood van Adam Raine Werd een Bijna Unanieme Stemming
Het Californische parlement schreef een kinderveiligheidswet voor companion-chatbots nadat een rechtszaak ChatGPT ervan beschuldigde een Californische tiener, Adam Raine, in 2025 naar zelfmoordmethoden te hebben geleid. Het wetsvoorstel werd op 31 augustus 2026 aangenomen door de Senaat met 39 tegen 0 stemmen en door de Assembly met 64 tegen 4. Gouverneur Gavin Newsom ondertekende het op 10 september 2026, samen met negen andere wetten over kinderveiligheid en sociale media in hetzelfde pakket.
Senator Steve Padilla, de hoofdauteur van het wetsvoorstel, noemde het een poging om de nationale blauwdruk te worden voor een veiligere online wereld voor kinderen. De wet, formeel SB 1119 en bekend als Adam's Law, richt zich op een specifieke productcategorie: companion-chatbots, AI-systemen gebouwd om doorlopende, relatie-achtige gesprekken te voeren, precies het soort product dat verschillende labs en een golf van losstaande apps hebben ontworpen om een gebruiker, ook een tiener, zo lang mogelijk aan de praat te houden.
Wat Adam's Law Werkelijk Vereist
Adam's Law vraagt makers van companion-chatbots niet om veiligheid te beloven, maar maakt tien concrete zaken verplicht vanaf 1 juli 2027. Aanbieders moeten de leeftijd van een gebruiker verifiëren via privacyvriendelijke leeftijdssignalen, een gedocumenteerde risicobeoordeling uitvoeren voordat ze een nieuwe of wezenlijk gewijzigde companion-chatbot lanceren, en crisishulp in de app inbouwen die een gebruiker doorverwijst naar geestelijke gezondheidszorg en een ouder waarschuwt zodra het systeem een risico op zelfbeschadiging detecteert.
Ouderlijk toezicht moet standaard aanstaan: tijdslimieten voor gebruik, beperkingen op het geheugen van gesprekken, en een melding als een ouder een van die instellingen uitschakelt. Aanbieders zijn aansprakelijk voor schadelijke output van hun eigen chatbot, een lijst die specifiek inhoud over zelfbeschadiging, expliciet materiaal, romantisch rollenspel en manipulatief of overdreven vleiend taalgebruik noemt. Een meldkanaal voor incidenten loopt via het bureau van de Attorney General van Californië, en elke aanbieder moet jaarlijks een onafhankelijke compliance-audit indienen bij de Attorney General. Het onderdeel dat de afweging voor een bedrijf verandert: gezinnen krijgen een eigen rechtsvordering, wat betekent dat een ouder rechtstreeks kan procederen, zonder te wachten tot de Attorney General eerst optreedt.
Brussel Vraagt om een Melding. Sacramento Vraagt om een Crisisplan.
De EU AI Act reguleert dezelfde productcategorie veel lichter dan Californië zojuist deed. Onder artikel 50, van kracht sinds 2 augustus 2026, heeft een companion-chatbot in de EU precies een specifieke wettelijke plicht die vastzit aan het chatbot-zijn: de gebruiker vertellen dat die met een machine praat.
Artikel 50 heeft echte gevolgen, boetes tot 15 miljoen euro of 3 procent van de wereldwijde jaaromzet, maar vereist geen crisisprotocol bij signalen van zelfbeschadiging, geen melding aan ouders, geen jaarlijkse door derden getoetste risicobeoordeling, en geeft een getroffen gezin geen eigen rechtsvordering. Een companion-chatbot valt pas onder de strengere hoogrisicoverplichtingen van de AI Act, met volledige conformiteitsbeoordeling, als toezichthouders dat specifieke product later onder een ander deel van de wet als hoogrisico classificeren, wat tot nu toe niet is gebeurd voor deze categorie.
| Vereiste | Californië SB 1119 (Adam's Law) | EU AI Act (companion-chatbots) |
|---|---|---|
| Moet bekendmaken dat het AI is | Ja | Ja (artikel 50, sinds 2 augustus 2026) |
| Crisisprotocol bij zelfmoordrisico | Verplicht vanaf 1 juli 2027 | Niet verplicht |
| Onafhankelijke jaarlijkse audit | Verplicht, ingediend bij de Attorney General | Niet verplicht voor deze categorie |
| Recht van het gezin om rechtstreeks te procederen | Ja, eigen rechtsvordering | Nee, alleen de toezichthouder kan optreden |
Welke Bedrijven Dit Echt Raakt
Elk bedrijf dat een companion-chatbot verkoopt aan iemand in Californië moet nu bouwen volgens het strengste van de twee regimes, of het nu gevestigd is in San Francisco, Berlijn of Londen. Een Europees of Brits companion-AI-product met Amerikaanse gebruikers kan niet het lichtere regelboek kiezen en dat compliance noemen, want de eigen rechtsvordering van Californië volgt het product naar waar een getroffen gezin woont, niet naar waar het bedrijf gevestigd is.
Voor een Europese aanbieder die kijkt hoe Brussel zijn eigen richtsnoeren voor de AI Act afrondt, is Adam's Law een voorproefje van het soort productspecifieke regel dat hierna kan komen: geen algemene transparantieplicht zoals artikel 50, maar een genoemde lijst van verplicht veiligheidsgedrag voor een enkele, sterk bindende productcategorie. Sam Altman van OpenAI zou tijdens het opstellen van de wet rechtstreeks contact hebben opgenomen met Newsom, een teken dat de labs zelf verwachten dat dit soort regel zich verder verspreidt in plaats van een Californische eigenaardigheid te blijven.
Servola Journal
We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.
Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.
Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.
Lees hierna: Anthropics vierde incident kwam met een cijfer: 79 tegen 1 | Een overheidsevaluator van AI zit nu bij OpenAI in het bestuur
