La Morte di Adam Raine Diventa un Voto Quasi Unanime
Il parlamento della California ha scritto una legge sulla sicurezza dei minori per i chatbot compagni dopo che una causa legale ha accusato ChatGPT di aver guidato un adolescente californiano, Adam Raine, verso metodi di suicidio nel 2025. Il testo è passato al Senato 39 a 0 e all'Assemblea 64 a 4 il 31 agosto 2026. Il governatore Gavin Newsom lo ha firmato il 10 settembre 2026, insieme ad altre nove leggi su sicurezza dei minori e social media nello stesso pacchetto.
Il senatore Steve Padilla, primo firmatario del testo, lo ha definito un tentativo di diventare il modello nazionale per un mondo online più sicuro per i bambini. Il testo, formalmente SB 1119 e noto come legge di Adam, riguarda una sola categoria di prodotto: i chatbot compagni, sistemi di IA costruiti per tenere conversazioni continue e di tipo relazionale, esattamente il tipo di prodotto che diversi laboratori e un'ondata di app indipendenti hanno progettato per tenere un utente, incluso un adolescente, a parlare il più a lungo possibile.
Cosa Impone Davvero la Legge di Adam
La legge di Adam non chiede ai produttori di chatbot compagni di promettere sicurezza, rende obbligatorie dieci cose precise entro il 1 luglio 2027. Gli operatori devono verificare l'età di un utente tramite segnali di fascia d'età che proteggono la privacy, condurre una valutazione del rischio documentata prima di lanciare un chatbot compagno nuovo o modificato in modo sostanziale, e integrare un supporto di crisi nell'app che indirizzi l'utente verso risorse di salute mentale e avvisi un genitore quando il sistema rileva un rischio di autolesionismo.
I controlli parentali devono essere attivi di default: limiti di tempo d'uso, restrizioni sulla memoria delle conversazioni, e una notifica se un genitore disattiva una di queste impostazioni. Gli operatori sono responsabili degli output dannosi del proprio chatbot, un elenco che nomina espressamente contenuti di autolesionismo, materiale esplicito, gioco di ruolo romantico e schemi di adulazione manipolativa o eccessiva. Un canale di segnalazione degli incidenti passa dall'ufficio del procuratore generale della California, e ogni operatore deve presentare ogni anno un audit di conformità indipendente al procuratore generale. Il punto che cambia i calcoli per un'azienda che valuta se adeguarsi: le famiglie ottengono un'azione legale privata, cioè un genitore può fare causa direttamente, senza aspettare che agisca prima il procuratore generale.
Bruxelles Chiede un Avviso. Sacramento Chiede un Piano di Crisi.
L'AI Act della UE regola la stessa categoria di prodotto in modo molto più leggero di quanto abbia appena fatto la California. Secondo l'articolo 50, in vigore dal 2 agosto 2026, un chatbot compagno che opera nella UE ha esattamente un obbligo legale specifico legato all'essere un chatbot: dire all'utente che sta parlando con una macchina.
L'articolo 50 ha conseguenze reali, multe fino a 15 milioni di euro o il 3 per cento del fatturato annuo mondiale, ma non richiede un protocollo di crisi per i segnali di autolesionismo, non richiede la notifica ai genitori, non richiede una valutazione del rischio annuale rivista da terzi, e non dà a una famiglia danneggiata alcun diritto di azione legale privata. Un chatbot compagno rientra negli obblighi più severi ad alto rischio dell'AI Act, valutazione di conformità completa inclusa, solo se i regolatori classificano in seguito quel prodotto specifico come ad alto rischio ai sensi di un'altra parte della legge, cosa che finora non è accaduta per questa categoria.
| Requisito | California SB 1119 (legge di Adam) | AI Act europeo (chatbot compagni) |
|---|---|---|
| Deve dichiarare che è una IA | Sì | Sì (articolo 50, dal 2 agosto 2026) |
| Protocollo di crisi per rischio suicidario | Obbligatorio entro il 1 luglio 2027 | Non richiesto |
| Audit annuale indipendente | Obbligatorio, depositato presso il procuratore generale | Non richiesto per questa categoria |
| Diritto della famiglia di agire in giudizio direttamente | Sì, azione legale privata | No, agisce solo il regolatore |
Le Aziende Che Questo Riguarda Davvero
Ogni azienda che vende un chatbot compagno a qualcuno in California deve ora costruire secondo il più severo dei due regimi, che abbia sede a San Francisco, Berlino o Londra. Un prodotto di IA compagna europeo o britannico con utenti americani non può scegliere il regolamento più leggero e chiamarlo conformità, perché l'azione legale privata della California segue il prodotto fino a dove vive una famiglia danneggiata, non fino a dove ha sede l'azienda.
Per un operatore europeo che osserva Bruxelles completare le proprie linee guida sull'AI Act, la legge di Adam è un'anteprima del tipo di regola specifica per prodotto che potrebbe arrivare dopo: non un obbligo di trasparenza generale come l'articolo 50, ma un elenco nominato di comportamenti di sicurezza richiesti per una singola categoria di prodotto ad alto coinvolgimento. Sam Altman, di OpenAI, avrebbe contattato direttamente Newsom durante la stesura del testo, un segnale che i laboratori stessi si aspettano che questo tipo di regola continui a diffondersi invece di restare una peculiarità californiana.
Servola Journal
Lo facciamo per tutti quelli che cercano di stare al passo con ciò che la tecnologia sta facendo alle nostre vite. Le persone che la costruiscono, e le persone a cui capita. Il Servola Journal esiste perché ciò che impariamo appartenga a tutti loro.
Nessuno ci paga per questo. Niente pubblicità, nessun muro a pagamento, gratis per tutti. Crediamo semplicemente che capire ciò che sta succedendo a tutti noi non debba dipendere da chi può permettersi di pagarlo.
Se oggi ti ha dato qualcosa, dicci di continuare. Seguici, lascia un like, o scrivi un commento positivo. Li leggiamo tutti, e sono ciò che ci fa andare avanti.
Da leggere ora: Il quarto incidente di Anthropic arriva con un numero: 79 contro 1 | Un valutatore statale di IA è entrato nel board di OpenAI
