A Morte de Adam Raine Tornou-se numa Votação Quase Unânime
O parlamento da Califórnia redigiu uma lei de segurança infantil para chatbots de companhia depois de uma ação judicial ter acusado o ChatGPT de ter conduzido um adolescente californiano, Adam Raine, a métodos de suicídio em 2025. O texto foi aprovado no Senado por 39 votos a 0 e na Assembleia por 64 a 4, em 31 de agosto de 2026. O governador Gavin Newsom assinou-o em 10 de setembro de 2026, juntamente com outras nove leis sobre segurança infantil e redes sociais no mesmo pacote.
O senador Steve Padilla, autor principal do texto, chamou-lhe uma tentativa de se tornar o modelo nacional para um mundo em linha mais seguro para as crianças. A lei, formalmente SB 1119 e conhecida como Lei de Adam, visa uma única categoria de produto: os chatbots de companhia, sistemas de IA construídos para manter conversas continuas e do tipo relacional, exatamente o tipo de produto que varios laboratorios e uma vaga de aplicações independentes concebido especificamente para manter um utilizador, incluindo um adolescente, a conversar o máximo de tempo possível.
O Que a Lei de Adam Exige na Prática
A Lei de Adam não pede aos fabricantes de chatbots de companhia que prometam segurança, torna dez coisas concretas obrigatórias até 1 de julho de 2027. Os operadores têm de verificar a idade de um utilizador através de sinais de faixa etária que protegem a privacidade, realizar uma avaliação de risco documentada antes de lançar um chatbot de companhia novo ou substancialmente alterado, e incorporar apoio de crise dentro da aplicação que encaminhe o utilizador para recursos de saúde mental e notifique um encarregado de educação quando o sistema detetar risco de autolesão.
Os controlos parentais têm de vir ativados por defeito: limites de tempo de utilização, restrições à memória das conversas, e uma notificação caso um encarregado de educação desative alguma dessas definições. Os operadores são responsáveis por resultados nocivos do próprio chatbot, uma lista que nomeia especificamente conteúdo de autolesão, material explícito, jogo de interpretação romântico e padroes de lisonja manipuladora ou excessiva. Um canal de comunicação de incidentes passa pelo gabinete do Attorney General da Califórnia, e cada operador tem de apresentar anualmente uma auditoria de conformidade independente ao Attorney General. A parte que muda o cálculo para uma empresa que está a avaliar se deve cumprir: as famílias passam a ter uma ação judicial privada, ou seja, um encarregado de educação pode processar diretamente, sem esperar que o Attorney General atue primeiro.
Bruxelas Pede uma Divulgação. Sacramento Pede um Plano de Crise.
O AI Act da UE regula a mesma categoria de produto de forma muito mais leve do que a Califórnia acabou de fazer. Ao abrigo do artigo 50, em vigor desde 2 de agosto de 2026, um chatbot de companhia que opere na UE tem exatamente um dever legal específico ligado a ser um chatbot: dizer ao utilizador que está a falar com uma máquina.
O artigo 50 tem consequências reais, coimas até 15 milhões de euros ou 3 por cento do volume de negócios anual mundial, mas não exige um protocolo de crise perante sinais de autolesão, não exige notificação aos encarregados de educação, não exige uma avaliação de risco anual revista por terceiros, e não dá a uma família lesada qualquer direito de ação judicial privada. Um chatbot de companhia só fica sujeito às obrigações mais rigorosas de alto risco do AI Act, incluindo avaliação de conformidade completa, se os reguladores classificarem mais tarde esse produto específico como de alto risco ao abrigo de outra parte da lei, o que não aconteceu até agora para esta categoria.
| Requisito | Califórnia SB 1119 (Lei de Adam) | AI Act da UE (chatbots de companhia) |
|---|---|---|
| Tem de revelar que é uma IA | Sim | Sim (artigo 50, desde 2 de agosto de 2026) |
| Protocolo de crise por risco de suicídio | Obrigatório até 1 de julho de 2027 | Não exigido |
| Auditoria anual independente | Obrigatória, apresentada ao Attorney General | Não exigida para esta categoria |
| Direito da família a processar diretamente | Sim, ação judicial privada | Não, só o regulador pode atuar |
Que Empresas Isto Afeta Realmente
Qualquer empresa que venda um chatbot de companhia a alguém na Califórnia tem agora de construir segundo o mais rigoroso dos dois regimes, quer tenha sede em São Francisco, Berlim ou Londres. Um produto de IA de companhia europeu ou britânico com utilizadores nos Estados Unidos não pode escolher o regulamento mais leve e chamar-lhe conformidade, porque a ação judicial privada da Califórnia segue o produto até onde vive uma família lesada, e não até onde a empresa tem sede.
Para um operador europeu que observa Bruxelas a finalizar as suas próprias orientações sobre o AI Act, a Lei de Adam é uma antevisão do tipo de regra específica de produto que poderá surgir a seguir: não um dever de transparência geral como o artigo 50, mas uma lista nomeada de comportamentos de segurança exigidos para uma única categoria de produto de forte envolvimento. Sam Altman, da OpenAI, terá contactado diretamente Newsom durante a redação da lei, um sinal de que os próprios laboratórios esperam que este tipo de regra continue a espalhar-se em vez de permanecer uma particularidade californiana.
Servola Journal
Fazemos isto por todos os que tentam acompanhar o que a tecnologia está a fazer às nossas vidas. As pessoas que a constroem, e as pessoas a quem acontece. O Servola Journal existe para que o que aprendemos pertença a todos eles.
Ninguém nos paga por isto. Sem anúncios, sem barreira de pagamento, grátis para todos. Acreditamos simplesmente que compreender o que está a acontecer a todos nós não deveria depender de quem pode pagar por isso.
Se isto lhe deu algo hoje, diga-nos para continuarmos. Siga-nos, deixe um like, ou escreva um comentário positivo. Lemos cada um deles, e são eles que nos fazem continuar.
Leia a seguir: O quarto incidente da Anthropic chegou com um número: 79 contra 1 | Um avaliador estatal de IA entrou no conselho da OpenAI
