Adam Raines Død Blev til en Næsten Enstemmig Afstemning
Californiens delstatsparlament skrev et lovforslag om børnesikkerhed for companion-chatbots, efter at en retssag beskyldte ChatGPT for at have vejledt en californisk teenager, Adam Raine, mod selvmordsmetoder i 2025. Forslaget blev vedtaget i senatet med 39 mod 0 stemmer og i forsamlingen med 64 mod 4 den 31. august 2026. Guvernør Gavin Newsom underskrev det den 10. september 2026, sammen med ni andre love om børnesikkerhed og sociale medier i samme pakke.
Senator Steve Padilla, lovforslagets hovedforfatter, kaldte det et forsøg på at blive den nationale skabelon for en sikrere online verden for børn. Loven, formelt SB 1119 og kendt som Adam's Law, retter sig mod en enkelt produktkategori: companion-chatbots, AI-systemer bygget til at føre løbende, relationsagtige samtaler, netop den slags produkt som flere laboratorier og en bølge af selvstændige apps har designet specifikt til at holde en bruger, også en teenager, i gang med at tale så længe som muligt.
Hvad Adam's Law Faktisk Kræver
Adam's Law beder ikke udbydere af companion-chatbots om at love sikkerhed, den gør ti konkrete ting obligatoriske inden den 1. juli 2027. Udbydere skal verificere en brugers alder via privatlivsbeskyttende aldersgruppesignaler, gennemføre en dokumenteret risikovurdering, før de lancerer en ny eller væsentligt ændret companion-chatbot, og indbygge krisehjælp i appen, der henviser en bruger til psykisk sundhedshjælp og underretter en forælder, når systemet opdager risiko for selvskade.
Forældrekontrol skal være aktiveret som standard: tidsbegrænsninger for brug, begrænsninger på samtalehukommelsen, og en underretning, hvis en forælder slår en af disse indstillinger fra. Udbydere er ansvarlige for skadelig output fra deres egen chatbot, en liste der specifikt nævner selvskadeindhold, eksplicit materiale, romantisk rollespil og manipulerende eller overdreven smigrende sprogbrug. En indberetningskanal for hændelser går gennem Californiens Attorney General-kontor, og hver udbyder skal årligt indsende en uafhængig compliance-revision til Attorney General. Det, der ændrer regnestykket for en virksomhed, der overvejer at overholde reglerne: familier får en egen sagsanlægsret, hvilket betyder, at en forælder kan sagsøge direkte, uden at vente på, at Attorney General handler først.
Bruxelles Beder om en Oplysning. Sacramento Beder om en Kriseplan.
EU's AI Act regulerer den samme produktkategori langt lempeligere end det, Californien lige har gjort. Ifølge artikel 50, der har gældt siden den 2. august 2026, har en companion-chatbot, der opererer i EU, præcis en specifik juridisk pligt knyttet til det at være en chatbot: at fortælle brugeren, at vedkommende taler med en maskine.
Artikel 50 har reelle konsekvenser, bøder på op til 15 millioner euro eller 3 procent af den globale årsomsætning, men den kræver ikke en kriseprotokol ved signaler om selvskade, kræver ikke underretning af forældre, kræver ikke en årlig risikovurdering gennemgået af en uafhængig tredjepart, og giver ikke en ramt familie nogen egen sagsanlægsret. En companion-chatbot får først de strengere højrisikoforpligtelser i AI Act, inklusive fuld overensstemmelsesvurdering, hvis tilsynsmyndighederne senere klassificerer det konkrete produkt som højrisiko under en anden del af loven, hvilket ikke er sket for denne kategori indtil nu.
| Krav | Californien SB 1119 (Adam's Law) | EU's AI Act (companion-chatbots) |
|---|---|---|
| Skal oplyse, at det er AI | Ja | Ja (artikel 50, siden 2. august 2026) |
| Kriseprotokol ved selvmordsrisiko | Obligatorisk fra 1. juli 2027 | Ikke krav |
| Uafhængig årlig revision | Obligatorisk, indsendt til Attorney General | Ikke krav for denne kategori |
| Familiens ret til at anlægge sag direkte | Ja, egen sagsanlægsret | Nej, kun tilsynsmyndigheden kan handle |
Hvilke Virksomheder Dette Rent Faktisk Rammer
Enhver virksomhed, der sælger en companion-chatbot til nogen i Californien, skal nu bygge efter det strengeste af de to regelsæt, uanset om den har hovedsæde i San Francisco, Berlin eller London. Et europæisk eller britisk companion-AI-produkt med amerikanske brugere kan ikke vælge det lempeligere regelsæt og kalde det compliance, for Californiens egen sagsanlægsret følger produktet hen, hvor en ramt familie bor, ikke hen, hvor virksomheden har hovedsæde.
For en europæisk udbyder, der ser Bruxelles færdiggøre sine egne retningslinjer for AI Act, er Adam's Law en forsmag på den slags produktspecifikke regel, der kan komme næste gang: ikke en generel gennemsigtighedspligt som artikel 50, men en navngivet liste over påkrævet sikkerhedsadfærd for en enkelt, stærkt bindende produktkategori. Sam Altman fra OpenAI skal angiveligt have kontaktet Newsom direkte under udarbejdelsen af loven, et tegn på, at laboratorierne selv forventer, at denne slags regel fortsætter med at brede sig i stedet for at forblive en californisk særhed.
Servola Journal
Vi gør dette for alle, der prøver at følge med i, hvad teknologi gør ved vores liv. De mennesker, der bygger det, og de mennesker, det sker for. Servola Journal findes, så det vi lærer, tilhører dem alle.
Ingen betaler os for dette. Ingen reklamer, ingen betalingsmur, gratis for alle. Vi tror simpelthen, at det at forstå, hvad der sker for os alle, ikke bør afhænge af, hvem der har råd til at betale for det.
Hvis det gav dig noget i dag, så sig til os, at vi skal blive ved. Følg os, giv et like, eller skriv en positiv kommentar. Vi læser hver eneste en, og de er det, der holder os i gang.
Læs videre: Anthropics fjerde hændelse kom med et tal: 79 mod 1 | En statslig AI-evaluator sidder nu i OpenAIs bestyrelse
