Adam Raines Tod wurde zu einer fast einstimmigen Abstimmung
Kaliforniens Parlament verfasste ein Kinderschutzgesetz für Begleit-Chatbots, nachdem eine Klage ChatGPT vorwarf, den kalifornischen Teenager Adam Raine 2025 zu Suizidmethoden angeleitet zu haben. Das Gesetz passierte den Senat mit 39 zu 0 und die Versammlung mit 64 zu 4 Stimmen am 31. August 2026. Gouverneur Gavin Newsom unterzeichnete es am 10. September 2026, zusammen mit neun weiteren Kinderschutz- und Social-Media-Gesetzen im selben Paket.
Der Hauptautor, Senator Steve Padilla, nannte es einen Versuch, der landesweite Bauplan für eine sicherere Online-Welt für unsere Kinder zu werden. Das Gesetz, offiziell SB 1119 und bekannt als Adam's Law, zielt auf eine einzige Produktkategorie: Begleit-Chatbots, KI-Systeme, die für fortlaufende, beziehungsähnliche Gespräche gebaut sind, genau die Art Produkt, die mehrere Labore und eine Welle eigenständiger Apps gezielt so gestaltet haben, dass ein Nutzer, auch ein Teenager, möglichst lange im Gespräch bleibt.
Was Adam's Law tatsächlich verlangt
Adam's Law verlangt von Anbietern von Begleit-Chatbots kein Versprechen, sondern macht zehn konkrete Dinge bis zum 1. Juli 2027 verpflichtend. Anbieter müssen das Alter eines Nutzers über datenschutzfreundliche Alterssignale prüfen, vor jeder neuen oder wesentlich veränderten Version eine dokumentierte Risikobewertung durchführen und eine In-App-Krisenhilfe einbauen, die einen Nutzer an psychosoziale Hilfsangebote verweist und ein Elternteil benachrichtigt, sobald das System ein Suizidrisiko erkennt.
Elternkontrollen müssen standardmäßig aktiv sein: Nutzungszeitlimits, Einschränkungen beim Gesprächsgedächtnis und eine Benachrichtigung, falls ein Elternteil eine dieser Einstellungen abschaltet. Anbieter haften für schädliche Ausgaben ihres eigenen Chatbots, eine Liste, die Selbstverletzungsinhalte, explizites Material, romantisches Rollenspiel sowie manipulative oder übertriebene Schmeichelei ausdrücklich nennt. Ein Meldekanal für Vorfälle läuft über das Büro des kalifornischen Attorney General, und jeder Anbieter muss jährlich ein unabhängiges Compliance-Audit einreichen. Der Punkt, der die Rechnung für ein Unternehmen ändert: Familien erhalten ein eigenes Klagerecht, können also direkt klagen, ohne auf ein Handeln des Attorney General zu warten.
Brüssel verlangt einen Hinweis. Sacramento verlangt einen Krisenplan.
Der EU AI Act reguliert dieselbe Produktkategorie deutlich leichter, als Kalifornien es gerade getan hat. Nach Artikel 50, in Kraft seit dem 2. August 2026, hat ein Begleit-Chatbot in der EU genau eine konkrete rechtliche Pflicht, die an seine Chatbot-Eigenschaft gebunden ist: dem Nutzer zu sagen, dass er mit einer Maschine spricht.
Artikel 50 hat echte Konsequenzen, Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, verlangt aber kein Krisenprotokoll bei Suizidsignalen, keine Benachrichtigung der Eltern, keine jährliche, extern geprüfte Risikobewertung und gibt einer geschädigten Familie kein eigenes Klagerecht. Ein Begleit-Chatbot fällt nur dann unter die strengeren Hochrisiko-Pflichten des AI Act, vollständige Konformitätsbewertung eingeschlossen, wenn Regulierer das konkrete Produkt später unter einem anderen Teil des Gesetzes als Hochrisiko einstufen, was für diese Kategorie bislang nicht geschehen ist.
| Anforderung | Kalifornien SB 1119 (Adam's Law) | EU AI Act (Begleit-Chatbots) |
|---|---|---|
| Muss offenlegen, dass es KI ist | Ja | Ja (Artikel 50, seit 2. August 2026) |
| Krisenprotokoll bei Suizidrisiko | Pflicht ab 1. Juli 2027 | Nicht vorgeschrieben |
| Unabhängiges Jahresaudit | Pflicht, einzureichen beim Attorney General | Für diese Kategorie nicht vorgeschrieben |
| Direktes Klagerecht der Familie | Ja, eigenes Klagerecht | Nein, nur Aufsichtsbehörde |
Welche Unternehmen das wirklich betrifft
Jedes Unternehmen, das einen Begleit-Chatbot an jemanden in Kalifornien verkauft, muss nun nach dem strengeren der beiden Regelwerke bauen, egal ob der Sitz in San Francisco, Berlin oder London liegt. Ein europäisches oder britisches Begleit-KI-Produkt mit Nutzern in den USA kann sich nicht das leichtere Regelwerk aussuchen und das Compliance nennen, denn Kaliforniens eigenes Klagerecht folgt dem Produkt dorthin, wo eine geschädigte Familie lebt, nicht dorthin, wo das Unternehmen seinen Sitz hat.
Für einen europäischen Anbieter, der beobachtet, wie Brüssel seine eigenen Leitlinien zum AI Act fertigstellt, ist Adam's Law eine Vorschau auf die Art produktspezifischer Regel, die als nächstes kommen könnte: keine allgemeine Transparenzpflicht wie Artikel 50, sondern eine benannte Liste vorgeschriebener Sicherheitsverhalten für eine einzelne, besonders bindungsstarke Produktkategorie. OpenAI-Chef Sam Altman soll während der Ausarbeitung des Gesetzes direkt Kontakt zu Newsom aufgenommen haben, ein Zeichen dafür, dass die Labore selbst erwarten, dass sich diese Art von Regel weiter ausbreitet, statt eine kalifornische Eigenheit zu bleiben.
Servola Journal
Wir machen das für alle, die versuchen mit dem Schritt zu halten, was die Technologie mit unserem Leben macht. Für die Menschen, die sie bauen, und für die Menschen, denen sie widerfährt. Das Servola Journal existiert, damit das, was wir lernen, allen von ihnen gehört.
Niemand bezahlt uns dafür. Keine Werbung, keine Bezahlschranke, kostenlos für alle. Wir glauben einfach, dass das Verstehen dessen, was mit uns allen geschieht, nicht davon abhängen sollte, wer es sich leisten kann, dafür zu bezahlen.
Wenn es Ihnen heute etwas gegeben hat, sagen Sie uns, dass wir weitermachen sollen. Folgen Sie uns, hinterlassen Sie ein Like, oder schreiben Sie einen positiven Kommentar. Wir lesen jeden einzelnen, und sie sind es, was uns weitermachen lässt.
Weiterlesen: Anthropics vierter Vorfall kam mit einer Zahl: 79 zu 1 | Ein staatlicher KI-Prüfer sitzt jetzt im OpenAI-Board
