Ein eigenes Produkt, kein Schalter

OpenAI kündigte ChatGPT for Teens am 18. August an, live im Fernsehen bestätigt und unabhängig berichtet von Fox Business, der Associated Press, Fast Company, CBS News und Yahoo, die alle dieselben Kernmerkmale beschreiben. Das ist kein Inhaltsfilter, der über das bestehende Produkt gelegt wird. Nutzer, die als 13 bis 17 Jahre alt erkannt werden, entweder durch OpenAIs eigenes Altersschätzsystem oder durch Selbstangabe, werden in eine eigenständige Erfahrung mit eigenen Standardeinstellungen geleitet: Einschränkungen bei Selbstverletzung, Essstörungen, sexuellen Inhalten und drastischer Gewaltdarstellung, sowie ein Modell, das darauf trainiert ist, einen belasteten Teenager an eine Vertrauensperson zu verweisen, statt ein schädliches Gespräch fortzusetzen.

Zwei strukturelle Merkmale stechen hervor. Der Study Mode, der einen Schüler mit Fragen und Schritten anleitet statt eine fertige Antwort zu liefern, ist während der Study Hours standardmäßig aktiv, statt etwas, das ein Teenager selbst einschalten muss. Und Quiet Hours machen ChatGPT während festgelegter Zeitfenster komplett nicht verfügbar, eine Einschränkung ohne Entsprechung in der Erwachsenenstufe.

Zeitlimits im Produkt eingebaut, nicht den Eltern überlassen

Der andere neue Mechanismus ist ein Nutzungshinweis: Nach 90 Minuten aktiver Nutzung innerhalb eines Dreistundenfensters fordert das Teen-Konto zu einer Pause auf. Zusammen mit den Quiet Hours verschiebt das die Bildschirmzeit-Steuerung von etwas, das Eltern in einer separaten App einrichten, zu etwas, das das KI-Produkt selbst standardmäßig auf seiner eigenen Kontostufe durchsetzt. Eltern-Verknüpfung kommt zur Aufsicht noch obendrauf, aber die Standardeinstellungen hängen nicht davon ab, dass Eltern sie korrekt einrichten.

Dieser Start geschieht nicht im luftleeren Raum. Jedes berichtende Medium erwähnte denselben Hintergrund: laufende Klagen und regulatorische Aufmerksamkeit dafür, wie Chatbots mit gefährdeten jugendlichen Nutzern umgehen, darunter Fälle, in denen eine Familie behauptet, ein Chatbot habe zum Schaden eines Teenagers beigetragen. OpenAIs eigene Darstellung in der Fernsehankündigung verband den Start direkt mit dieser Aufmerksamkeit.

Der Bezugspunkt, den das für jedes andere KI-Produkt setzt

Die meisten Unternehmen, die dies lesen, bauen keinen Chatbot für Teenager. Aber eine wachsende Zahl bindet allgemeine KI, oft dieselben zugrunde liegenden Modelle, in Produkte ein, die ein allgemeines Verbraucherpublikum erreichen können, einschließlich Minderjähriger, unabhängig davon, ob das die beabsichtigte Zielgruppe war. Dass OpenAI Altersstufen, standardmäßig aktive Sicherheitsmodi, eingebaute Nutzungslimits und Eltern-Verknüpfung als gebündeltes Funktionspaket ausliefert, verändert die Grundlage, auf die ein Gericht, eine Aufsichtsbehörde oder ein Klägeranwalt verweisen kann, wenn gefragt wird, wie eine verantwortungsvolle Bereitstellung aussieht.

Das ist die praktische Frage, die es intern zu stellen lohnt: Wenn ein großer Teil der KI-Sicherheitspraxis für Minderjährige nun davon bestimmt wird, was der größte Anbieter standardmäßig ausliefert, wirkt der Umgang des eigenen Produkts mit Altersstufen, Inhaltsgrenzen und Nutzungssicherungen dann durchdacht, oder wirkt er wie das, was übrig blieb, nachdem für Erwachsene gebaut wurde.

Weiterlesen: 1 Milliarde Nutzer, ChatGPT wird für alle unbegrenzt  |  Ihr KI-Anbieter bekommt bald einen EU-Prüfer