En separat produkt, inte en brytare
OpenAI meddelade ChatGPT for Teens den 18 augusti, bekräftad direkt i tv och rapporterad oberoende av Fox Business, Associated Press, Fast Company, CBS News och Yahoo, som alla beskriver samma kärnfunktioner. Det är inget innehållsfilter lagt ovanpå den befintliga produkten. Användare identifierade som mellan 13 och 17 år, antingen via OpenAIs eget åldersuppskattningssystem eller genom självangivelse, leds in i en separat upplevelse med egna standardinställningar: begränsningar kring självskada, ätstörningar, sexuellt innehåll och grafiskt våld, samt en modell inställd på att hänvisa en tonåring i kris till en betrodd person i stället för att fortsätta en skadlig konversation.
Två strukturella funktioner sticker ut. Study Mode, som vägleder en elev med frågor och steg i stället för att lämna ett färdigt svar, är påslaget som standard under Study Hours, i stället för något en tonåring själv måste aktivera. Och Quiet Hours gör ChatGPT helt otillgängligt under fastställda tidsfönster, en begränsning utan motsvarighet på vuxennivån.
Tidsgränser inbyggda i produkten, inte överlämnade till en förälder
Den andra nya mekaniken är en användarpåminnelse: efter 90 minuters aktiv användning inom ett tretimmarsfönster föreslår tonårskontot en paus. Tillsammans med Quiet Hours flyttar detta hanteringen av skärmtid från något en förälder konfigurerar i en separat app till något AI-produkten själv upprätthåller som standard på sin egen kontonivå. Föräldrakontokoppling finns utöver detta, för tillsyn, men standardinställningarna beror inte på att en förälder ställer in dem korrekt.
Denna lansering sker inte i ett vakuum. Varje medie som rapporterade om den nämnde samma bakgrund: aktiva rättstvister och regulatorisk uppmärksamhet kring hur chatbottar hanterar sårbara tonårsanvändare, inklusive fall där en familj har hävdat att en chatbot bidrog till skada på en tonåring. OpenAIs egen framställning, i tv-tillkännagivandet, kopplade lanseringen direkt till den granskningen.
Referenspunkten detta sätter för varje annan AI-produkt
De flesta företag som läser detta bygger inte en chatbot för tonåringar. Men ett växande antal bäddar in generell AI, ofta samma underliggande modeller, i produkter som en generell konsumentpublik kan nå, inklusive minderåriga, oavsett om det var den avsedda användaren. Att OpenAI levererar åldersindelning, standardaktiverade säkerhetslägen, inbyggda användningsgränser och föräldrakoppling som ett samlat funktionspaket förändrar den grund som en domstol, en tillsynsmyndighet eller en kärandes advokat kan peka på när de frågar hur en ansvarsfull driftsättning bör se ut.
Det är den praktiska frågan som är värd att ställa internt: om en stor del av AI-säkerhetspraxisen för minderåriga nu definieras av vad den största leverantören levererar som standard, ser då din egen produkts hantering av ålder, innehållsgränser och användningsskydd genomtänkt ut, eller ser det ut som det som blev kvar efter att man byggt enbart för vuxna?
Läs vidare: 1 Miljard Användare, ChatGPT Blir Obegränsat | Din AI-leverantör får snart en europeisk revisor
