Et separat produkt, ikke en kontakt

OpenAI annoncerede ChatGPT for Teens den 18. august, bekræftet direkte i tv og rapporteret uafhængigt af Fox Business, Associated Press, Fast Company, CBS News og Yahoo, som alle beskriver de samme kernefunktioner. Det er ikke et indholdsfilter lagt oven på det eksisterende produkt. Brugere identificeret som mellem 13 og 17 år, enten via OpenAIs eget aldersvurderingssystem eller ved selvangivelse, ledes ind i en separat oplevelse med egne standardindstillinger: begrænsninger på selvskade, spiseforstyrrelser, seksuelt indhold og grafisk vold, samt en model tunet til at henvise en teenager i knibe til en person, de har tillid til, i stedet for at fortsætte en skadelig samtale.

To strukturelle funktioner skiller sig ud. Study Mode, der guider en elev med spørgsmål og trin i stedet for at give et færdigt svar, er slået til som standard i Study Hours i stedet for noget, en teenager selv skal aktivere. Og Quiet Hours gør ChatGPT helt utilgængelig i fastsatte tidsrum, en begrænsning uden sidestykke på voksenniveauet.

Tidsgrænser bygget ind i produktet, ikke overladt til en forælder

Den anden nye mekanik er en brugspåmindelse: efter 90 minutters aktiv brug inden for et tretimersvindue foreslår teenkontoen en pause. Kombineret med Quiet Hours flytter dette skærmtidsstyring fra noget, en forælder konfigurerer i en separat app, til noget, AI-produktet selv håndhæver som standard på sit eget kontoniveau. Forældrekontokobling findes oven i dette, til tilsyn, men standardindstillingerne afhænger ikke af, at en forælder sætter dem korrekt op.

Denne lancering sker ikke i et vakuum. Hvert medie, der rapporterede om den, nævnte samme baggrund: aktive retssager og regulatorisk opmærksomhed på, hvordan chatbots håndterer sårbare unge brugere, herunder sager hvor en familie har hævdet, at en chatbot bidrog til skade på en teenager. OpenAIs egen fremstilling, i tv-annonceringen, koblede lanceringen direkte til den opmærksomhed.

Det referencepunkt, dette sætter for ethvert andet AI-produkt

De fleste virksomheder, der læser dette, bygger ikke en chatbot til teenagere. Men et voksende antal indlejrer generel AI, ofte de samme underliggende modeller, i produkter, som et generelt forbrugerpublikum kan nå, herunder mindreårige, uanset om det var den tilsigtede bruger. At OpenAI leverer aldersopdeling, standardaktiverede sikkerhedstilstande, indbyggede brugsgrænser og forældrekobling som en samlet funktionspakke ændrer det grundlag, en domstol, en tilsynsmyndighed eller en sagsøgers advokat kan pege på, når de spørger, hvordan en ansvarlig implementering bør se ud.

Det er det praktiske spørgsmål, det er værd at stille internt: hvis en stor del af AI-sikkerhedspraksis for mindreårige nu defineres af, hvad den største udbyder leverer som standard, ser dit eget produkts håndtering af alder, indholdsgrænser og brugssikring da gennemtænkt ud, eller ser det ud som det, der blev tilbage, efter man byggede udelukkende til voksne?