Een apart product, geen schakelaar

OpenAI kondigde ChatGPT for Teens aan op 18 augustus, live op tv bevestigd en onafhankelijk gemeld door Fox Business, Associated Press, Fast Company, CBS News en Yahoo, die allemaal dezelfde kernfuncties beschrijven. Dit is geen contentfilter bovenop het bestaande product. Gebruikers die als 13 tot 17 jaar worden geïdentificeerd, hetzij door OpenAI's eigen leeftijdsschattingssysteem, hetzij door zelfopgave, worden naar een aparte ervaring geleid met eigen standaardinstellingen: beperkingen op zelfbeschadiging, eetstoornissen, seksuele content en grafisch geweld, en een model afgestemd om een worstelende tiener door te verwijzen naar een vertrouwenspersoon in plaats van een schadelijk gesprek voort te zetten.

Twee structurele kenmerken vallen op. Study Mode, dat een leerling begeleidt met vragen en stappen in plaats van een kant-en-klaar antwoord te geven, staat standaard aan tijdens Study Hours, in plaats van iets dat een tiener zelf moet inschakelen. En Quiet Hours maken ChatGPT volledig onbeschikbaar tijdens vastgestelde tijdvensters, een beperking zonder equivalent op het volwassenenniveau.

Tijdslimieten ingebouwd in het product, niet overgelaten aan een ouder

Het andere nieuwe mechanisme is een gebruiksmelding: na 90 minuten actief gebruik binnen een venster van drie uur stelt het tieneraccount een pauze voor. Samen met Quiet Hours verschuift dit het beheer van schermtijd van iets dat een ouder in een aparte app instelt naar iets dat het AI-product zelf standaard afdwingt op zijn eigen accountniveau. Ouderkoppeling bestaat daar bovenop, voor toezicht, maar de standaardinstellingen hangen niet af van een ouder die ze correct instelt.

Deze lancering gebeurt niet in een vacuum. Elk medium dat erover berichtte, noemde dezelfde context: actieve rechtszaken en toezichthoudende aandacht voor hoe chatbots omgaan met kwetsbare tienergebruikers, waaronder zaken waarin een familie heeft beweerd dat een chatbot heeft bijgedragen aan schade bij een tiener. OpenAI's eigen framing, in de tv-aankondiging, koppelde de lancering rechtstreeks aan dat toezicht.

Het referentiepunt dat dit zet voor elk ander AI-product

De meeste bedrijven die dit lezen, bouwen geen chatbot voor tieners. Maar een groeiend aantal bouwt algemene AI, vaak dezelfde onderliggende modellen, in producten die een algemeen consumentenpubliek kunnen bereiken, inclusief minderjarigen, ongeacht of dat de beoogde gebruiker was. Dat OpenAI leeftijdssegmentatie, standaard ingeschakelde veiligheidsmodi, ingebouwde gebruikslimieten en ouderkoppeling als een gebundelde functieset uitlevert, verandert de basis waarnaar een rechtbank, een toezichthouder of de advocaat van een eiser kan verwijzen bij de vraag hoe een verantwoorde inzet eruitziet.

Dat is de praktische vraag die het intern waard is om te stellen: als een groot deel van de AI-veiligheidspraktijk voor minderjarigen nu wordt bepaald door wat de grootste leverancier standaard uitlevert, oogt de manier waarop uw eigen product met leeftijden, contentgrenzen en gebruikswaarborgen omgaat dan doordacht, of oogt het als wat overbleef nadat er alleen voor volwassenen was gebouwd?

Lees hierna: 1 Miljard Gebruikers, ChatGPT Wordt Onbeperkt  |  Uw AI-leverancier krijgt een Europese auditor