Un prodotto separato, non un interruttore

OpenAI ha annunciato ChatGPT for Teens il 18 agosto, confermato in diretta televisiva e riportato in modo indipendente da Fox Business, Associated Press, Fast Company, CBS News e Yahoo, tutti concordi sulle stesse caratteristiche principali. Non si tratta di un filtro dei contenuti sovrapposto al prodotto esistente. Gli utenti identificati come di età compresa tra 13 e 17 anni, tramite il sistema di stima dell'età di OpenAI oppure per autodichiarazione, vengono indirizzati verso un'esperienza distinta con impostazioni predefinite proprie: restrizioni su autolesionismo, disturbi alimentari, contenuti sessuali e violenza esplicita, e un modello calibrato per indirizzare un adolescente in difficoltà verso una persona di fiducia invece di proseguire una conversazione dannosa.

Due caratteristiche strutturali si distinguono. Lo Study Mode, che guida uno studente con domande e passaggi invece di fornire una risposta già pronta, è attivo di default durante le Study Hours, invece di essere qualcosa che un adolescente deve attivare da sé. E le Quiet Hours rendono ChatGPT del tutto non disponibile in fasce orarie definite, una restrizione senza equivalente nel livello per adulti.

Limiti di tempo integrati nel prodotto, non lasciati a un genitore

L'altro nuovo meccanismo è un promemoria d'uso: dopo 90 minuti di uso attivo in una finestra di tre ore, l'account teen suggerisce una pausa. Insieme alle Quiet Hours, questo sposta la gestione del tempo davanti allo schermo da qualcosa che un genitore configura in un'app separata a qualcosa che il prodotto IA stesso impone di default sul proprio livello di account. Il collegamento dell'account dei genitori si aggiunge sopra a questo, per la supervisione, ma le impostazioni predefinite non dipendono dal fatto che un genitore le configuri correttamente.

Questo lancio non avviene nel vuoto. Ogni testata che lo ha riportato ha segnalato lo stesso contesto: cause legali attive e attenzione regolatoria su come i chatbot gestiscono gli utenti adolescenti vulnerabili, inclusi casi in cui una famiglia ha sostenuto che un chatbot abbia contribuito al danno subito da un adolescente. L'inquadramento dato dalla stessa OpenAI, nel suo annuncio televisivo, ha collegato direttamente il lancio a quel controllo.

Il punto di riferimento che questo fissa per ogni altro prodotto IA

La maggior parte delle aziende che legge questo articolo non sta costruendo un chatbot per adolescenti. Ma un numero crescente integra IA generica, spesso gli stessi modelli sottostanti, in prodotti che un pubblico di consumatori generico può raggiungere, inclusi i minori, che fosse o meno quello l'utente previsto. Il fatto che OpenAI rilasci segmentazione per età, modalità di sicurezza attive di default, limiti d'uso integrati e collegamento dei genitori come un pacchetto di funzionalità cambia la base a cui un tribunale, un regolatore o l'avvocato di un querelante possono fare riferimento chiedendo come dovrebbe apparire un'implementazione responsabile.

Questa è la domanda pratica che vale la pena porsi internamente: se una parte importante della prassi di sicurezza IA per i minori viene ora definita da ciò che il maggiore fornitore rilascia di default, la gestione delle età, i limiti dei contenuti e le salvaguardie d'uso del proprio prodotto sembrano deliberati, oppure sembrano ciò che è rimasto dopo aver costruito pensando solo agli adulti?

Da leggere ora: 1 Miliardo di Utenti, ChatGPT Gratis Ora Illimitato  |  Il vostro fornitore di IA avrà un revisore UE