Un produit à part, pas un simple interrupteur
OpenAI a annoncé ChatGPT for Teens le 18 août, confirmé en direct à la télévision et rapporté de façon indépendante par Fox Business, l'Associated Press, Fast Company, CBS News et Yahoo, tous décrivant les mêmes caractéristiques principales. Il ne s'agit pas d'un filtre de contenu superposé au produit existant. Les utilisateurs identifiés comme âgés de 13 à 17 ans, soit par le système d'estimation d'âge d'OpenAI lui-même, soit par auto-déclaration, sont orientés vers une expérience distincte avec ses propres réglages par défaut: restrictions sur l'automutilation, les troubles alimentaires, le contenu sexuel et la violence graphique, et un modèle ajusté pour orienter un adolescent en difficulté vers une personne de confiance plutôt que de poursuivre une conversation nuisible.
Deux caractéristiques structurelles se distinguent. Le Study Mode, qui guide un élève par des questions et des étapes plutôt que de livrer une réponse toute faite, est activé par défaut pendant les Study Hours, plutôt que d'être quelque chose qu'un adolescent doit activer lui-même. Et les Quiet Hours rendent ChatGPT totalement indisponible pendant des plages horaires fixées, une restriction sans équivalent au niveau adulte.
Des limites de temps intégrées au produit, pas laissées à un parent
L'autre nouveau mécanisme est un rappel d'utilisation: après 90 minutes d'utilisation active dans une fenêtre de trois heures, le compte adolescent suggère une pause. Combiné aux Quiet Hours, cela déplace la gestion du temps d'écran d'un réglage qu'un parent configure dans une application séparée vers quelque chose que le produit d'IA lui-même impose par défaut sur son propre niveau de compte. La liaison de compte parental existe en plus de cela, pour la supervision, mais les réglages par défaut ne dépendent pas d'un parent qui les configure correctement.
Ce lancement ne se produit pas dans le vide. Chaque média l'ayant couvert a relevé le même contexte: des poursuites actives et une attention réglementaire sur la façon dont les chatbots traitent les utilisateurs adolescents vulnérables, y compris des cas où une famille a allégué qu'un chatbot avait contribué au préjudice subi par un adolescent. Le cadrage d'OpenAI elle-même, dans son annonce télévisée, a directement relié le lancement à cet examen.
Le point de référence que cela fixe pour tout autre produit d'IA
La plupart des entreprises qui lisent ceci ne construisent pas de chatbot pour adolescents. Mais un nombre croissant intègre de l'IA généraliste, souvent les mêmes modèles sous-jacents, dans des produits qu'un public grand public peut atteindre, y compris des mineurs, que ce soit ou non l'utilisateur visé. Le fait qu'OpenAI livre la segmentation par âge, des modes de sécurité activés par défaut, des limites d'utilisation intégrées et la liaison parentale comme un ensemble de fonctionnalités groupées change la base à laquelle un tribunal, un régulateur ou l'avocat d'un plaignant peut se référer en demandant à quoi doit ressembler un déploiement responsable.
C'est la question pratique qu'il vaut la peine de se poser en interne: si une part importante de la pratique de sécurité de l'IA pour les mineurs est désormais définie par ce que le plus grand fournisseur livre par défaut, la gestion des âges, les limites de contenu et les garde-fous d'utilisation de votre propre produit paraissent-ils délibérés, ou paraissent-ils être ce qui restait après avoir construit en pensant uniquement aux adultes?
À lire ensuite: 1 Milliard d'Utilisateurs, ChatGPT Devient Illimité | Votre fournisseur d'IA aura un auditeur européen
