Un producto separado, no un interruptor

OpenAI anunció ChatGPT for Teens el 18 de agosto, confirmado en directo por televisión y recogido de forma independiente por Fox Business, Associated Press, Fast Company, CBS News y Yahoo, todos describiendo las mismas características centrales. Esto no es un filtro de contenido superpuesto al producto existente. Los usuarios identificados como de entre 13 y 17 años, ya sea por el propio sistema de estimación de edad de OpenAI o por autodeclaración, son dirigidos a una experiencia distinta con sus propios valores por defecto: restricciones sobre autolesiones, trastornos alimentarios, contenido sexual y violencia gráfica, y un modelo ajustado para redirigir a un adolescente en apuros hacia una persona de confianza en lugar de continuar una conversación dañina.

Dos características estructurales destacan. El Study Mode, que guía a un estudiante con preguntas y pasos en lugar de entregarle una respuesta acabada, está activado por defecto durante las Study Hours, en vez de ser algo que un adolescente tenga que activar. Y las Quiet Hours dejan ChatGPT completamente no disponible durante franjas horarias fijadas, una restricción sin equivalente en el nivel para adultos.

Límites de tiempo integrados en el producto, no dejados a un padre

El otro mecanismo nuevo es un aviso de uso: tras 90 minutos de uso activo dentro de una ventana de tres horas, la cuenta de adolescente sugiere un descanso. Combinado con las Quiet Hours, esto traslada la gestión del tiempo de pantalla de algo que un padre configura en una aplicación aparte a algo que el propio producto de IA impone por defecto en su nivel de cuenta. La vinculación de cuentas parentales existe por encima de esto, para supervisión, pero los valores por defecto no dependen de que un padre los configure correctamente.

Este lanzamiento no ocurre en el vacío. Cada medio que lo cubrió señaló el mismo contexto: demandas activas y atención regulatoria sobre cómo gestionan los chatbots a los usuarios adolescentes vulnerables, incluidos casos en los que una familia ha alegado que un chatbot contribuyó al daño de un adolescente. El propio planteamiento de OpenAI, en su anuncio televisivo, vinculó el lanzamiento directamente a ese escrutinio.

El punto de referencia que esto marca para cualquier otro producto de IA

La mayoría de las empresas que leen esto no están construyendo un chatbot para adolescentes. Pero un número creciente integra IA de propósito general, a menudo los mismos modelos subyacentes, en productos a los que puede acceder un público consumidor general, incluidos menores, sea o no ese el usuario previsto. Que OpenAI lance segmentación por edad, modos de seguridad activados por defecto, límites de uso integrados y vinculación parental como un conjunto de funciones empaquetado cambia la base a la que un tribunal, un regulador o el abogado de un demandante pueden señalar al preguntar cómo debe verse un despliegue responsable.

Esa es la pregunta práctica que vale la pena hacerse internamente: si una parte importante de la práctica de seguridad de la IA para menores la está definiendo ahora lo que el mayor proveedor lanza por defecto, ¿el manejo de edades, los límites de contenido y las salvaguardas de uso de su propio producto parecen deliberados, o parecen lo que quedó tras construir pensando solo en adultos?

Leer a continuación: 1000 Millones de Usuarios: ChatGPT Sin Límite  |  Su proveedor de IA tendrá auditor europeo