Um produto separado, não um interruptor

A OpenAI anunciou o ChatGPT for Teens a 18 de agosto, confirmado em direto na televisão e noticiado de forma independente pela Fox Business, Associated Press, Fast Company, CBS News e Yahoo, todos descrevendo as mesmas características centrais. Isto não é um filtro de conteúdo sobreposto ao produto existente. Os utilizadores identificados como tendo entre 13 e 17 anos, seja pelo próprio sistema de estimativa de idade da OpenAI, seja por autodeclaração, são encaminhados para uma experiência distinta com as suas próprias predefinições: restrições sobre autolesão, distúrbios alimentares, conteúdo sexual e violência gráfica, e um modelo ajustado para encaminhar um adolescente em dificuldade para uma pessoa de confiança em vez de continuar uma conversa prejudicial.

Duas características estruturais destacam-se. O Study Mode, que guia um estudante com perguntas e etapas em vez de entregar uma resposta pronta, está ativado por defeito durante as Study Hours, em vez de ser algo que um adolescente tenha de ativar. E as Quiet Hours tornam o ChatGPT totalmente indisponível durante janelas horárias definidas, uma restrição sem equivalente no nível para adultos.

Limites de tempo incorporados no produto, não deixados a um pai

O outro novo mecanismo é um aviso de utilização: após 90 minutos de utilização ativa numa janela de três horas, a conta de adolescente sugere uma pausa. Combinado com as Quiet Hours, isto desloca a gestão do tempo de ecrã de algo que um pai configura numa aplicação separada para algo que o próprio produto de IA impõe por defeito no seu próprio nível de conta. A ligação de conta parental existe para além disto, para supervisão, mas as predefinições não dependem de um pai as configurar corretamente.

Este lançamento não acontece no vazio. Todos os órgãos de comunicação que o noticiaram referiram o mesmo contexto: processos judiciais ativos e atenção regulatória sobre a forma como os chatbots lidam com utilizadores adolescentes vulneráveis, incluindo casos em que uma família alegou que um chatbot contribuiu para o dano sofrido por um adolescente. O próprio enquadramento da OpenAI, no seu anúncio televisivo, ligou o lançamento diretamente a esse escrutínio.

O ponto de referência que isto fixa para qualquer outro produto de IA

A maioria das empresas que lê isto não está a construir um chatbot para adolescentes. Mas um número crescente integra IA de uso geral, muitas vezes os mesmos modelos subjacentes, em produtos que um público consumidor geral pode alcançar, incluindo menores, seja ou não esse o utilizador previsto. O facto de a OpenAI lançar segmentação por idade, modos de segurança ativados por defeito, limites de utilização incorporados e ligação parental como um conjunto de funcionalidades empacotado muda a base a que um tribunal, um regulador ou o advogado de um demandante pode recorrer ao perguntar como deve ser uma implementação responsável.

Essa é a questão prática que vale a pena colocar internamente: se uma parte importante da prática de segurança de IA para menores é agora definida pelo que o maior fornecedor lança por defeito, a forma como o seu próprio produto trata idades, limites de conteúdo e salvaguardas de utilização parece deliberada, ou parece o que sobrou depois de se ter construído a pensar apenas em adultos?

Leia a seguir: Mil Milhões de Utilizadores: ChatGPT Sem Limite  |  O seu fornecedor de IA vai ter auditor europeu