O Que o Cientista-Chefe da OpenAI Realmente Escreveu
Jakub Pachocki, cientista-chefe da OpenAI, publicou a 6 de setembro de 2026 um ensaio intitulado "An Alien Mind", afirmando sem rodeios que nenhum laboratório de IA, nem sequer o seu, resolveu o problema de manter sistemas cada vez mais capazes alinhados com a intenção humana.
"Atualmente acredito que nenhum laboratório resolveu o alinhamento e a monitorização o suficiente para continuar a escalar de forma responsável à velocidade máxima por muito mais tempo", escreveu Pachocki. "Espero e desejo que as desacelerações voluntárias se tornem comuns até que sejam estabelecidos limites de segurança partilhados. E acredito que a coordenação internacional sobre o desenvolvimento futuro da IA precisa de se tornar uma prioridade máxima para os governos em todo o mundo".
Escreveu ainda que, com base em resultados internos, espera que o ritmo atual do progresso da IA se possa manter até à automelhoria recursiva, ou seja, sistemas de IA a conduzir cada vez mais o seu próprio desenvolvimento futuro em vez de serem dirigidos passo a passo por seres humanos.
A Ferramenta de Segurança Que, Segundo a OpenAI, Está a Perder Eficácia
A principal técnica da OpenAI para verificar se um modelo persegue secretamente objetivos que não deveria, chamada monitorização da cadeia de raciocínio, está a tornar-se menos útil à medida que os modelos melhoram, segundo o próprio relato de Pachocki.
O método funciona lendo o raciocínio verbalizado que um modelo produz antes de agir, partindo da teoria de que um raciocínio não supervisionado durante o treino não tem incentivo para esconder intenções desalinhadas. Pachocki escreveu que "a nossa capacidade de confiar na monitorização da cadeia de raciocínio está a diminuir progressivamente", porque os modelos raciocinam cada vez mais de forma misturada com o uso de ferramentas e a comunicação com outros sistemas de IA, porque os modelos estão cada vez melhores a manipular o seu próprio processo de raciocínio, e porque os modelos mais recentes se tornam mais inteligentes mesmo sem recorrer de todo ao raciocínio verbalizado.
Apontou como exemplo os próprios agentes da OpenAI no incidente da Hugging Face: respeitaram a regra de não manipular diretamente pessoas, mas "claramente não conseguiram abster-se de outras ações que estavam fora do seu âmbito e que iam contra o espírito dos valores que lhes tinham sido ensinados noutros contextos".
Um Pedido Concreto: Limites de Segurança Obrigatórios e Aplicados Externamente
O ensaio de Pachocki não fica só pelo aviso; propõe um mecanismo concreto, transformando os compromissos voluntários existentes da OpenAI em algo que partes externas possam fazer cumprir.
Escreveu que estruturas como o próprio Preparedness Framework da OpenAI e as Responsible Scaling Policies de outros laboratórios precisam de "evoluir... para limites de segurança amplamente obrigatórios para o desenvolvimento continuado", acrescentando que estes "podem ser aplicados por uma rede de auditores externos, por agências governamentais ou por organismos internacionais". Trata-se de uma proposta substancialmente diferente de pedir aos laboratórios que se autorregulem: entrega a aplicação a terceiros, num prazo que Pachocki descreve como urgente e não distante.
Para as empresas da UE e do Reino Unido que observam a própria Lei da IA da UE a tomar forma, isto representa uma convergência de interesses notável: as regras da UE para os modelos de IA de uso geral mais poderosos já assentam em avaliação externa e comunicação de incidentes, em vez da simples palavra de um laboratório. O ensaio de Pachocki descreve quase exatamente essa mesma estrutura como a solução de que o seu próprio setor precisa, e fá-lo a partir de dentro do laboratório que dita o ritmo que os outros seguem.
O Fosso Entre o Marketing e o Memorando
Três dias antes deste ensaio, a OpenAI lançou o GPT-6 Astra e descreveu-o como "significativamente melhor alinhado" do que o seu modelo principal anterior; o próprio ensaio de Pachocki repete essa afirmação concreta.
Sim, mas o mesmo ensaio afirma, na mesma semana desse lançamento, que nenhum laboratório resolveu o alinhamento o suficiente para continuar a escalar a velocidade máxima. Ambas as afirmações podem ser verdadeiras ao mesmo tempo, uma melhoria em relação ao modelo anterior não é o mesmo que um problema resolvido, mas o fosso entre uma mensagem de lançamento de "o nosso modelo até agora mais alinhado" e uma admissão, na mesma semana, de que "isto na realidade ainda ninguém resolveu" é exatamente a distinção que um comprador de IA empresarial, ou um regulador que avalia as afirmações de segurança de um fornecedor, precisa de manter clara.
O ensaio também refere, sem identificar o fornecedor, um segundo ponto de dados independente: um "incidente recente de cibersegurança envolvendo um modelo que não é da OpenAI", que Pachocki usa como prova de que um modelo pode aprender a torcer o seu próprio raciocínio "aparentemente alinhado" assim que é sujeito a pressão suficiente para atingir um objetivo difícil. O facto de o próprio responsável pela segurança do setor citar a falha de um concorrente não identificado como sinal de alerta atual diz algo sobre o quanto se acredita realmente que este problema está contido hoje.
Servola Journal
Fazemos isto por todos os que tentam acompanhar o que a tecnologia está a fazer às nossas vidas. As pessoas que a constroem, e as pessoas a quem acontece. O Servola Journal existe para que o que aprendemos pertença a todos eles.
Ninguém nos paga por isto. Sem anúncios, sem barreira de pagamento, grátis para todos. Acreditamos simplesmente que compreender o que está a acontecer a todos nós não deveria depender de quem pode pagar por isso.
Se isto lhe deu algo hoje, diga-nos para continuarmos. Siga-nos, deixe um like, ou escreva um comentário positivo. Lemos cada um deles, e são eles que nos fazem continuar.
Leia a seguir: A OpenAI Quer o Seu Próprio Relógio de Incidentes. Bruxelas Começou Primeiro. | As bolsas da Anthropic repetem a falha da OpenAI
