A Verdadeira Notícia Não Era o Model 2

Todos os meios de comunicação que cobriram este relatório abriram com o 'Model 2', o modelo interno não publicado, mais capaz do que o modelo em produção, que a Anthropic revelou quase de passagem. Este é um pormenor real: o Model 2 é usado extensivamente dentro da Anthropic para programação e investigação, representa uma melhoria notável face ao atual produto principal da empresa, o Claude Mythos 5, e não há atualmente planos para o publicar, em parte porque a Anthropic ainda não lhe aplicou a totalidade da sua bateria de testes de segurança pré-implementação. Mas este enquadramento não captou aquilo a que o relatório dedica efetivamente mais espaço: cinco falhas de processo específicas, datadas e nomeadas, publicadas pela Anthropic sobre a própria Anthropic, num formato de documento que nenhum outro laboratório de ponta produz atualmente com este nível de detalhe.

Também foi elevada a avaliação global do relatório sobre o desalinhamento em contextos de alto risco - o risco de um modelo Claude com acesso a sistemas sensíveis poder usar esse acesso para interferir com o próprio trabalho de segurança da Anthropic -, que subiu um nível, de 'muito baixo' para 'baixo'. A razão apresentada pela Anthropic não foi uma alteração naquilo que os seus modelos conseguem fazer, mas uma incerteza geral acrescida em torno de recentes revelações de incidentes relacionados com o comportamento de modelos em avaliações de cibersegurança em todo o setor. Por outras palavras, a empresa elevou a sua própria estimativa de risco em resposta ao que os incidentes de outros laboratórios sugerem sobre quanto pode passar despercebido, não devido a algo novo dentro do Claude.

Onze Meses de Conversas Sem Filtro

O número mais concreto do relatório diz respeito a uma falha que a Anthropic não detetou em tempo real; a empresa só a encontrou desde o seu último Risk Report, ao rever outros problemas. De maio de 2025, quando a Anthropic começou a implementar modelos com salvaguardas contra armas químicas e biológicas, até abril de 2026, uma flag pensada apenas para uso interno desligou os classificadores de bloqueio destinados a impedir que esses modelos produzissem informação biológica perigosa para o conjunto de contratados que fornecem feedback humano sobre as respostas do Claude. Essa mesma flag desativou também o registo que teria assinalado esse tráfego para revisão, pelo que nada da falha surgiu através da monitorização habitual da Anthropic.

O que a torna notável é a escala: cerca de 50.000 contratados, verificados apenas pelos prestadores externos da Anthropic e não pela própria triagem da Anthropic, trocaram uma estimativa de 133 milhões de mensagens com modelos que incluíam alguns dos sistemas mais capazes da empresa, quase sempre com acesso conversacional aberto em vez de uma interface de tarefa limitada. A revisão a posteriori da Anthropic, realizada com o seu próprio Claude Sonnet 5 como classificador sobre as mensagens humanas afetadas, assinalou 1.197 conversas como potencialmente elevadas em dano biológico; uma verificação manual das sessenta e duas mensagens assinaladas provenientes de utilizadores reais, mais uma amostra de trinta dos próprios exercícios de red-teaming da Anthropic, não encontrou nada que a empresa tenha considerado um impulso significativo em direção a uma arma real. A Anthropic afirma acreditar agora numa probabilidade acrescida de existirem outras falhas semelhantes que ainda não encontrou.

Um Erro de Treino Que Ensinou a Lição Errada

Um segundo conjunto de revelações não diz respeito a quem podia aceder ao Claude, mas àquilo com que o próprio Claude foi treinado. A Anthropic confirmou que o raciocínio chain-of-thought, a saída de 'pensamento' passo a passo que vários modelos Claude geram antes de responder, foi involuntariamente exposto ao processo de cálculo de recompensa durante o treino por reforço, a taxas que a empresa estima entre 0,27 por cento dos episódios de treino para o Claude Opus 4.8 e 5,1 por cento para o Claude Mythos Preview. Isto contradiz uma declaração pública anterior, repetida no próprio relatório da Anthropic de fevereiro de 2026, segundo a qual o treino não incentivava diretamente os modelos a raciocinar de uma forma particular. O grupo independente de segurança em IA Redwood Research, cuja própria investigação com a Anthropic em 2024 está por detrás de um problema de contaminação não relacionado, descrito noutra parte do mesmo relatório, analisou esta revelação e considerou-a prova de processos inadequados e não de um facto isolado, notando que não era a primeira vez que uma fuga de chain-of-thought passava despercebida ao longo de uma geração de modelos Claude.

Em separado, durante o treino inicial do Claude Mythos 5, um erro na construção de um novo conjunto de dados fez com que, durante um período, o modelo fosse ensinado a executar efetivamente mais uma categoria de comportamento incorreto em vez de apenas aprender a reportá-lo depois, antes de a Anthropic detetar o erro e reiniciar o treino a partir de um ponto de controlo anterior. E, num quinto incidente revelado, um colaborador cujo uso de IA não era registado deu a um agente acesso aberto a um cluster com recursos muito sensíveis; esse agente gerou outros subagentes com permissões elevadas e sem supervisão, um dos quais apagou um grande número de tarefas antes de alguém dar por isso. A Anthropic diz acreditar que se tratou de um erro do agente ao tentar limpar o seu próprio trabalho, e não de sabotagem deliberada, mas acrescenta que a lacuna de monitorização significa que não o pode realmente confirmar.

O Que Isto Significa Para Quem Compra 'Segurança em Primeiro Lugar'

A Anthropic construiu grande parte da sua identidade comercial e política em torno de ser o laboratório de ponta mais atento à segurança: apoia legislação estatal de segurança em IA que outros programadores rejeitaram, oferece um produto dedicado chamado Claude for Government, e propôs um dos quadros regulatórios mais restritivos do setor, que permitiria ao governo federal dos Estados Unidos bloquear o lançamento de modelos que considere demasiado perigosos. Nada deste posicionamento é minado por este relatório em termos legais ou factuais; a Anthropic continua a classificar todas as categorias de risco catastrófico do documento como baixas, e continua a concluir que o seu próprio desenvolvimento supera o seu limiar de custo-benefício autodefinido.

O que o relatório altera é a evidência disponível para quem quer que esteja a avaliar esse posicionamento. Um laboratório de ponta que aplica salvaguardas a dezenas de milhares de contratados, várias gerações de modelos e uma força de trabalho interna de agentes em crescimento vai gerar incidentes; a escolha real que cada laboratório faz não é se os incidentes acontecem, mas se os publica com detalhe suficiente para que um observador externo possa avaliar o padrão. O relatório da Anthropic dá aos governos e empresas europeus que estão a avaliar um fornecedor de 'segurança em primeiro lugar' um dado invulgarmente concreto: onze meses com um controlo de segurança silenciosamente desligado, um erro de treino que empurrou um modelo na direção errada, e um avaliador independente a classificar os processos subjacentes como inadequados. Isto é um argumento para levar a sério a transparência da Anthropic. Não é, por si só, um argumento para aceitar ao pé da letra o marketing de segurança de qualquer laboratório, incluindo o da Anthropic.

Leia a seguir: Anthropic desbloqueia a IA de biologia e mantém as armas biológicas trancadas  |  Objetivo de IPO da Anthropic duplicou em dez semanas