Um número, não apenas mais um aviso

A 8 de setembro, o próprio responsável de ciência de alinhamento da Anthropic colocou um número concreto no risco que a sua entidade patronal constrói todos os dias. Evan Hubinger, a responder a um colega que estava de saída, escreveu que vê pessoalmente uma probabilidade superior a 10 por cento de a IA causar a extinção humana ao longo da próxima década.

Esse colega era Jacob Coxon, um investigador de 27 anos que passou tres anos em pré-treino, primeiro na OpenAI no modelo GPT-4o, depois na Anthropic. Coxon demitiu-se na terça-feira à noite e escreveu que os dois laboratórios "correm a direito para uma superinteligência capaz de se autoaperfeiçoar, arriscando as nossas vidas", acrescentando que quem constrói esta tecnologia "acredita mesmo que pode matar-nos a todos até ao final da década". Hubinger disse que ele tinha razão e esclareceu que o risco a que se refere vem especificamente do autoaperfeiçoamento recursivo, não dos modelos comerciais que a Anthropic vende hoje.

Porque é que um número vindo de dentro soa diferente

As estimativas públicas de risco catastrófico da IA não são novidade, investigadores e ativistas externos publicam números de sondagens há anos. O que mudou a 8 de setembro foi quem falou: a pessoa a quem a própria Anthropic entregou a liderança da ciência de alinhamento, publicamente e com um número, não apenas com uma sensação.

Quando esta informação foi divulgada, a Anthropic não tinha emitido nenhuma declaração da empresa sobre o número, e Hubinger deixou explícito que refletia a sua opinião pessoal, não uma posição oficial da empresa. Essa distinção não sobrevive a uma folha de cálculo de compras. O número de um responsável de risco identificado pelo nome, por mais pessoal que seja, é exatamente o tipo de prova que uma equipa de conformidade consegue efetivamente registar.

O ângulo de conformidade que a cobertura deixou de fora

O artigo 55 do Regulamento europeu da IA obriga, desde 2 de agosto de 2025, os fornecedores de modelos de IA de finalidade geral com risco sistémico a avaliar e a documentar esses riscos, e desde 2 de agosto de 2026, pouco mais de um mes antes da publicação de Hubinger, o Gabinete da IA tem o poder formal de verificar o cumprimento.

As obrigações são concretas: avaliação normalizada do modelo, com testes adversariais incluídos, avaliação e mitigação do risco sistémico em todo o mercado da UE, comunicação de incidentes graves ao Gabinete da IA e cibersegurança adequada para o próprio modelo. Os fornecedores cuja capacidade de cálculo de treino ultrapassa o limiar de risco sistémico da lei, o grupo em que se situam laboratórios de topo como a Anthropic, são exatamente os destinatários deste artigo. Um número de risco declarado pela pessoa que lidera o trabalho de alinhamento desse fornecedor é exatamente o tipo de risco previsível que um regulador ou um auditor vai agora procurar.

O que muda para a equipa que compra a ferramenta

No produto em si, nada muda hoje. Nenhum modelo foi retirado, nenhuma funcionalidade foi desativada, e o próprio esclarecimento de Hubinger associou a sua estimativa a um cenário futuro, não ao assistente que neste momento responde às perguntas da sua equipa.

O que deveria mudar é a documentação. Os registos de risco de fornecedores que hoje dizem algo como "preocupações de segurança de IA, em acompanhamento" podem agora citar um número com fonte, data e nome. E qualquer equipa que dependa de um único laboratório de topo para um processo central deve tratar essa dependência como um risco de concentração identificado, não como uma nota de rodapé, uma vez que o número veio de dentro do fornecedor e não de um crítico externo.

Leia a seguir: O Seu Fornecedor De IA Acabou De Receber Uma Carta De Bruxelas  |  O Relatório de Segurança da Anthropic Lista as Suas Falhas