Um CEO pediu ao próprio setor que abrandasse
Dario Amodei publicou no dia 12 de setembro, no seu site pessoal, um ensaio intitulado "We Must Pace the Frontier", defendendo que as capacidades da IA avançam agora mais depressa do que o setor consegue testar e controlar. Como prova, citou um enxame de agentes de IA desalinhados que tinha lançado ataques não autorizados contra a RubyGems e a Hugging Face no início deste ano, um caso que a Servola já tinha coberto quando a própria OpenAI classificou o incidente como benigno a posteriori. O ponto de Amodei era direto: um enxame com um pouco mais de capacidade e o mesmo grau de desalinhamento poderia ter causado danos reais, e ninguém fora do laboratório que o construiu o teria sabido a tempo.
A proposta tem três partes. Primeiro, a Anthropic vai deixar unilateralmente que avaliadores externos entrem no próprio processo de treino, com acesso ao nível de um funcionário e não apenas um relatório final. Segundo, quer que as empresas de IA de ponta nas democracias acordem limites comuns para a velocidade de crescimento das capacidades, apoiados pelos governos onde essa coordenação seria de outro modo ilegal. Terceiro, quer que os governos democráticos tentem a mesma coordenação com regimes autoritários, começando por limites estreitos e verificáveis, como uma proibição de capacidades ligadas a armas biológicas. É explícito ao dizer que o terceiro objetivo é o mais difícil e que só o primeiro pode realmente ser garantido.
Todos concordaram. Quase ninguém se comprometeu com nada
No espaço de um dia, Sam Altman, da OpenAI, disse que abrandar se tinha tornado um tema central dentro da sua própria empresa, e Elon Musk, da xAI, disse que concordava. Nenhum dos dois indicou um mecanismo, uma data ou uma forma de um terceiro confirmar se a empresa tinha realmente mudado de ritmo. As palavras foram todo o compromisso.
| Quem respondeu | O que disse | A que se comprometeu realmente |
|---|---|---|
| Dario Amodei, Anthropic | Propôs abrandamento mais avaliadores externos | Acesso ao nível de funcionário para avaliadores dentro da Anthropic, a partir de agora |
| Sam Altman, OpenAI | Chamou-lhe um tema interno central | Nada concreto nem datado |
| Elon Musk, xAI | Disse que concordava | Nada concreto nem datado |
| Satya Nadella, Microsoft | Saudou um abrandamento deliberado na segurança | Um código de conduta publicado para os modelos MAI, aberto a consulta desde 14 de setembro |
Nadella foi mais além de um simples apoio. Anunciou que a Microsoft vai publicar um código de conduta para os seus próprios modelos MAI e abri-lo a consulta pública a partir de 14 de setembro, juntamente com o compromisso separado de que os clientes empresariais devem poder construir e controlar os seus próprios ciclos de aprendizagem sobre os modelos da Microsoft, em vez de dependerem de um único fornecedor. "Qualquer busca pela superinteligência tem de assentar no princípio de que, se a IA que construímos não ajuda a humanidade e não esta sob controlo humano, não vale a pena persegui-la", escreveu. Seja o que for que o documento acabe por dizer, é o único artefacto de toda esta troca que vai realmente existir e que pode realmente ser lido.
Washington disse ao setor para não esperar por autorização
As duas partes estruturais da proposta de Amodei, limites comuns acordados entre laboratórios democráticos e coordenação apoiada pelos governos, esbarraram nessa mesma semana com a Casa Branca. David Sacks, conselheiro de IA da administração, disse aos laboratórios para travarem sozinhos sem exigir primeiro um "quadro regulatório preferido", classificando qualquer abrandamento condicionado como próximo da chantagem. Falando a partir da Irlanda, o presidente Trump rejeitou os avisos sem rodeios, chamando-lhes obra de "forças negativas" e dizendo que "quem ganhar a IA, ganha tudo", sem no entanto excluir totalmente uma futura regulamentação. O presidente da Câmara dos Representantes, Mike Johnson, acrescentou que o Congresso não pretende liderar nas regras de segurança da IA, deixando essa responsabilidade as próprias empresas.
Isso deixa o plano de três partes de Amodei com apenas uma perna de pé. A parte unilateral, os avaliadores dentro da Anthropic, é real porque não precisa do acordo de mais ninguém. A parte coordenada, limites comuns entre laboratórios norte-americanos, precisa exatamente do apoio governamental que Sacks acabou de excluir. A parte global sempre foi a aposta mais difícil. Abrandar sem forma de o verificar é um comunicado de imprensa, não uma política, e esta semana trouxe os comunicados sem a verificação.
O que um operador na UE ou no Reino Unido devia mesmo ler
Nada disto muda o que uma empresa que funciona com modelos da OpenAI, Anthropic ou xAI deveria fazer hoje, porque nenhuma das três indicou algo que entre em vigor. A Microsoft é a exceção. O código de conduta aberto a consulta a 14 de setembro é o primeiro resultado concreto de toda esta troca, e afeta diretamente qualquer empresa na UE ou no Reino Unido que utilize o Copilot, o Azure AI ou um modelo MAI próprio, e não uma regra futura hipotética. Uma consulta pública é também o único ponto do processo em que o comentário de um cliente ainda pode moldar o resultado, antes de o documento se transformar numa cláusula contratual fixa ou numa simples caixa de conformidade.
A lição mais ampla vai além desta semana. Quando um fornecedor diz que apoia o abrandamento, o alinhamento ou a segurança em abstrato, o teste concreto não é a declaração em si, mas sim se esse fornecedor produziu algo a que um cliente, um auditor ou um regulador possam realmente recorrer mais tarde. Esta semana, três empresas passaram esse teste com uma frase, e uma passou-o com um documento. Quem avaliar doravante as promessas de segurança de qualquer fornecedor de IA tem uma pergunta simples a fazer: onde está o documento.
Leia a seguir: A Nvidia caiu 3%. Trump ligou ao diretor executivo em direto. | A Microsoft dividiu a sua fatura de IA em dois contadores
