1134 assinaturas: o travão não existe

Um texto que concorrentes assinaram em conjunto

A 28 de julho tornou-se pública uma declaração intitulada Pacing the Frontier com 1122 assinaturas. Poucas horas depois reunia 1134. Os nomes que a encabeçam não são de críticos externos nem de ativistas. Assinou-a Jakub Pachocki, diretor científico da OpenAI. Assinou também Mark Chen, responsável pela investigação na mesma casa. Assinou-a Jared Kaplan, cofundador e diretor científico da Anthropic, ao lado de Dario Amodei, o presidente executivo, e de Jack Clark, que dirige o trabalho de políticas públicas. Assinou-a Shengjia Zhao, diretor científico da Meta AI. Assinou-a igualmente Anca Dragan, que na Google é responsável pela segurança e pelo alinhamento da inteligência artificial. E consta ainda John Schulman, diretor científico da Thinking Machines.

Estas pessoas trabalham em organizações que disputam os mesmos investigadores, os mesmos aceleradores e os mesmos contratos empresariais, e que quase nunca concordam em público. O registo também não está aberto ao público em geral. Para se inscrever é preciso comprovar emprego numa empresa de inteligência artificial de fronteira, através de um endereço da empresa ou de documentação laboral. Duas organizações sem fins lucrativos, a Guidelight AI Standards e a Encode AI, apoiam a iniciativa.

A passagem de 1122 para 1134 numa única tarde merece mais atenção do que o número inicial. Não se trata de uma carta fechada, redigida, assinada e publicada. É um registo aberto que continua a receber nomes verificados vindos de dentro dos laboratórios.

O que pedem não é uma pausa

A frase operativa é estreita e merece ser lida exatamente como está escrita. Os signatários pedem que o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para regular deliberadamente o ritmo da fronteira do desenvolvimento automatizado da inteligência artificial. Nessa frase não há moratória, nem teto para a capacidade de cálculo, nem paragem de seis meses, nem obrigação imposta a qualquer empresa identificada.

O raciocínio avança em três passos. As principais empresas do setor acreditam poder estar perto de automatizar a própria investigação em inteligência artificial, o ponto em que os modelos começam a melhorar modelos com menor participação humana. Ninguém consegue prever quanto isso acelera o progresso, e o texto fala de um risco real de o desenvolvimento das capacidades ultrapassar a possibilidade de compreender ou controlar os sistemas resultantes. Segue-se o problema estrutural: cada empresa e cada país está sob forte pressão concorrencial para não travar unilateralmente essa aceleração, e o mundo carece por completo das ferramentas técnicas e de governação para regular o ritmo do conjunto.

Leia isto como empresário e não como observador de políticas públicas. Quem constrói estes sistemas não está a dizer que tem um travão que hesita em acionar. Está a dizer que o instrumento não existe, e a pedir a um Estado que financie a sua construção.

A palavra que Altman usou foi conluio

No mesmo dia, Sam Altman declarou no podcast Invest Like the Best que talvez seja preciso regular o ritmo do desenvolvimento da inteligência artificial para dar à sociedade tempo suficiente para se reforçar perante alguns destes novos níveis de capacidade, procurando ao mesmo tempo uma forma de o fazer que não pareça captura do regulador para ninguém e que também não pareça conluio entre os laboratórios de fronteira. Durante anos defendeu o contrário, e apontou o modelo que escapou do seu ambiente de avaliação e entrou na Hugging Face como parte do que lhe mudou a posição.

É a segunda expressão que explica todo o exercício. Se quatro ou cinco casas rivais se sentassem a acordar entre si publicar mais devagar, seriam concorrentes a coordenar a sua oferta. No direito europeu da concorrência e nos seus equivalentes noutros países, um acordo entre rivais para restringir o que colocam no mercado é a forma clássica de um cartel, e as boas intenções não servem de defesa. Os laboratórios não podem construir legalmente um travão comum por sua iniciativa.

O pedido é, portanto, estrutural e não moral. Um Estado pode autorizar, supervisionar e uniformizar um abrandamento coordenado onde as empresas privadas não o conseguem fazer sem se exporem. Essa é a verdadeira razão pela qual este texto seguiu para Washington e não para uma associação do setor, e é por isso que os signatários puderam apor o seu nome enquanto os seus empregadores continuam a competir a plena força.

A Europa já legislou uma versão disto

As ferramentas que a declaração descreve como ausentes não faltam por completo na Europa. O regulamento europeu sobre inteligência artificial criou um patamar próprio para os modelos de fins gerais que apresentam risco sistémico, e impõe aos respetivos fornecedores obrigações concretas: avaliação segundo protocolos normalizados, testes em condições adversas, apreciação e mitigação de riscos sistémicos, comunicação de incidentes graves ao Serviço para a Inteligência Artificial e um nível adequado de cibersegurança. Não é regulação do ritmo no sentido do texto, mas é o mais próximo disso que alguma ordem jurídica escreveu efetivamente.

O calendário é imediato. As obrigações relativas aos modelos de fins gerais aplicam-se a partir de 2 de agosto de 2026, daqui a quatro dias, e o Serviço para a Inteligência Artificial passa a ser o órgão que as faz cumprir. Os compradores europeus ficarão assim a saber antes de todos se os instrumentos de governação dirigidos aos modelos de fronteira produzem algum efeito útil na prática ou apenas geram papelada. Em Portugal, o Centro Nacional de Cibersegurança acrescenta as suas próprias orientações de proteção destes sistemas, o que torna aqui mais densa a prova exigida a quem os opera.

Daqui resulta uma conclusão incómoda para quem passou dois anos a sustentar que o regulamento chegava cedo demais. Os diretores científicos de três laboratórios americanos de fronteira acabaram de pedir ao seu próprio governo que comece a desenvolver exatamente a categoria de ferramenta que Bruxelas já inscreveu na lei.

O que fazer com um plano sem travão

Trate a alteração de capacidades como um facto contratual e não como uma notícia. Exija a cada fornecedor um pré-aviso escrito, com um número fixo de dias, antes de um modelo situado atrás de uma interface de que depende ser alterado de forma substancial, descontinuado ou substituído, e pergunte o que sucede à sua carga de trabalho se um lançamento for adiado por motivos de segurança. As condições correntes do mercado permitem hoje a um fornecedor trocar o modelo sob o mesmo nome de interface sem lhe dizer nada.

Depois, deixe de usar o ritmo do fornecedor como dado de planeamento. Quem constrói sobre um modelo de fronteira deve manter pelo menos uma alternativa realmente testada contra o seu próprio conjunto de avaliação, e conhecer o custo da mudança. Os signatários deste texto estão a dizer-lhe, por palavras suas, que hoje ninguém controla a velocidade a que os seus produtos mudam.

Para as empresas europeias falta um passo antes de 2 de agosto. Determine se algum dos modelos de fins gerais que utiliza cai no patamar de risco sistémico, porque disso depende a documentação que o seu fornecedor lhe deve, e a autoridade nacional esperará que saiba de que categoria está a comprar.

Leia a seguir: A Anthropic quer todos os modelos testados  |  O seu fornecedor de IA pode ter um interruptor estatal