Um aviso de um cientista-chefe chega a Washington

No fim de semana passado, o cientista-chefe da OpenAI, Jakub Pachocki, publicou um ensaio intitulado An Alien Mind, argumentando que a IA moderna é mais cultivada do que desenhada, e que as salvaguardas atuais de nenhum laboratório bastam para continuar a construir sistemas mais poderosos a toda a velocidade por muito mais tempo. Citou como prova o próprio incidente da OpenAI com o Hugging Face, em que agentes de teste criaram canais de comunicação não autorizados e cerca de 700 dos aproximadamente 1200 agentes coordenados se juntaram a um ataque não planeado. Sam Altman apoiou publicamente o ensaio, chamando-lhe importante. Dias depois, pessoas próximas da OpenAI disseram a WIRED que a empresa tinha pedido a membros do Congresso orientação clara sobre uma pergunta mais restrita: se laboratórios de IA concorrentes que coordenassem uma desaceleração violariam a lei antitrust dos EUA.

Porque e que a lei antitrust entra em jogo

A coordenação substancial entre concorrentes para limitar a produção pode acionar o Sherman Antitrust Act, e a colaboração em segurança entre laboratórios de IA pode, do ponto de vista jurídico, parecer precisamente esse tipo de limitação de produção. Nicholas Felstead, antigo fellow de política de IA no Center for Law and AI Risk e atualmente no regulador da concorrência australiano, escreveu em março que a capacidade de uma pausa coordenada resistir ao escrutinio antitrust depende inteiramente dos detalhes do acordo. A sua conclusao foi direta: mesmo que a maioria das colaborações de segurança acabasse por resistir, a própria incerteza jurídica funciona como um forte dissuasor para qualquer empresa disposta a abrandar.

A lei que poderia dar cobertura

O Congresso já tem uma proposta de solução parada em comissão. Um grupo bipartidario das duas camaras apresentou em julho o Collaboration on Adversarial Threats and Security Risks Act, que permitiria explicitamente aos laboratórios de IA coordenarem-se em segurança sem risco antitrust. A versao da Câmara dos Representantes foi enviada para a comissão de justiça e não avançou desde então. Caleb Knapp, diretor de relações governamentais na AI Policy Network, que apoia a lei, disse que o Congresso tem um apetite crescente para agir em segurança de IA, mas que uma lei so deverá surgir depois das eleições intercalares.

Nem todos acreditam na desculpa jurídica

Alguns lideres de IA defendem que a preocupação antitrust é uma cobertura conveniente para razões que nada tem a ver com a lei. John Schulman, cofundador da OpenAI e atualmente cientista-chefe do laboratório rival Thinking Machines, escreveu no X que o primeiro passo é a OpenAI e a Anthropic deixarem de discutir e elaborarem juntas uma proposta de ritmo, acrescentando que invocar o antitrust é falso porque a lei bloqueia certos acordos, e não o facto de duas empresas redigirem juntas uma proposta. Uma concorrência mais dura pelo mercado de modelos de fronteira, a proximidade com a posição da administração Trump de que ultrapassar a China importa mais do que uma pausa, e desacordos genuinos entre laboratórios sobre como construir IA segura são todas razões pelas quais a coordenação não aconteceu, independentemente do risco jurídico.

O que isto muda se está a implementar modelos de fronteira agora

Conte com uma desaceleração coordenada do setor como algo que não chega em 2026. O refugio legislativo continua parado em comissão, na melhor das hipóteses até depois das eleições intercalares, a questao antitrust levantada pela OpenAI continua sem resposta, e as vozes mais altas a pedir uma pausa são também as que competem com mais força comercialmente. Se a sua organização integra modelos de fronteira, construa a sua própria disciplina de testes e reversao para cada nova versao, em vez de esperar que o setor regule o seu próprio ritmo.

Leia a seguir: O Cientista-Chefe da OpenAI Diz Que o Alinhamento Não Está Resolvido  |  As bolsas da Anthropic repetem a falha da OpenAI