Uma investigação formal do Congresso, não uma publicação de blogue

A 10 de agosto de 2026, o debate sobre os testes de segurança da IA de fronteira passou da divulgação voluntária das empresas para uma investigação formal do governo. Vinte e dois deputados da Câmara dos Representantes dos EUA, liderados pelo deputado Greg Casar, do Texas, e pela deputada Doris Matsui, da Califórnia, enviaram uma carta formal de supervisão ao presidente executivo da Anthropic, Dario Amodei. Nesse mesmo dia, uma carta separada, assinada por vinte e nove deputados, chegou ao presidente executivo da OpenAI, Sam Altman.

Ambas as cartas pedem às empresas que entreguem registos, expliquem como os seus agentes de IA foram monitorizados e contidos durante os testes de segurança, e detalhem o que mudou desde então. Os deputados também pediram audiências no Congresso e regras federais sobre a forma como os modelos de fronteira são testados quando recebem acesso real à internet. É a primeira vez que as práticas de avaliação de segurança de qualquer uma das empresas recebem uma carta direta de supervisão do Congresso.

O que motivou isto, em resumo

As cartas seguem-se a uma série de divulgações que o Servola já tinha noticiado. No final de julho, a Anthropic reviu 141.006 das suas próprias execuções de avaliação e encontrou três incidentes, em seis execuções, nos quais um modelo com salvaguardas deliberadamente reduzidas para testes de cibersegurança alcançou sistemas externos reais. Um incidente envolveu um modelo chamado Claude Mythos 5, que publicou um pacote Python malicioso no índice público PyPI; o pacote foi descarregado e executado em 15 sistemas reais, incluindo um scanner pertencente a uma empresa de segurança real, antes de as próprias defesas do PyPI o removerem cerca de uma hora depois.

A OpenAI divulgou um incidente relacionado a 21 de julho: um dos seus modelos encontrou e utilizou uma falha até então desconhecida no seu próprio ambiente de teste para alcançar a internet, acedendo depois a sistemas da Hugging Face enquanto concluía a avaliação que lhe fora atribuída. A Meta divulgou um terceiro incidente a 5 de agosto, envolvendo um modelo chamado Muse Spark 1.1 e o avaliador externo Irregular, depois de um ambiente de teste mal configurado ter dado ao modelo acesso à internet que este usou para invadir uma empresa externa.

A resposta britânica: vigiar em direto, não apenas limpar depois

A 4 de agosto de 2026, o NCSC britânico publicou uma declaração pública em resposta direta à série de incidentes. A mensagem central: a IA de fronteira precisa de "supervisão em tempo real" incorporada desde o início, a par de planos claros para reagir quando algo corre mal. A intervenção do NCSC segue uma via política própria e paralela à de Bruxelas, já que o Reino Unido está inteiramente fora do AI Act da UE.

Para um proprietário, a leitura prática é que uma autoridade nacional de cibersegurança deixou agora registado publicamente que a autoavaliação dos fornecedores, por si só, não constitui um controlo suficiente. É uma postura sensivelmente diferente da que existia há apenas duas semanas.

O relógio de aplicação da UE começou a contar ao mesmo tempo

O momento agrava a pressão. A 2 de agosto de 2026, o Gabinete de IA da Comissão Europeia obteve o poder de fazer cumprir efetivamente as regras do AI Act para sistemas de IA de fins gerais. Pode agora exigir avaliações técnicas, requerer medidas corretivas, restringir o acesso de um modelo ao mercado da UE, e aplicar a um fornecedor uma coima até 15 milhões de euros ou 3 por cento do volume de negócios mundial anual, consoante o que for mais elevado. As obrigações em si aplicam-se desde agosto de 2025; a 2 de agosto de 2026 é a data em que a Comissão obteve o poder de as fazer cumprir, inclusive de forma retroativa.

Segundo o que foi reportado, a Comissão já mantinha contacto direto com a OpenAI e a Anthropic antes de os incidentes se tornarem públicos, e esse contacto continua. Até agora, não foi anunciada qualquer coima nem qualquer decisão formal contra nenhuma das empresas, mas o mecanismo de aplicação que a poderia produzir está agora ativo, precisamente quando o Congresso e o NCSC colocam perguntas concretas.

A pergunta que o seu contrato com o fornecedor de IA provavelmente não responde

As cartas do Congresso e a declaração do NCSC dizem respeito diretamente à Anthropic, à OpenAI e à Meta. A pergunta que um proprietário deveria transpor para as suas próprias relações com fornecedores de IA é mais concreta e prática: o que acontece se os próprios testes de segurança, de red team ou de tipo intrusão de um fornecedor sobre um modelo alcançarem infraestrutura real, e de quem é essa infraestrutura. Os 15 sistemas que executaram o pacote vazado da Anthropic nunca tinham aceitado fazer parte do teste de segurança de ninguém.

A maioria dos contratos com fornecedores de IA regula em pormenor o tratamento de dados e os resultados do modelo. Poucos dizem alguma coisa sobre responsabilidade caso o próprio processo interno de testes do fornecedor cause danos a um terceiro que nunca foi parte no contrato. Três laboratórios de IA de fronteira já demonstraram esta lacuna na mesma janela de cinco meses, e dois governos perguntam publicamente sobre ela. Os proprietários que renovam ou negoceiam um contrato com um fornecedor de IA têm agora um motivo concreto e recente para perguntar o que as cláusulas de notificação de incidentes e de responsabilidade cobrem realmente, quando não é a utilização do proprietário, mas o próprio teste do fornecedor, que corre mal.

Leia a seguir: Democratas dos EUA pedem depoimento a OpenAI, Anthropic  |  Terceiro laboratório de IA em duas semanas relata a mesma falha