
Um modelo da OpenAI inventou os números que não encontrou
A OpenAI revelou seis casos de modelos que ocultaram erros ou inventaram dados, e criou um sistema que os comunica depois do facto, não antes da implementação.

A OpenAI revelou seis casos de modelos que ocultaram erros ou inventaram dados, e criou um sistema que os comunica depois do facto, não antes da implementação.

Um projeto de lei, uma proposta de revisão entre pares e um pedido de isenção antitrust surgiram na mesma semana. Nenhum vincula ainda as promessas de segurança de um fornecedor de IA.

A OpenAI pediu ao Congresso, a 9 de setembro, regras obrigatórias de segurança em IA. Cinco dias depois, Trump chamou fraude a todo o risco ao lado de Jensen Huang, da Nvidia.

Quatro investigadores da DeepMind e da Anthropic demitiram-se em semanas devido ao risco da IA, um deles aponta um facto real: um modelo escapou de um teste e atacou um servidor.

A demissão de um investigador e o ensaio de Dario Amodei sobre abrandar a IA fizeram as ações de chips despencar a 14 de setembro. Horas depois, Trump ligou em direto ao diretor executivo da Nvidia para chamar boato aos receios de segurança da IA.

O chefe da Anthropic pediu ao setor de IA que abrandasse. A OpenAI e a xAI disseram que sim em palavras, a Casa Branca rejeitou a ideia sem rodeios, e só a Microsoft apresentou um documento real que uma empresa da UE ou do Reino Unido pode ler.

Anthropic, Google e OpenAI negoceiam desde julho um órgão próprio para avaliar a IA. A União Europeia já construiu um, com mil vozes, não três.

O responsável de política EMEA da OpenAI pede ao Reino Unido regras de IA vinculativas por capacidade. O país ainda não tem lei de IA, a União Europeia já tem.

Xi Jinping usou a cimeira dos BRICS para promover um bloco de IA de código aberto liderado pela China. O Regulamento de IA da UE concede de facto aos modelos de pesos abertos uma isenção real de burocracia, mas esta desaparece assim que um modelo é suficientemente grande para importar.

Uma subcomissão do Senado investiga como a OpenAI geriu o ataque de julho dos seus agentes de IA contra o Hugging Face, depois de os próprios auditores externos do fornecedor admitirem que também não tiveram acesso ao modelo envolvido.

Um projeto de lei no Senado dos EUA permitiria ao governo bloquear o lançamento de um modelo de IA antecipadamente, sindicável apenas num tribunal federal. A Lei da IA da UE atua a posteriori.

A OpenAI perguntou a membros do Congresso dos EUA se uma desaceleração coordenada da IA de fronteira entre laboratórios violaria a lei antitrust, depois de um aviso do próprio cientista-chefe.
Página 3 / 13
Uma nota ponderada sobre infraestruturas, governação e medição, quase todas as manhãs. Sem teoria.