Um conselheiro, dois cargos, uma nova abstenção
A OpenAI nomeou Paul Christiano a 9 de setembro de 2026 para o seu Foundation Board, como observador sem direito de voto no conselho da OpenAI Group PBC e como membro do Safety and Security Committee, ao lado do seu presidente, Zico Kolter. É, por si só, uma nomeação notável: Christiano liderou a investigação de alinhamento na OpenAI entre 2017 e 2021, contribuiu com trabalho fundador sobre reinforcement learning from human feedback e fundou depois o Alignment Research Center. Bret Taylor, presidente de ambos os conselhos da OpenAI, chamou-lhe no anúncio 'uma voz independente sobre se as salvaguardas do setor são suficientes'.
Essa independência é também o seu trabalho principal. Christiano exerce atualmente as funções de senior technical advisor no Center for AI Standards and Innovation (CAISI), a unidade do National Institute of Standards and Technology que avalia modelos de IA de fronteira quanto a capacidades com implicações de segurança nacional, um papel que já desempenhava no antecessor do CAISI, o US AI Safety Institute. O próprio anúncio da OpenAI contém uma nota de rodapé que a maior parte da cobertura ignorou: como senior technical advisor, Christiano 'abster-se-á de todas as questões relacionadas com a OpenAI, bem como de todas as avaliações de modelos'. Lida com clareza, essa frase diz algo concreto: um avaliador estatal cujo trabalho inclui avaliar modelos de fronteira acaba de entrar no órgão de supervisão de um dos poucos laboratórios cujos modelos, de outro modo, avaliaria, e a solução não é a separação, mas uma abstenção de que ele próprio se tem de lembrar.
Dois governos, duas respostas ao mesmo conflito
O AI Act da UE resolve o mesmo problema estrutural retirando a opção que Christiano acabou de receber: sentar-se por dentro e sair apenas quando um conflito surge de facto. O Artigo 68 da lei cria um painel científico de até 60 peritos independentes para apoiar o trabalho de aplicação do Gabinete Europeu para a IA, alertando para riscos emergentes, ajudando a construir métodos de avaliação e aconselhando sobre a forma de classificar modelos de finalidade geral. A elegibilidade é todo o mecanismo: cada perito tem de demonstrar independência relativamente a qualquer fornecedor de sistemas de IA ou de modelos de IA de finalidade geral antes mesmo de ser nomeado, e não depois de um conflito aparecer na agenda. Cada um apresenta uma declaração pública de interesses, e o Gabinete para a IA gere os conflitos através de um processo próprio e permanente, em vez de o deixar à memória de um único perito.
| Mecanismo | A quem se aplica | Como a independência é imposta | O que acontece num conflito |
|---|---|---|---|
| Foundation Board da OpenAI | Um conselheiro em funções no CAISI/NIST, agora também observador do conselho | Não é um requisito de elegibilidade para o lugar | Abstenção nomeada em questões da OpenAI e avaliações de modelos |
| AI Act da UE, Artigo 68 | Até 60 peritos que aconselham o Gabinete para a IA | A independência de qualquer fornecedor de IA é condição de nomeação | Declaração pública de interesses; os conflitos são geridos pelo próprio Gabinete para a IA |
Nenhuma das duas estruturas é, por si só, indefensável. Uma abstenção efetivamente cumprida é uma proteção real, e um lugar no comité de segurança de um laboratório de fronteira dá a um crítico um acesso que nenhum painel externo tem. Mas não são a mesma resposta à mesma pergunta, e apenas uma delas retira o conflito antes de ele poder ocorrer, em vez de depois.
O que uma equipa de compliance deveria realmente vigiar
Para uma empresa europeia que acompanha qualquer um dos laboratórios como fornecedor, o sinal útil não é a história de pessoal com que a maior parte dos meios ficou: o próprio título da TechCrunch chamou a Christiano 'um proeminente doomer da IA', o que é um enquadramento de personalidade, não de governação. O sinal útil é que a OpenAI optou por uma supervisão baseada em abstenção na mesma semana em que a Anthropic perdeu por completo dois colaboradores de segurança, incluindo o responsável de alinhamento Evan Hubinger, que disse aos colegas, a sair, que situa acima dos dez por cento a probabilidade de a IA causar a extinção humana dentro de uma década. Um laboratório mantém os seus críticos internos na sala com uma cláusula de abstenção; o outro vê-os partir. Ambos os resultados são publicamente visíveis, e ambos fazem agora parte do registo real sobre como cada empresa gere efetivamente o desacordo sobre as suas próprias margens de segurança, exatamente o registo que um fornecedor de um modelo de risco sistémico ao abrigo do AI Act deveria construir de qualquer forma, quer pense ou não em Bruxelas ao tomar a decisão.
Servola Journal
Fazemos isto por todos os que tentam acompanhar o que a tecnologia está a fazer às nossas vidas. As pessoas que a constroem, e as pessoas a quem acontece. O Servola Journal existe para que o que aprendemos pertença a todos eles.
Ninguém nos paga por isto. Sem anúncios, sem barreira de pagamento, grátis para todos. Acreditamos simplesmente que compreender o que está a acontecer a todos nós não deveria depender de quem pode pagar por isso.
Se isto lhe deu algo hoje, diga-nos para continuarmos. Siga-nos, deixe um like, ou escreva um comentário positivo. Lemos cada um deles, e são eles que nos fazem continuar.
Leia a seguir: Só Bruxelas ainda pode obrigar o seu fornecedor | Chefe de alinhamento da Anthropic põe número ao risco
