Un conseiller, deux fonctions, une nouvelle récusation
OpenAI a nommé Paul Christiano le 9 septembre 2026 à son Foundation Board, comme observateur sans droit de vote au board d'OpenAI Group PBC et comme membre du Safety and Security Committee, aux côtés de son président Zico Kolter. C'est en soi une nomination notable : Christiano a dirigé la recherche en alignement chez OpenAI de 2017 à 2021, a contribué à des travaux fondateurs sur l'apprentissage par renforcement à partir de retours humains, puis a fondé l'Alignment Research Center. Bret Taylor, président des deux boards d'OpenAI, l'a qualifié dans l'annonce de 'voix indépendante sur la question de savoir si les garde-fous du secteur sont suffisants'.
Cette indépendance est aussi son métier principal. Christiano occupe actuellement le poste de conseiller technique senior au Center for AI Standards and Innovation (CAISI), l'unité du National Institute of Standards and Technology qui évalue les modèles d'IA de pointe pour leurs capacités ayant des implications de sécurité nationale, un rôle qu'il occupait déjà au sein du prédécesseur du CAISI, l'US AI Safety Institute. L'annonce d'OpenAI elle-même comporte une note de bas de page que la plupart des articles ont laissée de côté : en tant que conseiller technique senior, Christiano 'se récusera de toutes les questions liées à OpenAI ainsi que de toutes les évaluations de modèles'. Lue simplement, cette phrase dit quelque chose de précis : un évaluateur de l'État dont le travail consiste notamment à évaluer les modèles de pointe vient de rejoindre l'organe de supervision d'un des rares laboratoires dont il évaluerait sinon les modèles, et la solution n'est pas la séparation, c'est une récusation qu'il doit lui-même se souvenir d'invoquer.
Deux gouvernements, deux réponses au même conflit
L'AI Act de l'UE règle le même problème structurel en supprimant l'option qui vient d'être accordée à Christiano : siéger à l'intérieur, puis se retirer seulement quand un conflit se présente réellement. L'Article 68 de la loi crée un panel scientifique de jusqu'à 60 experts indépendants pour appuyer le travail d'application du bureau européen de l'IA, en signalant les risques émergents, en aidant à construire des méthodes d'évaluation et en conseillant sur la classification des modèles à usage général. L'éligibilité constitue tout le mécanisme : chaque expert doit démontrer son indépendance de tout fournisseur de systèmes d'IA ou de modèles d'IA à usage général avant même d'être nommé, et non après qu'un conflit apparaisse à l'agenda. Chacun dépose une déclaration publique d'intérêts, et le bureau de l'IA gère lui-même les conflits de façon institutionnelle, plutôt que de s'en remettre à la mémoire d'un seul expert.
| Mécanisme | Qui est concerné | Comment l'indépendance est imposée | Ce qui se passe en cas de conflit |
|---|---|---|---|
| Foundation Board d'OpenAI | Un conseiller en poste au CAISI/NIST, désormais aussi observateur du board | N'est pas une condition d'éligibilité au siège | Récusation nommée sur les questions OpenAI et les évaluations de modèles |
| AI Act de l'UE, Article 68 | Jusqu'à 60 experts conseillant le bureau de l'IA | L'indépendance de tout fournisseur d'IA est une condition de nomination | Déclaration publique d'intérêts ; les conflits sont gérés par le bureau de l'IA lui-même |
Aucune des deux structures n'est en soi indéfendable. Une récusation réellement respectée constitue une vraie protection, et un siège au comité de sécurité d'un laboratoire de pointe donne à un sceptique un accès qu'aucun panel externe n'obtient. Mais ce ne sont pas la même réponse à la même question, et une seule des deux retire le conflit avant qu'il puisse survenir, plutôt qu'après.
Ce qu'une équipe conformité devrait vraiment surveiller
Pour une entreprise européenne qui suit l'un ou l'autre laboratoire en tant que fournisseur, le signal utile n'est pas l'histoire de personnel que la plupart des médias ont retenue : le titre de TechCrunch lui-même a qualifié Christiano de 'doomer de l'IA en vue', ce qui est un cadrage de personnalité, pas de gouvernance. Le signal utile, c'est qu'OpenAI a choisi une supervision fondée sur la récusation la même semaine où Anthropic a perdu deux membres de son équipe sécurité, dont le responsable alignement Evan Hubinger, qui a dit à ses collègues en partant qu'il situe au-dessus de dix pour cent la probabilité que l'IA cause l'extinction humaine dans la décennie. Un laboratoire garde ses critiques internes dans la salle grâce à une clause de récusation ; l'autre les voit partir. Les deux résultats sont publics, et les deux font désormais partie du dossier réel sur la manière dont chaque entreprise gère effectivement les désaccords sur ses propres marges de sécurité, exactement le dossier qu'un fournisseur de modèle à risque systémique au titre de l'AI Act devrait construire de toute façon, qu'il pense ou non à Bruxelles au moment de décider.
Servola Journal
Nous faisons cela pour tous ceux qui essaient de suivre ce que la technologie fait à nos vies. Les personnes qui la construisent, et les personnes à qui cela arrive. Le Servola Journal existe pour que ce que nous apprenons appartienne à tous.
Personne ne nous paie pour cela. Pas de publicité, pas de mur payant, gratuit pour tous. Nous croyons simplement que comprendre ce qui nous arrive à tous ne devrait pas dépendre de qui peut se permettre de payer pour cela.
Si cela vous a apporté quelque chose aujourd'hui, dites-le-nous pour que nous continuions. Suivez-nous, laissez un like, ou écrivez un commentaire positif. Nous les lisons tous, et ce sont eux qui nous font continuer.
À lire ensuite: Seule Bruxelles peut encore contraindre l'éditeur | Le responsable alignement d'Anthropic chiffre le risque
