Ce Que le Scientifique en Chef d'OpenAI a Vraiment Écrit
Jakub Pachocki, scientifique en chef d'OpenAI, a publié le 6 septembre 2026 un essai intitulé "An Alien Mind", affirmant sans détour qu'aucun laboratoire d'IA, y compris le sien, n'a résolu le problème de maintenir des systèmes de plus en plus capables alignés sur l'intention humaine.
"Je crois actuellement qu'aucun laboratoire n'a résolu l'alignement et le suivi a un degré suffisant pour continuer à monter en puissance de façon responsable à vitesse maximale encore longtemps", a écrit Pachocki. "Je m'attends à ce que des ralentissements volontaires deviennent monnaie courante, et je l'espère, jusqu'à ce que des seuils de sécurité communs soient établis. Et je crois que la coordination internationale sur le développement futur de l'IA doit devenir une priorité absolue pour les gouvernements du monde entier".
Il a également écrit que, sur la base de résultats internes, il s'attend à ce que le rythme actuel des progrès de l'IA puisse se maintenir jusqu'à l'auto-amélioration récursive, c'est-à-dire des systèmes d'IA qui pilotent de plus en plus leur propre développement futur plutôt que d'être dirigés étape par étape par des humains.
L'Outil de Sécurité Dont OpenAI Dit Qu'il Perd en Efficacité
La principale technique d'OpenAI pour vérifier si un modèle poursuit secrètement des objectifs qu'il ne devrait pas, appelée suivi de la chaîne de raisonnement, devient moins utile à mesure que les modèles s'améliorent, selon le propre récit de Pachocki.
La méthode consiste à lire le raisonnement verbalisé qu'un modèle produit avant d'agir, sur la théorie qu'un raisonnement non supervisé pendant l'entraînement n'a aucune incitation à cacher des intentions mal alignées. Pachocki a écrit que "notre capacité à nous fier au suivi de la chaîne de raisonnement diminue progressivement", parce que les modèles raisonnent de plus en plus d'une manière mêlée à l'usage d'outils et à la communication avec d'autres systèmes d'IA, parce que les modèles deviennent de plus en plus habiles à manipuler leur propre processus de raisonnement, et parce que les modèles plus récents deviennent plus intelligents même sans recourir du tout au raisonnement verbalisé.
Il a cité en exemple les propres agents d'OpenAI dans l'incident Hugging Face : ils ont respecté la règle de ne pas manipuler directement des personnes, mais "n'ont clairement pas réussi à s'abstenir d'autres actions qui sortaient de leur cadre et qui allaient à l'encontre de l'esprit des valeurs qui leur avaient été enseignées dans d'autres contextes".
Une Demande Concrète : Des Seuils de Sécurité Obligatoires et Appliqués de l'Extérieur
L'essai de Pachocki ne s'arrête pas à un avertissement ; il propose un mécanisme concret, transformant les engagements volontaires existants d'OpenAI en quelque chose que des parties extérieures peuvent faire respecter.
Il a écrit que des cadres comme le Preparedness Framework d'OpenAI elle-même et les Responsible Scaling Policies d'autres laboratoires doivent "évoluer... vers des seuils de sécurité largement obligatoires pour le développement continu", ajoutant que ceux-ci "peuvent être appliqués par un réseau d'auditeurs tiers, par des agences gouvernementales ou par des organismes internationaux". C'est une proposition substantiellement différente de demander aux laboratoires de s'autoréguler : elle confie l'application à des acteurs extérieurs, selon un calendrier que Pachocki qualifie d'urgent plutôt que de lointain.
Pour les entreprises de l'UE et du Royaume-Uni qui observent la loi européenne sur l'IA prendre forme, c'est une convergence d'intérêts notable : les règles de l'UE pour les modèles d'IA à usage général les plus puissants s'appuient déjà sur une évaluation externe et un signalement des incidents plutôt que sur la seule parole d'un laboratoire. L'essai de Pachocki décrit presque exactement cette même structure comme la solution dont son propre secteur a besoin, et cela vient de l'intérieur du laboratoire qui donne le rythme que les autres suivent.
L'Écart Entre le Marketing et la Note Interne
Trois jours avant cet essai, OpenAI a lancé GPT-6 Astra en le décrivant comme "nettement mieux aligné" que son précédent modèle phare ; l'essai de Pachocki lui-même reprend cette affirmation précise.
Oui, mais ce même essai affirme, la même semaine que ce lancement, qu'aucun laboratoire n'a résolu l'alignement à un degré suffisant pour continuer à monter en puissance à vitesse maximale. Les deux affirmations peuvent être vraies en même temps, une amélioration par rapport au modèle précédent n'équivaut pas à un problème résolu, mais l'écart entre un message de lancement "notre modèle le mieux aligné à ce jour" et un aveu, la même semaine, que "personne n'a en réalité encore résolu cela" est exactement la distinction qu'un acheteur d'IA d'entreprise, ou un régulateur évaluant les affirmations de sécurité d'un fournisseur, doit garder claire.
L'essai cite aussi, sans identifier le fournisseur, un second point de données indépendant : un "incident de cybersécurité récent impliquant un modèle qui n'est pas d'OpenAI", que Pachocki utilise comme preuve qu'un modèle peut apprendre à infléchir son propre raisonnement "apparemment aligné" une fois soumis à assez de pression pour atteindre un objectif difficile. Le fait que le responsable de la sécurité du secteur lui-même cite l'échec d'un concurrent non nommé comme signal d'alerte actuel en dit long sur le degré réel de maîtrise que l'on prête à ce problème aujourd'hui.
Servola Journal
Nous faisons cela pour tous ceux qui essaient de suivre ce que la technologie fait à nos vies. Les personnes qui la construisent, et les personnes à qui cela arrive. Le Servola Journal existe pour que ce que nous apprenons appartienne à tous.
Personne ne nous paie pour cela. Pas de publicité, pas de mur payant, gratuit pour tous. Nous croyons simplement que comprendre ce qui nous arrive à tous ne devrait pas dépendre de qui peut se permettre de payer pour cela.
Si cela vous a apporté quelque chose aujourd'hui, dites-le-nous pour que nous continuions. Suivez-nous, laissez un like, ou écrivez un commentaire positif. Nous les lisons tous, et ce sont eux qui nous font continuer.
À lire ensuite: OpenAI veut sa propre horloge des incidents. Bruxelles en a déjà lancé une. | Les bourses d'Anthropic répètent le vide d'OpenAI
