Un chiffre, pas seulement un avertissement de plus
Le 8 septembre, le responsable de la science de l'alignement chez Anthropic a mis un chiffre précis sur le risque que son employeur construit chaque jour. Evan Hubinger, en répondant à un collègue sur le départ, a écrit qu'il voyait personnellement une probabilité supérieure à 10 pour cent que l'IA cause l'extinction humaine au cours de la prochaine décennie.
Ce collègue s'appelait Jacob Coxon, un chercheur de 27 ans qui a passé trois ans en préentraînement, d'abord chez OpenAI sur le modèle GPT-4o, puis chez Anthropic. Coxon a démissionné mardi soir en écrivant que les deux laboratoires "foncent tout droit vers une superintelligence auto-améliorable en jouant avec nos vies", ajoutant que ceux qui construisent cette technologie "croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie". Hubinger lui a donné raison, en précisant que le risque qu'il évoque vient spécifiquement de l'auto-amélioration récursive, pas des modèles commerciaux qu'Anthropic vend aujourd'hui.
Pourquoi un chiffre venu de l'intérieur sonne différent
Les estimations publiques de risque catastrophique lié à l'IA ne sont pas nouvelles, chercheurs et militants extérieurs publient des sondages depuis des années. Ce qui a changé le 8 septembre, c'est qui a parlé: la personne qu'Anthropic elle même a chargée de diriger la science de l'alignement, publiquement et avec un chiffre plutôt qu'une simple impression.
Au moment où cette information circulait, Anthropic n'avait publié aucune déclaration d'entreprise sur ce chiffre, et Hubinger a précise explicitement qu'il s'agissait de son avis personnel, non d'une position officielle. Cette nuance ne survit pas à un tableur achats. Le chiffre d'un responsable des risques identifié par son nom, aussi personnel soit-il, est exactement le type de preuve qu'une équipe conformité peut réellement consigner.
L'angle conformité que la couverture a manqué
L'article 55 de l'AI Act europeen impose depuis le 2 août 2025 aux fournisseurs de modèles d'IA à usage général présentant un risque systémique d'évaluer et de documenter ces risques, et depuis le 2 août 2026, un peu plus d'un mois avant le message de Hubinger, le Bureau de l'IA dispose du pouvoir formel d'en vérifier le respect.
Les obligations sont précises: évaluation normalisée du modèle avec tests contradictoires, évaluation et atténuation du risque systémique sur l'ensemble du marché de l'UE, signalement des incidents graves au Bureau de l'IA et cybersécurité adequate pour le modèle lui même. Les fournisseurs dont la puissance de calcul d'entrainement franchit le seuil de risque systémique fixe par le texte, la catégorie où se situent des laboratoires de pointe comme Anthropic, sont précisement les destinataires de cet article. Un chiffre de risque déclaré par la personne qui dirige le travail d'alignement de ce fournisseur est exactement le type de risque prévisible qu'un régulateur ou un auditeur va désormais rechercher.
Ce qui change pour l'équipe qui achète l'outil
Rien ne change dans le produit aujourd'hui. Aucun modèle n'a été retiré, aucune fonctionnalité n'a été désactivée, et la mise au point de Hubinger lui même rattachait son estimation a un scénario futur, pas a l'assistant qui répond en ce moment aux questions de votre équipe.
Ce qui devrait changer, c'est la documentation. Les registrès de risque fournisseurs qui contiennent aujourd'hui une formule du type "preoccupations de sécurité IA, sous surveillance" peuvent désormais citer un chiffre source, daté et attribué. Et toute équipe qui dépend d'un seul laboratoire de pointe pour un processus central devrait traiter cette dépendance comme un risque de concentration nommé, pas comme une note de bas de page, puisque le chiffre vient de l'intérieur du fournisseur et non d'un critique extérieur.
À lire ensuite: Votre Fournisseur D'IA Vient De Recevoir Une Lettre De Bruxelles | Le Rapport de Sécurité d'Anthropic Liste Ses Propres Échecs
