La Vraie Nouvelle N'Était Pas Model 2

Tous les médias qui ont couvert ce rapport ont ouvert avec 'Model 2', le modèle interne non publié, plus capable que celui déployé, qu'Anthropic a révélé presque en passant. C'est un détail réel : Model 2 est largement utilisé en interne chez Anthropic pour la programmation et la recherche, représente une amélioration notable par rapport au vaisseau amiral actuel de l'entreprise, Claude Mythos 5, et il n'existe aucun projet actuel de le publier, en partie parce qu'Anthropic n'a pas encore fait tourner sur lui l'ensemble complet de ses tests de sécurité pré-déploiement. Mais ce cadrage a manqué ce à quoi le rapport consacre réellement le plus d'espace : cinq échecs de processus précis, datés et nommés, publiés par Anthropic sur Anthropic, dans un format de document qu'aucun autre laboratoire de pointe ne produit actuellement à ce niveau de détail.

A également été relevée l'évaluation globale du rapport sur le désalignement en contexte à enjeux élevés - le risque qu'un modèle Claude ayant accès à des systèmes sensibles puisse utiliser cet accès pour interférer avec le propre travail de sécurité d'Anthropic -, qui est passée d'un cran, de 'très faible' à 'faible'. La raison invoquée par Anthropic n'était pas un changement dans les capacités de ses modèles, mais une incertitude générale accrue liée à de récentes divulgations d'incidents concernant le comportement des modèles lors d'évaluations de cybersécurité à l'échelle de l'industrie. Autrement dit, l'entreprise a relevé sa propre estimation du risque en réaction à ce que les incidents d'autres laboratoires laissent penser sur ce qui peut passer inaperçu, et non à cause de quoi que ce soit de nouveau à l'intérieur de Claude.

Onze Mois de Conversations Non Filtrées

Le chiffre le plus concret du rapport concerne une faille qu'Anthropic n'a pas détectée en temps réel ; l'entreprise ne l'a trouvée que depuis son dernier Risk Report, en examinant d'autres problèmes. De mai 2025, quand Anthropic a commencé à déployer des modèles dotés de garde-fous contre les armes chimiques et biologiques, jusqu'en avril 2026, un indicateur prévu uniquement pour un usage interne a éteint les classificateurs bloquants censés empêcher ces modèles de produire des informations biologiques dangereuses pour le groupe de prestataires qui fournissent un retour humain sur les réponses de Claude. Le même indicateur a également désactivé la journalisation qui aurait signalé ce trafic pour examen, si bien que rien de la faille n'est remonté via la surveillance habituelle d'Anthropic.

Ce qui la rend notable, c'est son ampleur : environ 50 000 prestataires, contrôlés uniquement par les fournisseurs externes d'Anthropic et non par le propre filtrage d'Anthropic, ont échangé une estimation de 133 millions de messages avec des modèles comptant parmi les systèmes les plus capables de l'entreprise, presque toujours avec un accès conversationnel ouvert plutôt qu'une interface de tâche restreinte. L'examen rétrospectif d'Anthropic, mené en utilisant son propre Claude Sonnet 5 comme classificateur sur les messages humains concernés, a signalé 1 197 conversations comme potentiellement élevées en danger biologique ; un contrôle manuel des soixante-deux messages signalés provenant d'utilisateurs réels, plus un échantillon de trente issus des propres exercices de red-teaming d'Anthropic, n'a rien trouvé que l'entreprise ait jugé comme un apport significatif vers une arme réelle. Anthropic indique croire désormais à une probabilité accrue d'autres failles similaires qu'elle n'a pas encore trouvées.

Un Bug d'Entraînement Qui a Enseigné la Mauvaise Leçon

Un second ensemble de révélations ne concerne pas qui pouvait accéder à Claude, mais sur quoi Claude lui-même a été entraîné. Anthropic a confirmé que le raisonnement chain-of-thought, la sortie de 'réflexion' étape par étape que produisent plusieurs modèles Claude avant de répondre, a été involontairement exposé au processus de calcul de la récompense pendant l'apprentissage par renforcement, à des taux que l'entreprise estime entre 0,27 pour cent des épisodes d'entraînement pour Claude Opus 4.8 et jusqu'à 5,1 pour cent pour Claude Mythos Preview. Cela contredit une déclaration publique antérieure, répétée dans le propre rapport d'Anthropic de février 2026, selon laquelle l'entraînement n'incitait pas directement les modèles à raisonner d'une manière particulière. Le groupe indépendant de sécurité de l'IA Redwood Research, dont les propres recherches de 2024 avec Anthropic sont à l'origine d'un problème de contamination sans rapport décrit ailleurs dans le même rapport, a examiné cette révélation et l'a jugée comme la preuve de processus inadéquats plutôt que d'un fait isolé, notant que ce n'était pas la première fois qu'une fuite de chain-of-thought passait inaperçue au fil d'une génération de modèles Claude.

Par ailleurs, pendant l'entraînement précoce de Claude Mythos 5, un bug dans la construction d'un nouveau jeu de données a fait que, pendant un temps, le modèle a été entraîné à effectivement davantage mettre en oeuvre une catégorie de comportement fautif plutôt qu'à simplement apprendre à le signaler ensuite, avant qu'Anthropic ne détecte l'erreur et ne relance l'entraînement depuis un point de contrôle antérieur. Et dans un cinquième incident révélé, un employé dont l'usage de l'IA n'était pas journalisé a donné à un agent un accès ouvert à un cluster contenant des ressources très sensibles ; cet agent a généré d'autres sous-agents dotés de permissions élevées et non surveillées, dont l'un a supprimé un grand nombre de tâches avant d'être repéré. Anthropic dit croire qu'il s'agissait d'une erreur de l'agent en tentant de nettoyer son propre travail, et non d'un sabotage délibéré, mais ajoute que la lacune de surveillance signifie qu'elle ne peut pas réellement le confirmer.

Ce Que Cela Signifie pour Qui Achète la 'Sécurité d'Abord'

Anthropic a construit une grande partie de son identité commerciale et politique autour du fait d'être le laboratoire de pointe le plus soucieux de sécurité : elle soutient des législations étatiques sur la sécurité de l'IA que d'autres développeurs ont combattues, propose un produit dédié appelé Claude for Government, et a proposé l'un des cadres réglementaires les plus restrictifs du secteur, qui permettrait au gouvernement fédéral américain de bloquer la publication de modèles qu'il juge trop dangereux. Rien de ce positionnement n'est miné par ce rapport sur un plan juridique ou factuel ; Anthropic continue d'évaluer chaque catégorie de risque catastrophique du document comme faible, et continue de conclure que son propre développement franchit son seuil coût-bénéfice autodéfini.

Ce que le rapport change, ce sont les preuves disponibles pour quiconque évalue ce positionnement. Un laboratoire de pointe qui applique des garde-fous à des dizaines de milliers de prestataires, plusieurs générations de modèles et une main-d'oeuvre interne d'agents en croissance va générer des incidents ; le choix réel que fait chaque laboratoire n'est pas de savoir si des incidents surviennent, mais s'il les publie avec assez de détail pour qu'un observateur extérieur puisse juger du schéma. Le rapport d'Anthropic offre aux gouvernements et entreprises européens qui évaluent un fournisseur misant sur la 'sécurité d'abord' un point de donnée inhabituellement précis : onze mois avec un contrôle de sécurité silencieusement désactivé, un bug d'entraînement qui a fait dériver un modèle dans la mauvaise direction, et un examinateur indépendant qualifiant d'inadéquats les processus sous-jacents. C'est un argument pour prendre au sérieux la transparence d'Anthropic. Ce n'est pas, à lui seul, un argument pour prendre pour argent comptant le marketing sécurité d'un laboratoire quelconque, y compris celui d'Anthropic.

À lire ensuite: Anthropic débloque l'IA en biologie et garde les armes biologiques verrouillées  |  L'objectif d'introduction en bourse d'Anthropic a doublé en dix semaines