Anthropic réécrit les règles sur les questions de biologie
Anthropic a déclaré cette semaine avoir réécrit la constitution régissant le classificateur de sécurité des contenus biologiques de Fable 5, recueilli l'avis d'experts extérieurs, constitué de nouvelles données d'entraînement, et réentraîné le système pour séparer les requêtes véritablement dangereuses des questions cliniques et éducatives ordinaires qui se trouvaient englobées avec elles. L'entreprise présente ce changement comme une correction de précision, et non comme un assouplissement de sa position sur les domaines qu'elle juge véritablement dangereux: "Le coût d'un usage abusif de Fable dans un domaine à double usage comme la biologie pourrait potentiellement être catastrophique", a écrit Anthropic, expliquant pourquoi les domaines restreints eux-mêmes n'ont pas bougé.
Le résultat, selon l'annonce même d'Anthropic, est une baisse d'environ 85% des recours de sécurité liés à la biologie sur l'ensemble des surfaces produit de Fable 5, bien que l'ampleur de l'amélioration varie fortement selon le lieu d'utilisation du modèle: environ 67% de moins sur Claude.ai, 55% de moins sur Cowork, 17% de moins sur Claude Code et 7% de moins sur la Claude Platform utilisée par les développeurs en entreprise. Anthropic indique que les requêtes concernées étaient pour la plupart des tâches cliniques et éducatives ordinaires: interpréter des résultats de laboratoire, se renseigner sur des symptômes, ou explorer des sujets de biologie pour un cours ou un devoir.
Les domaines qui restent totalement verrouillés
Fable 5 continue de refuser automatiquement un ensemble défini de domaines à double usage: virologie, toxicologie et conception moléculaire, ainsi que le développement de médicaments de niveau professionnel, quelle que soit la formulation de la requête. Anthropic indique que les requêtes qui franchissent cette limite sont redirigées vers Opus 5, que l'entreprise décrit comme "un modèle performant qui ne possède pas le même niveau de capacité biologique que Fable 5". Cette redirection est délibérée: un assistant généraliste qui peut rester utile pour la tâche sous-jacente, mais sans le raisonnement biologique de pointe dont un acteur malveillant aurait besoin pour quelque chose de plus proche d'un travail lié aux armes.
Cette distinction mérite qu'on s'y attarde, car elle contredit la lecture erronée la plus bruyante possible de cette mise à jour. Anthropic ne dit pas que son IA est désormais plus permissive sur la biologie en général. L'entreprise dit l'inverse: elle est désormais assez précise pour distinguer la biologie bénigne de la biologie dangereuse, et suffisamment confiante dans cette distinction pour maintenir la moitié dangereuse verrouillée exactement là où elle l'était. Le fait que seuls certains domaines se soient assouplis tandis que d'autres restent totalement verrouillés est en soi le signe que la restriction n'a jamais vraiment porté sur la biologie en tant que sujet. Elle a toujours porté sur un ensemble plus restreint de capacités qu'Anthropic considère comme catastrophiques en cas d'usage abusif, et cet ensemble n'a pas changé.
Pourquoi l'ancienne friction représentait un coût réel, pas une rumeur
Les équipes européennes de santé, de biotechnologie et de pharmacie qui utilisent Claude depuis l'année écoulée reconnaîtront le schéma que cette mise à jour vise à corriger. Un clinicien demandant à Fable 5 de l'aider à interpréter un bilan sanguin, un chercheur en biotechnologie lui demandant de résumer un mécanisme d'action, ou un employé des affaires réglementaires pharmaceutiques lui demandant d'expliquer un terme de toxicologie utilisé dans une étude qu'il lit, pouvaient tous déclencher le même recours prévu pour une requête sur les armes biologiques. Le contournement au sein de nombreuses organisations européennes des sciences de la vie a été informel et discret: reformuler la question, retirer le vocabulaire clinique qui déclenche le filtre, ou tout simplement cesser d'interroger Claude et revenir à un moteur de recherche ou à un collègue.
L'annonce d'Anthropic constitue en fait un aveu que cette friction était réelle et qu'elle avait un coût pour les utilisateurs légitimes, et non une hypothèse soulevée par des critiques. L'entreprise reconnaît que certaines requêtes à faible risque continueront occasionnellement à déclencher les mesures de sécurité, et affirme qu'elle continuera d'affiner le classificateur en fonction des retours des utilisateurs, ce qui ressemble moins à un tour de victoire qu'à un aveu de la part de l'entreprise que son calibrage antérieur était trop grossier pour la façon dont les personnes travaillant dans des domaines réglementés et à enjeux élevés utilisent réellement l'outil.
La taxe de sécurité que d'autres laboratoires d'IA devront aussi recalibrer
Anthropic n'est pas le seul laboratoire d'IA à avoir penché vers une prudence excessive et généralisée sur des domaines scientifiques sensibles, et il ne sera pas le seul à devoir se recalibrer publiquement à mesure que la pression d'adoption s'accentue. Il faut s'attendre à ce qu'OpenAI et Google soient confrontés au même arbitrage: un recours de sécurité large qui bloque une véritable requête sur les armes biologiques bloquera aussi un véritable oncologue, et la pression commerciale pour corriger cela ne fait que croître à mesure que davantage de secteurs réglementés font transiter du travail sérieux par ces modèles. La mise à jour de cette semaine se lit mieux comme le premier mouvement d'une remise à plat sectorielle de l'endroit où se situe réellement la taxe de sécurité en biologie, plutôt que comme une décision isolée d'Anthropic.
Anthropic indique qu'un programme d'accès de confiance qui permettrait à des chercheurs vérifiés de travailler avec une capacité biologique de pointe, sans la restriction générale appliquée à tous les autres, en est encore seulement au stade "en développement". En attendant son lancement, la recommandation pratique pour toute organisation européenne des sciences de la vie reste inchangée: les requêtes cliniques et de recherche légitimes devraient désormais rencontrer beaucoup moins de refus erronés, mais tout ce qui touche sur le plan procédural à la virologie, à la toxicologie ou à la conception moléculaire continuera d'être redirigé vers un modèle moins capable, par conception, et aucune formulation habile ne devrait pouvoir changer cela.
À lire ensuite: Bloquer le robot a publié vos conversations | Le remède aux pannes de Claude arrive en 2027
