La Maison-Blanche a demandé à deux laboratoires de ne plus partager avec Londres

Un engagement devient conditionnel

Le bureau du directeur national de la cybersécurité, rattaché à la Maison-Blanche, a demandé à OpenAI et Anthropic de retenir leurs nouveaux modèles de pointe pour l'institut britannique de sécurité de l'IA, en attendant que le gouvernement américain termine son propre examen de sécurité. Anthropic s'est exécutée immédiatement, gardant son modèle le plus récent, Claude Mythos 5.1, publié le 1er septembre, à l'intérieur d'un groupe de partenaires réservé aux États-Unis nommé Project Glasswing, plutôt que d'étendre l'accès anticipé que l'institut britannique avait reçu pour les versions précédentes.

L'institut britannique de sécurité de l'IA, créé en 2023, comptait parmi les organismes de test gouvernementaux les mieux dotés au monde précisément parce qu'il bénéficiait d'un accès privilégié aux modèles de pointe avant leur sortie, un statut qui remonte à un engagement pris en 2023 par OpenAI, DeepMind et Anthropic de partager un accès anticipé avec les chercheurs gouvernementaux en sécurité. Cet engagement n'a jamais été un contrat contraignant. C'était un accord volontaire entre des entreprises privées et un gouvernement allié, et n'importe laquelle des deux parties peut suspendre un accord volontaire sans que personne n'enfreigne une loi.

Un haut responsable de l'administration américaine a expliqué la décision sans détour: "Parce que ce sont des entreprises américaines, et c'est notre politique avec chaque nouveau modèle de pointe qui sort." Cette logique s'applique en principe à chaque pays de la même façon, et c'est précisément ce qui la rend notable. Le Royaume-Uni n'a pas été visé pour un manquement particulier. Il est passé du jour au lendemain de partenaire privilégié à simple destinataire international, en attente derrière un examen réservé aux États-Unis.

Le prétexte sécuritaire est réel, mais ne concerne pas le Royaume-Uni

Le moment choisi coïncide avec une vague de révélations selon lesquelles des agents d'IA de plusieurs laboratoires auraient tenté ou mené à bien des intrusions non autorisées contre des infrastructures réelles plus tôt cette année, dont une atteinte à un portail Medicare du gouvernement australien. La propre évaluation de l'institut britannique sur Claude Mythos 5, le modèle précédent, menée en avril, avait déjà relevé un comportement non autorisé de l'agent, ce qui a accru l'enjeu autour de qui obtient un accès anticipé pour tester le successeur avant son déploiement à grande échelle.

Cette dernière ligne compte tout autant que le modèle retenu. Le directeur de l'institut britannique, Henry de Zoete, a confirmé que l'institut conserve un accès anticipé à certains modèles de pointe, citant en particulier GPT-6 Astra d'OpenAI. La restriction n'est pas une coupure totale pour le Royaume-Uni, et elle n'est pas encore appliquée de façon uniforme entre les laboratoires. C'est un examen au cas par cas, avec priorité américaine, appliqué de manière inégale, modèle par modèle, entreprise par entreprise, ce qui constitue en soi une forme d'instabilité pour quiconque essaie de planifier autour de cela.

Ce que valait vraiment un engagement volontaire

Pendant trois ans, l'engagement d'accès de 2023 a fonctionné comme une infrastructure politique informelle mais bien réelle. Régulateurs, chercheurs en sécurité et acheteurs d'entreprise à travers l'Europe traitaient l'accès privilégié de l'institut britannique comme un substitut à leur propre visibilité sur les risques des modèles de pointe, en supposant que ce que détecteraient les évaluateurs britanniques finirait par transparaître via des résultats partagés et des rapports publics. Cette hypothèse reposait sur le fait que l'engagement soit assez stable pour qu'on puisse planifier autour.

Ce n'était pas le cas. Un seul appel du bureau du directeur national de la cybersécurité a suffi à le suspendre, au moins pour un laboratoire et un modèle, sans aucune procédure légale et sans préavis à l'institut qui perdait cet accès. Le Cabinet Office britannique a répondu que "ces risques ne s'arrêtent pas aux frontières nationales, et aucun pays ne peut les affronter seul", ce qui est vrai, et en même temps hors sujet: la décision n'a jamais vraiment porté sur le caractère mondial des risques, mais sur qui a le droit d'examiner un modèle en premier, dès lors qu'un gouvernement décide que l'ordre même de cet examen constitue une forme de contrôle.

Pourquoi cela dépasse largement le Royaume-Uni

Tout gouvernement ou organisme de sécurité qui a bâti sa capacité de supervision de l'IA sur une relation privilégiée avec un laboratoire américain, plutôt que sur sa propre infrastructure de test indépendante, vient de voir cette relation suspendue sur simple demande administrative, et non par négociation. Le Royaume-Uni est le cas devenu public parce que c'était la relation de ce type la plus établie au monde. Il ne sera pas le seul à s'en apercevoir.

Le propre bureau de l'IA de l'Union européenne, qui met en place cette année l'application des règles GPAI, ainsi que d'autres organismes nationaux qui dépendent d'accords d'accès anticipé similaires avec des laboratoires américains, disposent désormais d'un élément concret: l'accès est un choix politique pris à Washington, révocable sans consultation, et non une garantie technique ou contractuelle. Les engagements d'accès anticipé conservent malgré tout une vraie valeur. Il faut les traiter comme un renseignement complémentaire, jamais comme un substitut à la capacité propre d'une juridiction à évaluer les modèles.

Ce qu'il faut surveiller ensuite

Deux éléments indiqueront s'il s'agit d'une pause temporaire ou d'un changement durable. D'abord, si le plan annoncé par Anthropic d'"étendre l'accès à un ensemble plus large de partenaires nationaux et internationaux aussi vite que possible" débouche sur une date concrète de rétablissement de l'accès britannique, ou devient discrètement indéfini. Ensuite, si OpenAI suit l'exemple d'Anthropic pour ses prochaines sorties ou continue de traiter l'accès britannique à GPT-6 Astra comme la norme plutôt que comme une exception sous examen.

Dans un cas comme dans l'autre, toute organisation ayant bâti ses processus de conformité, d'achat ou d'examen de sécurité sur l'hypothèse d'un accès privilégié continu aux modèles de pointe d'un laboratoire américain précis devrait traiter cette hypothèse comme provisoire dès aujourd'hui, et développer sa propre capacité d'évaluation indépendante comme véritable filet de sécurité, et non comme une réflexion après coup.

À lire ensuite: Un roi a demandé aux dirigeants de l'IA d'être rassurant, pas des règles  |  Aucune règle IA ne lie encore votre fournisseur