Ce que Sisson et Jiang proposent vraiment
Melanie Sisson, chercheuse senior à la Brookings Institution, et Tianjiao Jiang, professeure associée à l'université Fudan, participent depuis longtemps au dialogue USA-Chine Brookings-Tsinghua sur l'IA et la sécurité nationale, un canal informel de type piste deux actif depuis 2019. Dans un document publié ce mois-ci, elles recommandent d'interdire formellement à l'IA de lancer des armes nucléaires ou d'attaquer les systèmes de commandement, de contrôle et de communication nucléaires de sa propre initiative, et d'étendre la même exigence d'autorisation humaine aux cyberattaques visant les infrastructures critiques: finance, santé, énergie et transports. Elles proposent aussi une ligne militaire directe USA-Chine pour les incidents déclenchés par des erreurs d'IA ou des cyberattaques assistées par IA, bâtie sur des canaux de communication de défense déjà existants, ainsi qu'un groupe de travail conjoint chargé de définir ce que signifie vraiment un "contrôle humain significatif", les deux pays employant aujourd'hui des termes différents.
Ces recommandations s'appuient directement sur un accord de novembre 2024 dans lequel les présidents Biden et Xi ont affirmé que ce sont des humains, et non l'IA, qui doivent contrôler la décision d'utiliser des armes nucléaires. Ce que proposent Sisson et Jiang est la première tentative de transformer ce principe en un mécanisme qui fonctionne aussi pour un scénario de cyberattaque, pas seulement pour une décision de tir.
Pourquoi c'est important: la fenêtre de décision est le problème
Jiang identifie trois obstacles concrets à la mise en pratique de tout cela. Les cyberattaques peuvent s'exécuter en quelques millisecondes, plus vite qu'un humain ne peut réagir physiquement. L'attribution est difficile: on ignore souvent, sur le moment, si une attaque assistée par IA a été lancée par un État ou par un acteur non étatique. Et l'opacité des systèmes d'IA empêche chaque partie d'évaluer ce que les systèmes de l'autre peuvent vraiment faire, ce qui pousse les deux camps à supposer le pire sur les capacités de l'adversaire. Une ligne directe, pas un traité, voilà la réponse proposée, parce qu'un traité ne peut pas être invoqué dans les minutes que laisse un incident réel.
La clause sur les infrastructures critiques va au-delà du domaine militaire. La norme proposée, une autorisation humaine obligatoire avant toute cyberattaque capable de causer destruction matérielle, contamination environnementale, chaos social ou maladie, blessures ou décès à grande échelle, s'apparente à un modèle de ce que tout opérateur de systèmes financiers, sanitaires, énergétiques ou de transport pourrait un jour devoir démontrer: qu'un humain reste dans la boucle décisionnelle pour les incidents liés à l'IA.
Le moment choisi: avant une rencontre, pas à la place d'une rencontre
Ces recommandations ont été publiées avant la rencontre prévue le 24 septembre 2026 entre les présidents Trump et Xi à Washington, et avant un dialogue formel USA-Chine sur l'IA attendu au niveau gouvernemental. Sisson et Jiang présentent ce document comme une base de travail pour les négociateurs, pas comme un accord déjà conclu, et aucun des deux gouvernements n'a approuvé ces propositions précises.
Les dialogues de type piste deux, des canaux d'experts ayant un accès informel aux gouvernements mais sans mandat de négociation, ont une vraie histoire: ils fournissent souvent le vocabulaire que les accords formels reprennent ensuite; la formule même de contrôle nucléaire de Biden et Xi de 2024 provient d'un processus similaire. Reste à observer si ce langage sur la ligne directe ou les lignes rouges refera surface après le 24 septembre.
Ce que cela signifie si vous gérez des infrastructures critiques
Rien de tout cela n'est contraignant aujourd'hui. Mais la clause proposée sur les infrastructures critiques donne un aperçu de ce à quoi pourraient ressembler les futures exigences de réponse aux incidents liés à l'IA et de supervision humaine, pas seulement pour les militaires mais aussi pour les opérateurs de la finance, de la santé, de l'énergie et des transports. Considérez ce document comme un signal précoce de la manière dont sera formellement défini le "contrôle humain" pour les incidents de sécurité liés à l'IA, et vérifiez après la rencontre Trump-Xi si l'un des deux gouvernements y fait référence.
À lire ensuite: OpenAI veut des règles, la Maison Blanche dit canular | L'UE vient de décaler votre échéance de l'AI Act de 16 mois
