Cosa propongono davvero Sisson e Jiang
Melanie Sisson, senior fellow alla Brookings Institution, e Tianjiao Jiang, professoressa associata alla Fudan University, partecipano da anni al Brookings-Tsinghua US-China AI and National Security Dialogue, un canale informale di secondo livello attivo dal 2019. In un documento pubblicato questo mese raccomandano di vietare formalmente che l'IA lanci armi nucleari o attacchi autonomi ai sistemi di comando, controllo e comunicazione nucleare, ed estendere lo stesso obbligo di autorizzazione umana agli attacchi informatici contro le infrastrutture critiche: finanza, sanità, energia e trasporti. Propongono anche una linea militare diretta USA-Cina per gli incidenti causati da errori dell'IA o da attacchi informatici assistiti dall'IA, costruita su canali di comunicazione della difesa già esistenti, oltre a un gruppo di lavoro congiunto che definisca cosa significhi davvero il "controllo umano significativo", dato che i due paesi oggi usano termini diversi per descriverlo.
Le raccomandazioni si basano direttamente su un accordo del novembre 2024 in cui i presidenti Biden e Xi affermarono che devono essere le persone, non l'IA, a controllare la decisione di usare armi nucleari. Ciò che propongono Sisson e Jiang è il primo tentativo di trasformare quel principio in un meccanismo che funzioni anche per uno scenario di attacco informatico, non solo per una decisione di lancio.
Perché conta: la finestra decisionale è il problema
Jiang indica tre ostacoli concreti alla riuscita pratica di tutto ciò. Gli attacchi informatici possono eseguirsi in millisecondi, più veloci di quanto un essere umano possa reagire fisicamente. L'attribuzione è difficile: spesso non è chiaro nel momento se un attacco assistito da IA sia stato lanciato da uno stato o da un attore non statale. E l'opacità dei sistemi di IA rende difficile per ciascuna parte valutare cosa possano davvero fare i sistemi dell'altra, il che spinge entrambe verso ipotesi peggiori sulle capacità dell'avversario. Una linea diretta, non un trattato, è la risposta proposta, perché un trattato non può essere invocato nei minuti che un incidente reale lascia a disposizione.
La clausola sulle infrastrutture critiche va oltre l'ambito militare. Lo standard proposto, autorizzazione umana obbligatoria prima di qualsiasi attacco informatico capace di causare distruzione materiale, contaminazione ambientale, caos sociale o malattia, lesioni o morte diffuse, si avvicina a un modello di ciò che ogni operatore di sistemi finanziari, sanitari, energetici o di trasporto potrebbe un giorno dover dimostrare: che un essere umano resta nel ciclo decisionale sugli incidenti legati all'IA.
Tempistica: prima di un incontro, non al posto di un incontro
Le raccomandazioni sono state pubblicate prima dell'incontro previsto per il 24 settembre 2026 tra i presidenti Trump e Xi a Washington, e prima di un atteso dialogo formale USA-Cina sull'IA a livello governativo. Sisson e Jiang presentano il documento come materiale per i negoziatori, non come un accordo già raggiunto, e nessuno dei due governi ha approvato le proposte specifiche.
I dialoghi di secondo livello, canali di esperti con accesso informale ai governi ma senza mandato negoziale, hanno una storia concreta nel fornire il vocabolario che gli accordi formali adottano in seguito; la stessa formula sul controllo nucleare di Biden e Xi del 2024 deriva da un processo simile. Se qualcosa di questo linguaggio su linea diretta e linee rosse riemergerà dopo il 24 settembre è ciò che vale la pena osservare ora.
Cosa significa se gestite infrastrutture critiche
Nulla di tutto ciò è vincolante oggi. Ma la clausola proposta sulle infrastrutture critiche anticipa la forma che potrebbero assumere le future aspettative di risposta agli incidenti IA e supervisione umana, non solo per i militari ma anche per gli operatori di finanza, sanità, energia e trasporti. Considerate questo documento un primo segnale di come verrà formalmente definito il "controllo umano" per gli incidenti di sicurezza legati all'IA, e verificate dopo l'incontro Trump-Xi se uno dei due governi lo citerà.
Da leggere ora: OpenAI vuole regole IA, la Casa Bianca dice bufala | L'UE ha spostato la vostra scadenza dell'AI Act di 16 mesi
