Hvad Sisson og Jiang egentlig foreslår
Melanie Sisson, senior fellow ved Brookings Institution, og Tianjiao Jiang, lektor ved Fudan-universitetet, har i lang tid deltaget i Brookings-Tsinghua US-China AI and National Security Dialogue, en uformel track-two-kanal, der har kørt siden 2019. I et papir udgivet denne måned anbefaler de et formelt forbud mod, at AI selvstændigt affyrer atomvåben eller angriber nukleare kommando-, kontrol- og kommunikationssystemer, samt det samme krav om menneskelig godkendelse for cyberangreb på kritisk infrastruktur: finans, sundhed, energi og transport. De foreslår desuden en direkte militær USA-Kina-hotline til hændelser udløst af AI-fejl eller AI-drevne cyberangreb, bygget på eksisterende forsvarskommunikationskanaler, samt en fælles arbejdsgruppe, der skal fastlægge, hvad "meningsfuld menneskelig kontrol" egentlig betyder, eftersom de to lande i dag bruger forskellige begreber for det.
Anbefalingerne bygger direkte videre på en aftale fra november 2024, hvor præsidenterne Biden og Xi bekræftede, at det er mennesker, ikke AI, der bør kontrollere beslutningen om at bruge atomvåben. Det, Sisson og Jiang foreslår, er det første forsøg på at omsætte det ene princip til en fungerende mekanisme for et cyberangrebsscenarie, ikke kun for en affyringsbeslutning.
Hvorfor det betyder noget: beslutningsvinduet er problemet
Jiang peger på tre konkrete forhindringer for, at noget af dette kan fungere i praksis. Cyberangreb kan udspille sig på millisekunder, hurtigere end et menneske fysisk kan reagere. Tilskrivning er svær: det er ofte uklart i øjeblikket, om et AI-drevet angreb er udført af en stat eller en ikke-statslig aktør. Og uigennemsigtigheden i AI-systemer gør det svært for begge parter at vurdere, hvad modpartens systemer reelt kan, hvilket presser begge til at antage det værst tænkelige om modpartens evner. En hotline, ikke en traktat, er det foreslåede svar, fordi en traktat ikke kan påberåbes i de minutter, en reel hændelse levner.
Klausulen om kritisk infrastruktur rækker ud over det militære. Den foreslåede standard, menneskelig godkendelse pålagt før ethvert cyberangreb, der kan forårsage tingsskade, miljøforurening, social kaos eller udbredt sygdom, tilskadekomst eller død, ligger tæt på en skabelon for, hvad enhver operatør af finans-, sundheds-, energi- eller transportsystemer på et tidspunkt kan blive bedt om at bevise: at et menneske forbliver involveret i AI-relaterede hændelser.
Timing: før et møde, ikke i stedet for et møde
Anbefalingerne blev offentliggjort før det planlagte møde den 24. september 2026 mellem præsidenterne Trump og Xi i Washington, og før en ventet formel USA-Kina-AI-dialog på regeringsniveau. Sisson og Jiang fremstiller papiret som materiale til forhandlerne, ikke som en allerede indgået aftale, og ingen af de to regeringer har godkendt de konkrete forslag.
Track-two-dialoger, ekspertkanaler med uformel adgang til regeringer, men uden forhandlingsmandat, har en reel historik for at levere det ordforråd, formelle aftaler senere overtager; selve formlen for atomkontrol fra Biden og Xi i 2024 stammer fra en lignende proces. Om noget af dette sprog om hotline eller røde linjer dukker op igen efter den 24. september, er det, der er værd at holde øje med nu.
Hvad det betyder, hvis du driver kritisk infrastruktur
Intet af dette er bindende i dag. Men den foreslåede klausul om kritisk infrastruktur foregriber, hvordan fremtidige forventninger til AI-hændelsesrespons og menneskeligt tilsyn kan komme til at se ud, ikke kun for militæret, men også for operatører inden for finans, sundhed, energi og transport. Betragt dette papir som et tidligt signal om, hvordan "mennesket i løkken" formelt vil blive defineret for AI-sikkerhedshændelser, og tjek efter Trump-Xi-mødet, om en af de to regeringer henviser til det.
Læs videre: OpenAI vil have AI-regler, Det Hvide Hus siger svindel | EU har lige rykket din AI Act-frist med 16 måneder
