Vad Sisson och Jiang egentligen föreslår
Melanie Sisson, senior fellow vid Brookings Institution, och Tianjiao Jiang, docent vid Fudan-universitetet, har under lång tid deltagit i Brookings-Tsinghua US-China AI and National Security Dialogue, en informell samtalskanal som funnits sedan 2019. I ett dokument som publicerades denna månad rekommenderar de ett formellt förbud mot att AI på egen hand avfyrar kärnvapen eller angriper kärnvapnens kommando-, kontroll- och kommunikationssystem, samt samma krav på mänskligt godkännande för cyberattacker mot kritisk infrastruktur: finans, hälso- och sjukvård, energi och transport. De föreslår också en direkt militär hotline mellan USA och Kina för incidenter som orsakats av AI-fel eller AI-drivna cyberattacker, byggd på befintliga försvarskommunikationskanaler, samt en gemensam arbetsgrupp som ska fastslå vad meningsfull mänsklig kontroll egentligen betyder, eftersom de båda länderna i dag använder olika begrepp för det.
Rekommendationerna bygger direkt vidare på en överenskommelse från november 2024, där presidenterna Biden och Xi bekräftade att det är människor, inte AI, som ska kontrollera beslutet att använda kärnvapen. Det Sisson och Jiang föreslår är det första försöket att omsätta den principen i en fungerande mekanism även för ett scenario med cyberattack, inte bara för ett beslut om avfyrning.
Varför det spelar roll: beslutsfönstret är problemet
Jiang pekar på tre konkreta hinder för att något av detta ska fungera i praktiken. Cyberattacker kan utspela sig på millisekunder, snabbare än vad en människa fysiskt hinner reagera. Att fastställa vem som ligger bakom är svårt: det är ofta oklart i stunden om en AI-driven attack utförts av en stat eller en icke-statlig aktor. Och otydligheten i AI-system gör det svårt för båda sidor att bedöma vad motpartens system egentligen klarar, vilket driver båda sidor att räkna med det värsta om motpartens förmåga. En hotline, inte ett fördrag, är det föreslagna svaret, eftersom ett fördrag inte går att åberopa under de få minuter en verklig incident lämnar kvar.
Klausulen om kritisk infrastruktur sträcker sig längre än det militära området. Den föreslagna standarden, mänskligt godkännande obligatoriskt före varje cyberattack som kan orsaka sakförstörelse, miljöförstöring, socialt kaos eller utbredd sjukdom, skada eller död, liknar en mall för vad varje operatör av finansiella, medicinska system eller energi- och transportsystem en dag kan behöva visa: att en människa förblir delaktig vid AI-relaterade incidenter.
Tidpunkten: före ett möte, inte istället för ett möte
Rekommendationerna publicerades före det planerade mötet den 24 september 2026 mellan presidenterna Trump och Xi i Washington, och före en väntad formell AI-dialog mellan USA och Kina på regeringsnivå. Sisson och Jiang presenterar dokumentet som underlag för förhandlare, inte som en redan träffad överenskommelse, och ingen av de två regeringarna har godkänt de konkreta förslagen.
Sådana informella samtalskanaler, med kontakter som har informell tillgång till regeringar men inget förhandlingsmandat, har en verklig historik av att leverera det ordförråd som formella överenskommelser senare tar över; själva formeln för kärnvapenkontroll från Biden och Xi 2024 härstammar från en liknande process. Om något av detta språk om hotline eller röda linjer dyker upp igen efter den 24 september är det värt att bevaka härnäst.
Vad detta betyder om ni driver kritisk infrastruktur
Inget av detta är bindande i dag. Men den föreslagna klausulen om kritisk infrastruktur ger en försmak av hur framtida krav på hantering av AI-incidenter och mänsklig översyn kan komma att se ut, inte bara för militären utan även för operatörer inom finans, hälso- och sjukvård, energi och transport. Se detta dokument som en tidig signal om hur människans roll i beslutskedjan formellt kommer att definieras för AI-säkerhetsincidenter, och kontrollera efter mötet mellan Trump och Xi om någon av de två regeringarna hänvisar till det.
Läs vidare: OpenAI vill ha AI-regler, Vita huset säger bluff | EU har just flyttat din AI Act-deadline med 16 månader
