Co naprawdę proponują Sisson i Jiang
Melanie Sisson, starsza analityczka w Brookings Institution, oraz Tianjiao Jiang, profesor nadzwyczajna na Uniwersytecie Fudan, od dawna uczestniczą w Brookings-Tsinghua US-China AI and National Security Dialogue, nieformalnym kanale typu drugi tor, działającym od 2019 roku. W dokumencie opublikowanym w tym miesiącu zalecają formalny zakaz samodzielnego odpalania broni jadrowej przez AI lub atakowania systemów dowodzenia, kontroli i łączności jądrowej, a także rozszerzenie tego samego wymogu ludzkiej autoryzacji na cyberataki na infrastrukturę krytyczną: finanse, zdrowie, energetykę i transport. Proponują także bezpośrednią wojskową gorącą linię USA-Chiny dla incydentów spowodowanych błędami AI lub cyberatakami wspomaganymi przez AI, opartą na istniejących kanałach łączności obronnej, a do tego wspólną grupę roboczą, która ma ustalić, co naprawdę oznacza "sensowna ludzka kontrola", skoro oba kraje używają dziś różnych określeń na to samo.
Zalecenia opierają się bezpośrednio na porozumieniu z listopada 2024 roku, w którym prezydenci Biden i Xi potwierdzili, że to ludzie, a nie AI, powinni kontrolować decyzję o użyciu broni jądrowej. To, co proponują Sisson i Jiang, jest pierwszą próbą przełożenia tej jednej zasady na działający mechanizm także dla scenariusza cyberataku, a nie tylko dla decyzji o odpaleniu.
Dlaczego to ważne: oknem decyzyjnym jest problem
Jiang wskazuje trzy konkretne przeszkody w praktycznym działaniu tego rozwiązania. Cyberataki mogą rozgrywać się w milisekundach, szybciej niż człowiek jest w stanie fizycznie zareagować. Przypisanie odpowiedzialności jest trudne: często w danym momencie nie wiadomo, czy atak wspomagany przez AI przeprowadziło państwo, czy podmiot niepaństwowy. A nieprzejrzystość systemów AI utrudnia każdej ze stron ocenę, co naprawdę potrafią systemy drugiej strony, co skłania obie strony do zakładania najgorszego scenariusza co do możliwości przeciwnika. Gorąca linia, a nie traktat, to proponowana odpowiedź, ponieważ traktatu nie można przywołać w ciągu minut, które zostawia prawdziwy incydent.
Klauzula dotycząca infrastruktury krytycznej wykracza poza sferę wojskową. Proponowany standard, obowiązkowa ludzką autoryzacja przed każdym cyberatakiem zdolnym spowodować zniszczenie mienia, skażenie środowiska, chaos społeczny lub powszechną chorobę, obrażenia czy śmierć, przypomina szablon tego, co każdy operator systemów finansowych, medycznych, energetycznych czy transportowych może pewnego dnia musieć udowodnić: że człowiek pozostaje zaangażowany w incydenty związane z AI.
Moment wyboru: przed spotkaniem, nie zamiast niego
Zalecenia opublikowano przed planowanym spotkaniem 24 września 2026 roku między prezydentami Trumpem i Xi w Waszyngtonie, oraz przed oczekiwanym formalnym dialogiem USA-Chiny w sprawie AI na szczeblu rządowym. Sisson i Jiang przedstawiają dokument jako materiał dla negocjatorów, a nie jako już osiągnięte porozumienie, i żaden z dwóch rządów nie zatwierdził konkretnych propozycji.
Dialogi typu drugi tor, kanały ekspertów z nieformalnym dostępem do rządów, ale bez mandatu negocjacyjnego, mają realną historię dostarczania słownictwa, które później przejmują formalne porozumienia; sama formuła kontroli jadrowej Bidena i Xi z 2024 roku wywodzi się z podobnego procesu. Czy cokolwiek z tego języka o gorącej linii czy czerwonych liniach powróci po 24 września, warto teraz obserwować.
Co to oznacza, jeśli zarządzasz infrastrukturą krytyczną
Nic z tego nie jest dziś wiążące. Ale proponowana klauzula dotycząca infrastruktury krytycznej pokazuje z góry, jak mogą wyglądać przyszłe wymogi reagowania na incydenty AI i nadzoru ludzkiego, nie tylko dla wojska, ale także dla operatorów finansów, zdrowia, energetyki i transportu. Traktuj ten dokument jako wczesny sygnał tego, jak formalnie zostanie zdefiniowany "człowiek w pętli" dla incydentów bezpieczeństwa AI, i sprawdź po spotkaniu Trump-Xi, czy któryś z rządów się do niego odniesie.
Czytaj dalej: OpenAI chce zasad AI, Biały Dom mówi o mistyfikacji | UE właśnie przesunęła wasz termin AI Act o 16 miesięcy
