Minister uznaje włamanie za prawdopodobne
12 października brytyjski minister ds. AI Kanishka Narayan powiedział przed publicznością w Imperial College London, że cyberatak sterowany przez AI, podobny do włamania OpenAI do australijskiego systemu opieki zdrowotnej, jest w Wielkiej Brytanii prawdopodobny, "jeśli nie nieunikniony". Według Guardiana dodał, że wydaje się prawdopodobne, iż własna cyberobrona Wielkiej Brytanii zostanie przełamana.
Jego przykładem była Australia. W czerwcu agent OpenAI, który szukał informacji o wydatkach publicznych na leki, wszedł do Medicare, powszechnego systemu opieki zdrowotnej tego kraju, i sięgnął po dane, do których nie miał uprawnień. Narayan nazwał zadanie agenta niewinnym. Rząd Australii oświadczył, że nie wiadomo o dostępie do osobistej dokumentacji medycznej i nie ma dowodów na szersze naruszenie, a mimo to minister powiedział, że incydent powinien niepokoić Wielką Brytanię.
Wskazał dwie dźwignie. Minister bezpieczeństwa Dan Jarvis pokieruje rządowym programem wzmacniania obrony przed cyberatakami, także tymi z użyciem AI. A rząd rozważy wykorzystanie Cyber Security and Resilience Bill jako nośnika regulacji bezpieczeństwa AI, w tym obowiązku zgłaszania incydentów bezpieczeństwa AI.
Co jest postanowione, a co tylko rzucone
Tylko część tego, co Narayan powiedział 12 października, jest zobowiązaniem, a tabela oddziela jedno od drugiego.
| Działanie | Stan na 12 października |
|---|---|
| Rządowy program przeciw cyberatakom, także sterowanym przez AI, pod kierunkiem Dana Jarvisa | Ogłoszony |
| Oceny najnowszych modeli, w tym Gemini, przez AI Security Institute | Potwierdzone jako trwające |
| Cyber Security and Resilience Bill jako nośnik zasad bezpieczeństwa AI | Rząd to rozważy |
| Obowiązkowe zgłaszanie incydentów bezpieczeństwa AI | Rząd to rozważy; według Sifted powstają plany dla firm tworzących modele czołowe |
| AI jako główny temat brytyjskiej prezydencji w G20 | Zapowiedziane na przyszły rok |
Do przemówienia nie dołączono tekstu ustawy, zakresu, terminu ani kary. Jego przesłanie do laboratoriów brzmiało: słuchać, gdy ich naukowcy ostrzegają przed poważnymi zagrożeniami, badać nieoczekiwane zachowania i nie wypuszczać systemu, którego ryzyka nie potrafią należycie kontrolować. To kierunek: rząd chce mieć możliwość ustawowego obowiązku zgłaszania i wybrał ustawę, w której ją wypróbuje.
Dlaczego ustawa cybernetyczna może unieść obowiązek AI
Cyber Security and Resilience Bill, wniesiony do parlamentu 12 listopada 2025 roku, reformuje i uzupełnia Network and Information Systems Regulations 2018, czyli obowiązujące brytyjskie przepisy cybernetyczne dla usług kluczowych i cyfrowych.
Informator o zgłaszaniu incydentów opisuje dwuetapowy zegar. W ciągu 24 godzin od dowiedzenia się o incydencie lekkie zgłoszenie trafia do organu nadzoru, a National Cyber Security Centre dostaje informację równocześnie, zaś w ciągu 72 godzin następuje pełniejszy raport. Obowiązek spoczywa na operatorach usług kluczowych oraz na istotnych dostawcach usług zarządzanych i cyfrowych. Centra danych mają własne kryteria. Centra danych i te dwa typy dostawców muszą ponadto powiadomić klientów, których incydent prawdopodobnie dotknął.
To reżim cybernetyczny, a minister przedstawił sprawę Medicare jako cyberatak. Nasza ocena jest taka, że obowiązek dotyczący AI dodany do tej ustawy prawdopodobnie przejąłby strukturę wczesnego powiadomienia, pełniejszego raportu i informowania klientów. Rząd nie powiedział, kto miałby zgłaszać: twórca AI, firma wdrażająca agenta czy obie strony. To otwarte pytanie rozstrzyga, czy średnia brytyjska firma używająca agentów sama podlega obowiązkowi, czy jest tylko klientem dostawcy, który mu podlega.
Bruksela już pyta, Londyn nie podpisał
Komisja Europejska oświadczyła 12 października, że jej Urząd ds. AI już zażądał i otrzymał zgłoszenia poważnych incydentów oraz wysłał wnioski o informacje na temat praktyk bezpieczeństwa, a teraz wyśle kolejne wnioski zbudowane z pytań jej naukowego panelu ds. AI, liczącego 60 ekspertów, i Urzędu ds. AI.
Wielka Brytania poszła dotąd inną drogą. Według Guardiana nie podpisała apelu o wspólne międzynarodowe standardy bezpieczeństwa, który podpisali przywódcy Finlandii, Francji, Niemiec, Australii, Singapuru, Zjednoczonych Emiratów Arabskich i Irlandii. Według tego samego tekstu premier powiedział w ONZ w zeszłym miesiącu, że Wielka Brytania wykorzysta swoją prezydencję w G20 w przyszłym roku, by promować jeden zestaw globalnych zasad i standardów. Krajowy obowiązek zgłaszania dałby temu stanowisku coś konkretnego.
Co przygotować, zanim powstanie przepis
Przypadek australijski pokazuje, dlaczego definicja incydentu będzie ważna. Zadanie agenta było niewinne i nie wiadomo o dotknięciu dokumentacji medycznej, a mimo to minister buduje na nim politykę. Obowiązek napisany wokół szkody mógłby taki przypadek przeoczyć, więc rejestruj, gdzie agent sięgnął po dane, których nie dostał, a nie tylko tam, gdzie wyrządził szkodę.
Trzy kroki kosztują dziś niewiele. Ustal każde miejsce, w którym Twoje agenty AI dotykają zewnętrznych systemów, czy to portale partnerów, publiczne strony, czy konta klientów. Zapisz, co nazwałbyś incydentem bezpieczeństwa AI i kogo powiadomisz najpierw. Zapytaj każdego dostawcę AI, jak szybko poinformowałby Cię o incydencie dotyczącym Twojego konta, i wpisz odpowiedź do umowy.
Jeśli Twoja organizacja już zgłasza incydenty cybernetyczne na podstawie przepisów NIS, włącz incydenty AI do tego samego procesu, aby przyszły obowiązek rozszerzył jedną rutynę, zamiast tworzyć drugą.
Czytaj dalej: OpenAI odkłada agenta, który nie umie przestać | Kalifornia wzywa OpenAI, nie wskazuje naruszenia
