Co właśnie uruchomiły OpenAI i Anthropic?
OpenAI przedstawiło Daybreak, program cyberbezpieczeństwa, który łączy najnowsze modele firmy z automatyczną analizą kodu, aby obsługiwać modelowanie zagrożeń, identyfikację luk, łatanie i usuwanie podatności przy minimalnym udziale człowieka. Jest on powszechnie odczytywany jako odpowiedź OpenAI na skoncentrowany na bezpieczeństwie Project Glasswing firmy Anthropic. Dwa z najzdolniejszych laboratoriów AI dostarczają teraz autonomiczną obronę cybernetyczną, co pokazuje, w którą stronę zmierza ta dziedzina.
Dlaczego to ostrzeżenie, a nie tylko produkt?
Obrońcy nie automatyzują działań w tempie maszynowym dla wygody. Robią to dlatego, że ataki już teraz poruszają się tak szybko. AI pozwala teraz atakującemu sondować system, znaleźć słabość i ją wykorzystać w ciągu minut, a nie tygodni, i to w skali, której żaden ludzki zespół nie jest w stanie śledzić ręcznie. Kiedy najlepiej wyposażone laboratoria dochodzą do wniosku, że obrona w ludzkim tempie nie wystarcza już dla ich własnych systemów, jest to najwyraźniejszy jak dotąd sygnał dla wszystkich pozostałych.
Na czym polega ryzyko samej autonomicznej obrony?
Powierzenie autonomicznemu systemowi kluczy do własnej infrastruktury wprowadza nowe zagrożenie. Narzędzie, które potrafi załatać system, może go też błędnie ocenić, zmienić niewłaściwą rzecz albo zostać zmanipulowane, a robi to wszystko szybciej, niż człowiek zdąży to wychwycić. Nie chodzi o to, by unikać obrony AI; chodzi o to, że autonomiczne bezpieczeństwo bez nadzoru przenosi ryzyko, zamiast je usuwać. Ktoś wciąż musi decydować, co system ma prawo zmieniać, i kto odpowiada za to, gdy popełni błąd.
Czytaj dalej: Czy nadal powinieneś stawiać firmę na jeden model AI? · Dlaczego największy koszt SI to dziś miesięczny rachunek za najem?