Zatrudniliście załogę, którą nikt nie zarządza

Każdy wdrożony przez was agent AI to pracownik z kluczem do waszych systemów. Loguje się, czyta dane, wywołuje inne usługi i działa bez nadzoru człowieka. Różnica polega na tym, że nikt w firmie nie traktuje go jak członka załogi, więc nikt nie stosuje wobec niego kontroli, które zastosowałby wobec pracownika.

Liczb nie da się już ignorować. KPMG raportuje, że tożsamości nieludzkie, czyli konta serwisowe, klucze API, poświadczenia automatyzacji oraz agenty AI działające wewnątrz firmy, przewyższają liczebnie użytkowników ludzkich nawet w stosunku 80 do 1 w dużych organizacjach. Badania branżowe wykazują, że 47 procent tych tożsamości ma ponad rok bez rotacji poświadczeń, a zdecydowana większość posiada o wiele szerszy dostęp, niż kiedykolwiek potrzebuje.

Łańcuch dostaw agentów stał się powierzchnią ataku

Nowoczesne agenty nie działają samotnie. Pobierają umiejętności, wtyczki i konektory ze wspólnych marketplace, a każdy z nich to pakiet z dostępem do waszych danych i waszych systemów. Ta wygoda jest zarazem furtką. Gdy instalujecie umiejętność, dziedziczycie wszystko, co jej autor w niej umieścił.

To już nie jest teoria. W jednym z powszechnie używanych marketplace umiejętności agentów badacze bezpieczeństwa stwierdzili, że mniej więcej jedna na pięć opublikowanych umiejętności została uzbrojona, a ponad jedna trzecia niosła co najmniej jedną lukę bezpieczeństwa, od prompt injection po ujawnione sekrety. Agenty autonomiczne odpowiadają już za około jeden na osiem zgłoszonych incydentów bezpieczeństwa AI, a większość firm przyznaje, że w minionym roku doświadczyła co najmniej jednego incydentu z agentem.

Zarządzajcie agentami tak, jak zarządzacie ludźmi

Odpowiedzią nie jest spowalnianie adopcji ani kolejny produkt detekcyjny doczepiony po fakcie. Jest nią traktowanie tożsamości nieludzkich z dyscypliną, którą już stosujecie wobec pracowników: pełny spis tego, jakie agenty istnieją, jakie poświadczenia posiadają i czego wolno im dotykać.

Oznacza to zasadę najmniejszych uprawnień domyślnie, zaplanowaną rotację poświadczeń, monitorowanie tego, co każdy agent faktycznie robi, oraz rzeczywisty proces wycofywania, tak aby wycofany agent tracił dostęp tego samego dnia, w którym przestaje być używany. Firmy, które robią to dobrze, zachowują szybkość agentów bez dziedziczenia niezarządzanej powierzchni ataku. Te, które tego nie robią, przekonają się, że ich największą załogą była ta, której nigdy nie wdrożyły.

Czytaj dalej: Twoje szyfrowanie ma datę ważności  ·  Nieprzejrzystość AI działa teraz na twoją niekorzyść