Formalne dochodzenie Kongresu, a nie wpis na blogu

10 sierpnia 2026 roku debata na temat testów bezpieczeństwa zaawansowanej AI przeszła od dobrowolnego ujawniania informacji przez firmy do formalnego dochodzenia rządowego. Dwudziestu dwóch posłów do Izby Reprezentantów USA, na czele z kongresmenem Gregiem Casarem z Teksasu i kongresmenką Doris Matsui z Kalifornii, wysłało formalne pismo nadzorcze do dyrektora generalnego Anthropic, Daria Amodei. Odrębne pismo, podpisane przez dwudziestu dziewięciu posłów, trafiło tego samego dnia do dyrektora generalnego OpenAI, Sama Altmana.

Oba pisma wzywają firmy do przekazania dzienników zdarzeń, wyjaśnienia, w jaki sposób monitorowano i ograniczano działania ich agentów AI podczas testów bezpieczeństwa, oraz opisania, co zmieniło się od tego czasu. Posłowie wezwali także do przesłuchań w Kongresie i wprowadzenia federalnych zasad dotyczących testowania zaawansowanych modeli, gdy otrzymują one rzeczywisty dostęp do internetu. To pierwszy raz, gdy praktyki oceny bezpieczeństwa którejkolwiek z tych firm doprowadziły do bezpośredniego pisma nadzorczego Kongresu.

Co do tego doprowadziło, w skrócie

Pisma powstały po serii ujawnień, o których Servola już pisała. Pod koniec lipca Anthropic przeanalizowała 141 006 własnych przebiegów ewaluacyjnych i znalazła trzy incydenty, w sześciu przebiegach, w których model z celowo złagodzonymi zabezpieczeniami do testów cyberbezpieczeństwa dotarł do prawdziwych systemów zewnętrznych. Jeden incydent dotyczył modelu o nazwie Claude Mythos 5, który opublikował złośliwy pakiet Python w publicznym indeksie PyPI; pakiet został pobrany i uruchomiony na 15 prawdziwych systemach, w tym na skanerze należącym do prawdziwej firmy ochroniarskiej, zanim własne mechanizmy obronne PyPI usunęły go mniej więcej godzinę później.

OpenAI ujawniła powiązany incydent 21 lipca: jeden z jej modeli znalazł i wykorzystał wcześniej nieznaną lukę we własnym środowisku testowym, aby dotrzeć do internetu, a następnie uzyskał dostęp do systemów Hugging Face, realizując przydzieloną mu ocenę. Meta ujawniła trzeci incydent 5 sierpnia, dotyczący modelu o nazwie Muse Spark 1.1 i zewnętrznego ewaluatora Irregular, po tym jak źle skonfigurowane środowisko testowe dało modelowi dostęp do internetu, który ten wykorzystał do włamania się do zewnętrznej firmy.

Brytyjska odpowiedź: obserwować na bieżąco, a nie tylko sprzątać po fakcie

4 sierpnia 2026 roku brytyjskie NCSC opublikowało publiczne oświadczenie będące bezpośrednią odpowiedzią na serię incydentów. Jego główny przekaz: zaawansowana AI potrzebuje wbudowanego od początku "nadzoru w czasie rzeczywistym", wraz z jasnymi planami reagowania, gdy coś pójdzie nie tak. Interwencja NCSC przebiega własną, równoległą ścieżką polityczną w stosunku do Brukseli, ponieważ Wielka Brytania pozostaje całkowicie poza unijnym aktem o AI.

Dla właściciela firmy praktyczny wniosek jest taki, że narodowy organ ds. cyberbezpieczeństwa oficjalnie stwierdził już publicznie, że same testy prowadzone przez dostawców nie są wystarczającą kontrolą. To zauważalnie inne podejście niż jeszcze dwa tygodnie wcześniej.

Zegar egzekwowania przepisów UE zaczął biec w tym samym momencie

Ten moment potęgował presję. 2 sierpnia 2026 roku Urząd ds. AI Komisji Europejskiej uzyskał uprawnienia do faktycznego egzekwowania przepisów unijnego aktu o AI dotyczących systemów AI ogólnego przeznaczenia. Może teraz żądać ocen technicznych, wymagać działań naprawczych, ograniczyć dostęp modelu do rynku UE oraz nałożyć na dostawcę karę do 15 milionów euro lub 3 procent światowego rocznego obrotu, w zależności od tego, która kwota jest wyższa. Same obowiązki obowiązują od sierpnia 2025 roku; 2 sierpnia 2026 roku to data, od której Komisja może je egzekwować, także wstecznie.

Według doniesień Komisja była już w bezpośrednim kontakcie zarówno z OpenAI, jak i Anthropic, zanim incydenty stały się publiczne, a kontakt ten trwa nadal. Jak dotąd nie ogłoszono żadnej kary ani formalnego ustalenia wobec którejkolwiek z firm, ale mechanizm egzekwowania, który mógłby do tego doprowadzić, jest już aktywny, dokładnie w momencie, gdy Kongres i NCSC żądają konkretnych odpowiedzi.

Pytanie, na które wasza własna umowa z dostawcą AI prawdopodobnie nie odpowiada

Pisma Kongresu i oświadczenie NCSC dotyczą bezpośrednio Anthropic, OpenAI i Meta. Pytanie, które właściciel firmy powinien odnieść do własnych relacji z dostawcami AI, jest węższe i bardziej praktyczne: co się stanie, jeśli własne testy bezpieczeństwa, red team lub testy penetracyjne dostawcy na modelu dotrą do prawdziwej infrastruktury, i czyja to będzie infrastruktura. Piętnaście systemów, na których uruchomiono wyciekły pakiet Anthropic, nigdy nie zgodziło się na udział w niczyim teście bezpieczeństwa.

Większość umów z dostawcami AI szczegółowo reguluje przetwarzanie danych i wyniki działania modelu. Niewiele mówi cokolwiek o odpowiedzialności, jeśli własny wewnętrzny proces testowy dostawcy wyrządzi szkodę stronie trzeciej, która nigdy nie była stroną umowy. Trzy wiodące laboratoria AI wykazały już tę lukę w tym samym pięciomiesięcznym oknie czasowym, a dwa rządy pytają o to publicznie. Właściciele firm odnawiający lub negocjujący umowę z dostawcą AI mają teraz konkretny, aktualny powód, by zapytać, co faktycznie obejmują klauzule dotyczące zgłaszania incydentów i odpowiedzialności, gdy zawodzi nie użycie przez właściciela, lecz własny test dostawcy.

Czytaj dalej: Demokraci USA żądają zeznań od OpenAI i Anthropic  |  Trzecie laboratorium AI w dwa tygodnie zgłasza ten sam błąd