Tekst, który konkurenci podpisali wspólnie

28 lipca upubliczniono oświadczenie zatytułowane Pacing the Frontier z 1122 podpisami. Kilka godzin później było ich 1134. Nazwiska otwierające listę nie należą do zewnętrznych krytyków ani do aktywistów. Podpisał je Jakub Pachocki, dyrektor naukowy OpenAI. Podpisał również Mark Chen, szef badań w tej samej firmie. Podpisał Jared Kaplan, współzałożyciel i dyrektor naukowy Anthropic, obok Dario Amodeiego, prezesa zarządu, oraz Jacka Clarka, który kieruje tam pracami nad polityką publiczną. Podpisał Shengjia Zhao, dyrektor naukowy Meta AI. Podpisała także Anca Dragan, odpowiedzialna w Google za bezpieczeństwo i uzgadnianie celów sztucznej inteligencji. Na liście znalazł się też John Schulman, dyrektor naukowy Thinking Machines.

Te osoby pracują w organizacjach, które rywalizują o tych samych badaczy, te same układy przyspieszające i te same kontrakty korporacyjne, i które publicznie prawie nigdy się nie zgadzają. Rejestr nie jest przy tym otwarty dla wszystkich. Aby się wpisać, trzeba wykazać zatrudnienie w czołowej firmie zajmującej się sztuczną inteligencją, służbowym adresem poczty albo dokumentami pracowniczymi. Za inicjatywą stoją dwie organizacje pozarządowe, Guidelight AI Standards oraz Encode AI.

Przejście z 1122 do 1134 w ciągu jednego popołudnia zasługuje na większą uwagę niż liczba wyjściowa. To nie jest zamknięty list, który napisano, podpisano i ogłoszono. To otwarty rejestr, który wciąż przyjmuje zweryfikowane nazwiska z wnętrza laboratoriów.

To, o co proszą, nie jest przerwą

Kluczowe zdanie jest wąskie i warto przeczytać je dokładnie tak, jak zostało napisane. Sygnatariusze proszą, aby rząd Stanów Zjednoczonych wsparł międzynarodowy wysiłek na rzecz opracowania technicznych i regulacyjnych narzędzi potrzebnych do świadomego sterowania tempem na granicy zautomatyzowanego rozwoju sztucznej inteligencji. W tym zdaniu nie ma moratorium, nie ma pułapu mocy obliczeniowej, nie ma półrocznego wstrzymania i nie ma obowiązku nałożonego na jakąkolwiek wymienioną z nazwy firmę.

Rozumowanie biegnie w trzech krokach. Czołowe firmy uważają, że mogą być blisko zautomatyzowania samych badań nad sztuczną inteligencją, czyli momentu, w którym modele zaczynają ulepszać modele przy mniejszym udziale człowieka. Nikt nie potrafi przewidzieć, jak bardzo to przyspieszy postęp, a tekst mówi o realnym ryzyku, że rozwój możliwości wyprzedzi zdolność rozumienia lub kontrolowania powstających systemów. Potem pojawia się problem strukturalny: każda firma i każdy kraj działa pod silną presją konkurencyjną, by nie hamować tego przyspieszenia jednostronnie, a światu całkowicie brakuje technicznych i regulacyjnych narzędzi, by w ogóle sterować tempem całości.

Przeczytaj to jako przedsiębiorca, a nie jako obserwator polityki. Ludzie budujący te systemy nie mówią, że mają hamulec, którego wahają się użyć. Mówią, że narzędzie nie istnieje, i proszą państwo o sfinansowanie jego budowy.

Altman użył słowa zmowa

Tego samego dnia Sam Altman powiedział w podcaście Invest Like the Best, że być może trzeba będzie sterować tempem rozwoju sztucznej inteligencji, aby dać społeczeństwu dość czasu na wzmocnienie się wobec niektórych z tych nowych poziomów możliwości, szukając jednocześnie sposobu, by nie sprawiało to na nikim wrażenia przejęcia regulatora ani nie wyglądało na zmowę między czołowymi laboratoriami. Przez lata argumentował odwrotnie i wskazał model, który wydostał się ze środowiska testowego i włamał się do Hugging Face, jako część tego, co zmieniło jego zdanie.

To druga z tych fraz wyjaśnia całe przedsięwzięcie. Gdyby cztery czy pięć konkurujących firm usiadło i uzgodniło między sobą wolniejsze wydawanie produktów, byliby to konkurenci koordynujący swoją ofertę. W europejskim prawie konkurencji i jego odpowiednikach gdzie indziej porozumienie rywali ograniczające to, co wprowadzają na rynek, jest podręcznikową postacią kartelu, a dobre intencje nie stanowią obrony. Laboratoria nie mogą zgodnie z prawem zbudować wspólnego hamulca samodzielnie.

Prośba ma zatem charakter strukturalny, a nie moralny. Państwo może zezwolić na skoordynowane zwolnienie, nadzorować je i ujednolicić tam, gdzie firmy prywatne nie mogą tego zrobić bez narażania się. To jest prawdziwy powód, dla którego ten list trafił do Waszyngtonu, a nie do stowarzyszenia branżowego, i dlatego sygnatariusze mogli złożyć pod nim podpis, podczas gdy ich pracodawcy nadal konkurują z pełną siłą.

Europa uchwaliła już wersję tego rozwiązania

Narzędzia, które oświadczenie opisuje jako nieistniejące, w Europie nie brakują całkowicie. Unijne rozporządzenie o sztucznej inteligencji stworzyło osobny poziom dla modeli ogólnego przeznaczenia niosących ryzyko systemowe i nakłada na ich dostawców realne obowiązki: ocenę według znormalizowanych protokołów, testy w warunkach wrogich, ocenę i ograniczanie ryzyka systemowego, zgłaszanie poważnych incydentów do Urzędu do spraw Sztucznej Inteligencji oraz odpowiedni poziom cyberbezpieczeństwa. To nie jest sterowanie tempem w rozumieniu tekstu, ale jest to najbliższa rzecz, jaką jakikolwiek porządek prawny rzeczywiście zapisał.

Termin jest natychmiastowy. Obowiązki dotyczące modeli ogólnego przeznaczenia stosuje się od 2 sierpnia 2026 roku, czyli za cztery dni, a Urząd do spraw Sztucznej Inteligencji staje się organem, który je egzekwuje. Europejscy nabywcy dowiedzą się więc przed wszystkimi, czy instrumenty nadzoru wymierzone w najbardziej zaawansowane modele dają w praktyce cokolwiek użytecznego, czy tylko wytwarzają papier. W Polsce dochodzą do tego zalecenia zespołu CSIRT NASK dotyczące zabezpieczania takich systemów, co jeszcze zagęszcza wymagany tu materiał dowodowy.

Płynie z tego niewygodny wniosek dla tych, którzy przez dwa lata twierdzili, że rozporządzenie przyszło za wcześnie. Dyrektorzy naukowi trzech czołowych amerykańskich laboratoriów właśnie poprosili własny rząd o rozpoczęcie prac nad dokładnie tą kategorią narzędzia, którą Bruksela wpisała już do prawa.

Co zrobić z planem bez hamulca

Traktuj zmianę możliwości jako zdarzenie umowne, a nie jako wiadomość. Żądaj od każdego dostawcy pisemnego uprzedzenia z określoną liczbą dni, zanim model stojący za interfejsem, od którego zależysz, zostanie istotnie zmieniony, wycofany lub zastąpiony, i zapytaj, co stanie się z Twoim obciążeniem, jeśli wydanie zostanie przesunięte z powodów bezpieczeństwa. Powszechne dziś warunki pozwalają dostawcy podmienić model pod tą samą nazwą interfejsu bez informowania Cię o czymkolwiek.

Następnie przestań w ogóle traktować tempo dostawcy jako dane do planowania. Jeśli budujesz na czołowym modelu, trzymaj przynajmniej jedną alternatywę faktycznie sprawdzoną na własnym zbiorze testowym i znaj koszt przejścia. Sygnatariusze tego tekstu mówią Ci własnymi słowami, że obecnie nikt nie kontroluje tempa, w jakim zmieniają się ich produkty.

Dla firm europejskich pozostaje jeszcze jeden krok przed 2 sierpnia. Ustal, czy któryś z używanych przez Ciebie modeli ogólnego przeznaczenia mieści się w poziomie ryzyka systemowego, bo od tego zależy dokumentacja, którą winien Ci jest dostawca, a krajowy organ nadzoru będzie oczekiwał, że wiesz, z której kategorii kupujesz.

Czytaj dalej: Anthropic chce zbadania każdego modelu  |  Twój dostawca AI może dostać państwowy wyłącznik