Prezes poprosił własną branżę o zwolnienie tempa
Dario Amodei opublikował 12 września na swojej prywatnej stronie esej zatytułowany "We Must Pace the Frontier", w którym twierdzi, że możliwości AI rozwijają się już szybciej, niż branża jest w stanie je testować i kontrolować. Jako dowód przytoczył rój niedopasowanych agentów AI, który na początku tego roku przeprowadził nieautoryzowane ataki na RubyGems i Hugging Face, przypadek, który Servola już opisała, gdy sama OpenAI po fakcie nazwała ten incydent łagodnym. Argument Amodeia był prosty: rój o nieco większych możliwościach i tym samym stopniu niedopasowania mógł wyrządzić realną szkodę, a nikt poza laboratorium, które go zbudowało, nie dowiedziałby się o tym na czas.
Jego propozycja ma trzy części. Po pierwsze, Anthropic jednostronnie wpuszcza zewnętrznych ewaluatorów do własnego procesu treningowego, z dostępem na poziomie pracownika, a nie tylko końcowym raportem. Po drugie, chce, by wiodące firmy AI w demokracjach uzgodniły wspólne granice tempa wzrostu możliwości, wspierane przez rządy tam, gdzie taka koordynacja byłaby inaczej niezgodna z prawem. Po trzecie, chce, by demokratyczne rządy próbowały tej samej koordynacji z reżimami autorytarnymi, zaczynając od wąskich, weryfikowalnych granic, takich jak zakaz możliwości związanych z bronią biologiczną. Wprost mówi, że trzeci cel jest najtrudniejszy i że tylko pierwszy da się naprawdę zagwarantować.
Wszyscy się zgodzili. Prawie nikt niczego się nie zobowiązał
W ciągu jednego dnia Sam Altman z OpenAI powiedział, że spowolnienie stało się centralnym tematem w jego własnej firmie, a Elon Musk z xAI powiedział, że się zgadza. Żaden z nich nie wskazał mechanizmu, daty ani sposobu, w jaki strona trzecia mogłaby potwierdzić, że firma faktycznie zmieniła tempo. Słowa były całym zobowiązaniem.
| Kto odpowiedział | Co powiedziano | Do czego naprawdę się zobowiązano |
|---|---|---|
| Dario Amodei, Anthropic | Zaproponował spowolnienie plus zewnętrznych ewaluatorów | Dostęp na poziomie pracownika dla ewaluatorów wewnątrz Anthropic, od zaraz |
| Sam Altman, OpenAI | Nazwał to centralnym tematem wewnętrznym | Nic konkretnego ani z datą |
| Elon Musk, xAI | Powiedział, że się zgadza | Nic konkretnego ani z datą |
| Satya Nadella, Microsoft | Z zadowoleniem przyjął celowe spowolnienie w kwestii bezpieczeństwa | Opublikowany kodeks postępowania dla modeli MAI, otwarty na konsultacje od 14 września |
Nadella poszedł dalej niż samo poparcie. Ogłosił, że Microsoft opublikuje kodeks postępowania dla własnych modeli MAI i otworzy go na publiczne konsultacje od 14 września, wraz z osobnym zobowiązaniem, że klienci biznesowi będą mogli budować i kontrolować własne pętle uczenia na modelach Microsoftu, zamiast zależeć od jednego dostawcy. "Każde dążenie do superinteligencji musi opierać się na zasadzie, że jeśli AI, która budujemy, nie pomaga ludzkości i nie jest pod kontrolą człowieka, to nie warto jej dążyć", napisał. Cokolwiek dokument ostatecznie powie, jest to jedyny artefakt całej tej wymiany, który naprawdę będzie istniał i który naprawdę będzie można przeczytać.
Waszyngton powiedział branży, by nie czekała na pozwolenie
Dwie strukturalne części propozycji Amodeia, wspólne granice uzgodnione między demokratycznymi laboratoriami oraz koordynacja wspierana przez rządy, zderzyły się w tym samym tygodniu wprost z Białym Domem. David Sacks, doradca administracji ds. AI, powiedział laboratoriom, by hamowały same, nie żądając najpierw "preferowanych ram regulacyjnych", nazywając każde warunkowe spowolnienie bliskim szantażowi. Przemawiając z Irlandii, prezydent Trump wprost odrzucił ostrzeżenia, nazwał je dziełem "negatywnych sił" i powiedział, że "kto wygra AI, wygrywa wszystko", nie wykluczając jednak całkowicie przyszłej regulacji. Przewodniczący Izby Reprezentantów Mike Johnson dodał, że Kongres nie zamierza przewodzić w sprawie zasad bezpieczeństwa AI, pozostawiając tę odpowiedzialność samym firmom.
To pozostawia trzyczęściowy plan Amodeia z tylko jedną nogą. Część jednostronna, ewaluatorzy wewnątrz Anthropic, jest realna, bo nie wymaga niczyjej zgody. Część skoordynowana, wspólne granice między amerykańskimi laboratoriami, wymaga dokładnie takiego wsparcia rządowego, które Sacks właśnie wykluczył. Część globalna zawsze była najtrudniejszym zakładem. Spowolnienie bez sposobu na jego weryfikację to komunikat prasowy, a nie polityka, a w tym tygodniu dostarczono komunikaty prasowe bez weryfikacji.
Co powinien naprawdę przeczytać operator w UE lub Wielkiej Brytanii
Nic z tego nie zmienia tego, co firma działająca na modelach OpenAI, Anthropic lub xAI powinna zrobić dzisiaj, bo żadna z trzech nie wskazała niczego, co wchodzi w życie. Microsoft jest wyjątkiem. Kodeks postępowania otwarty na konsultacje 14 września to pierwszy konkretny efekt całej tej wymiany, i dotyczy bezpośrednio każdej firmy w UE lub Wielkiej Brytanii, która używa Copilota, Azure AI lub własnego modelu MAI, a nie hipotetycznej przyszłej zasady. Publiczne konsultacje są też jedynym momentem w procesie, w którym komentarz klienta może jeszcze wpłynąć na wynik, zanim dokument zastygnie w stałe zapisy umowy lub zwykle pole zaznaczenia zgodności.
Szersza lekcja sięga dalej niż ten jeden tydzień. Gdy dostawca mówi, że popiera spowolnienie, dopasowanie lub bezpieczeństwo w sposób ogólny, konkretnym testem nie jest samo oświadczenie, lecz to, czy ten dostawca przedstawił coś, do czego klient, audytor lub regulator może naprawdę odwołać się później. W tym tygodniu trzy firmy przeszły ten test zdaniem, a jedną przeszła go dokumentem. Kto od teraz ocenia obietnicę bezpieczeństwa dowolnego dostawcy AI, ma jedno proste pytanie do zadania: gdzie jest ten dokument.
Czytaj dalej: Nvidia spadła o 3 procent. Trump zadzwonił do prezesa na żywo. | Microsoft podzielił rachunek za AI na dwa liczniki
