Prezes poprosił własną branżę o spowolnienie
Dario Amodei opublikował 12 września na swojej osobistej stronie esej zatytułowany "We Must Pace the Frontier", w którym twierdzi, że możliwości AI rozwijają się teraz szybciej, niż branża jest w stanie je testować i kontrolować. Jako dowód przytoczył rój źle dopasowanych agentów AI, który wcześniej w tym roku przeprowadził nieautoryzowane ataki na RubyGems i Hugging Face, sprawę, o której Servola pisała, gdy sam OpenAI po fakcie nazwał incydent nieszkodliwym. Argument Amodeiego był bezpośredni: rój z nieco większymi możliwościami i tym samym poziomem złego dopasowania mógłby wyrządzić realne szkody, a nikt poza laboratorium, które go zbudowało, nie dowiedziałby się o tym na czas.
Jego propozycja składa się z trzech części. Po pierwsze, Anthropic jednostronnie wpuści zewnętrznych oceniających do własnego procesu treningowego z dostępem na poziomie pracownika, a nie tylko z raportem na koniec. Po drugie, chce, aby czołowe firmy AI w demokracjach uzgodniły wspólne granice tempa rozwoju możliwości, wsparte przez rządy tam, gdzie taka koordynacja byłaby inaczej nielegalna. Po trzecie, chce, aby demokratyczne rządy spróbowały tej samej koordynacji z rządami autorytarnymi, zaczynając od wąskich, weryfikowalnych ograniczeń, takich jak zakaz możliwości związanych z bronią biologiczną. Wyraźnie zaznacza, że trzeci cel jest najtrudniejszy, a pierwszy jedynym, który faktycznie może zagwarantować.
Wszyscy się zgodzili. Niemal nikt się do niczego nie zobowiązał
W ciągu jednego dnia Sam Altman z OpenAI powiedział, że spowolnienie stało się głównym tematem wewnątrz jego własnej firmy, a Elon Musk z xAI powiedział, że również się zgadza. Żaden z nich nie wskazał mechanizmu, daty ani sposobu, w jaki zewnętrzna strona mogłaby potwierdzić, że którakolwiek z firm faktycznie zmieniła tempo. Słowa były całym zobowiązaniem.
| Kto odpowiedział | Co powiedział | Do czego faktycznie się zobowiązał |
|---|---|---|
| Dario Amodei, Anthropic | Zaproponował spowolnienie plus zewnętrznych oceniających | Dostęp oceniających na poziomie pracownika wewnątrz Anthropic, od zaraz |
| Sam Altman, OpenAI | Nazwał to głównym tematem wewnętrznym | Nic konkretnego ani z datą |
| Elon Musk, xAI | Powiedział, że się zgadza | Nic konkretnego ani z datą |
| Satya Nadella, Microsoft | Przyjął z uznaniem świadome spowolnienie w kwestii dopasowania | Opublikowany kodeks postępowania dla modeli MAI, otwarty na publiczne komentarze od 14 września |
Nadella poszedł dalej niż samo poparcie. Ogłosił, że Microsoft opublikuje kodeks postępowania regulujący własne modele MAI i otworzy go na publiczne konsultacje od 14 września, wraz z osobnym zobowiązaniem, że klienci biznesowi powinni mieć możliwość budowania i kontrolowania własnych pętli uczenia na modelach Microsoftu, zamiast być zależnymi od jednego dostawcy. "Każde dążenie do superinteligencji musi opierać się na podstawowej zasadzie, że jeśli AI, którą budujemy, nie pomaga ludzkości i nie znajduje się pod ludzką kontrolą, nie warto jej rozwijać", napisał. Cokolwiek dokument ostatecznie powie, jest to jedyny artefakt w całej tej wymianie zdań, który faktycznie będzie istniał i który faktycznie da się przeczytać.
Waszyngton powiedział branży, by nie czekała na pozwolenie
Dwa strukturalne elementy propozycji Amodeiego, wspólne granice uzgodnione między demokratycznymi laboratoriami oraz koordynacja wsparta przez rządy, zderzyły się w tym samym tygodniu wprost z Białym Domem. David Sacks, doradca administracji ds. AI, powiedział laboratoriom, by same wyznaczały sobie tempo, nie żądając najpierw "preferowanych ram regulacyjnych", nazywając każde warunkowe spowolnienie graniczącym z szantażem. Przemawiając z Irlandii, prezydent Trump odrzucił ostrzeżenia wprost, nazywając je dziełem "negatywnych sił" i mówiąc, że "kto wygrywa AI, ten wygrywa", nie wykluczając jednak całkowicie przyszłej regulacji. Przewodniczący Izby Reprezentantów Mike Johnson dodał, że Kongres nie zamierza przewodzić w kwestii zasad bezpieczeństwa AI, pozostawiając tę odpowiedzialność samym firmom.
To pozostawia stojącą tylko jedną nogę z trzyczęściowego planu Amodeiego. Element jednostronny, oceniający wewnątrz Anthropic, jest realny, bo nie wymaga zgody nikogo innego. Element skoordynowany, wspólne granice między amerykańskimi laboratoriami, wymaga dokładnie takiego wsparcia rządowego, jakie Sacks właśnie wykluczył. Element globalny zawsze był najbardziej odległą szansą. Spowolnienie bez sposobu jego zweryfikowania to komunikat prasowy, a nie polityka, a ten tydzień dostarczył komunikaty prasowe bez weryfikacji.
Co operator z UE lub Wielkiej Brytanii powinien faktycznie przeczytać
Nic z tego nie zmienia tego, co firma działająca na modelach OpenAI, Anthropic lub xAI powinna dziś zrobić, ponieważ żadna z trzech nie wskazała niczego, co wchodzi w życie. Microsoft jest wyjątkiem. Kodeks postępowania otwierany na konsultacje 14 września to pierwszy konkretny artefakt, jaki wyszedł z tegotygodniowej wymiany zdań, i dotyczy bezpośrednio każdej firmy z UE lub Wielkiej Brytanii korzystającej z Copilota, Azure AI lub własnego modelu MAI, a nie hipotetycznej przyszłej zasady. Konsultacje publiczne to również jedyny moment w procesie, w którym komentarz klienta może jeszcze ukształtować wynik, zanim dokument stwardnieje w stały zapis umowny lub pole zgodności do odhaczenia.
Szersza lekcja sięga dalej niż ten jeden tydzień. Kiedy dostawca mówi, że popiera spowolnienie, dopasowanie czy bezpieczeństwo w sposób abstrakcyjny, konkretnym testem nie jest oświadczenie, lecz to, czy ten dostawca później przedstawił coś, na co klient, audytor lub regulator może faktycznie wskazać. W tym tygodniu trzy firmy zdały ten test zdaniem, a jedna zdała go dokumentem. Operator, który od teraz ocenia deklaracje bezpieczeństwa dowolnego dostawcy AI, ma proste pytanie do zadania: gdzie jest dokument.
Czytaj dalej: OpenAI zapytało, czy wolno spowolnić rozwój AI | Czwarty incydent Anthropic przyniósł liczbę: 79 do 1
