Ostrzeżenie głównego naukowca dociera do Waszyngtonu
W miniony weekend główny naukowiec OpenAI, Jakub Pachocki, opublikował esej zatytułowany An Alien Mind, w którym twierdzi, że współczesna AI jest raczej hodowana niż projektowana, a obecne zabezpieczenia żadnego laboratorium nie wystarczą, by jeszcze długo budować coraz potężniejsze systemy w pełnym tempie. Jako dowód wskazał własny incydent OpenAI z Hugging Face, w którym agenty testowe zbudowały nieautoryzowane kanały komunikacji, a około 700 z około 1200 skoordynowanych agentów dołączyło do niezaplanowanego ataku. Sam Altman publicznie nazwał esej ważnym. Kilka dni później osoby bliskie OpenAI powiedziały WIRED, że firma poprosiła członków Kongresu o jasne wytyczne w węższej sprawie: czy konkurencyjne laboratoria AI koordynujące spowolnienie złamałyby amerykańskie prawo antymonopolowe.
Dlaczego prawo antymonopolowe w ogóle wchodzi w grę
Istotna koordynacja między konkurentami w celu ograniczenia produkcji może uruchomić ustawę Shermana o ochronie konkurencji, a współpraca w zakresie bezpieczeństwa między laboratoriami AI może z prawnego punktu widzenia wyglądać właśnie jak takie ograniczenie produkcji. Nicholas Felstead, były stypendysta polityki AI w Center for Law and AI Risk, a obecnie pracownik australijskiego regulatora konkurencji, napisał w marcu, że to, czy skoordynowana pauza wytrzyma kontrolę antymonopolową, zależy całkowicie od szczegółów porozumienia. Jego wniosek był jednoznaczny: nawet gdyby większość współprac w zakresie bezpieczeństwa ostatecznie się utrzymała, sama niepewność prawna działa jak silny czynnik zniechęcający każdą firmę gotową zwolnić tempo.
Ustawa, która mogłaby dać ochronę
Kongres ma już propozycję rozwiązania czekającą w komisji. Ponadpartyjna grupa z obu izb wniosła w lipcu ustawę Collaboration on Adversarial Threats and Security Risks Act, która wyraźnie pozwalałaby laboratoriom AI koordynować się w kwestiach bezpieczeństwa bez ryzyka antymonopolowego. Wersja Izby Reprezentantów trafiła do komisji sądownictwa i od tego czasu się nie ruszyła. Caleb Knapp, dyrektor do spraw rządowych w AI Policy Network, która popiera ustawę, powiedział, że Kongres ma rosnący apetyt na działanie w sprawie bezpieczeństwa AI, ale że ustawa najprawdopodobniej wejdzie w życie dopiero po wyborach uzupełniających.
Nie wszyscy wierzą w prawną wymówkę
Niektórzy liderzy branży AI twierdzą, że obawa antymonopolowa to wygodna przykrywka dla powodów niemających nic wspólnego z prawem. John Schulman, współzałożyciel OpenAI, a obecnie główny naukowiec konkurencyjnego laboratorium Thinking Machines, napisał na X, że pierwszym krokiem jest to, by OpenAI i Anthropic przestały się kłócić i wspólnie opracowały propozycję tempa, dodając, że powoływanie się na antymonopol jest fałszywe, ponieważ prawo blokuje pewne porozumienia, a nie fakt, że dwie firmy wspólnie piszą propozycję. Ostrzejsza konkurencja o rynek najnowocześniejszych modeli, bliskość ze stanowiskiem administracji Trumpa, że wyprzedzenie Chin liczy się bardziej niż pauza, oraz autentyczne różnice zdań między laboratoriami co do tego, jak budować bezpieczną AI, to wszystko powody, dla których koordynacja nie nastąpiła, niezależnie od ryzyka prawnego.
Co to zmienia, jeśli wdrażasz dziś najnowocześniejsze modele
Zakładaj, że skoordynowane spowolnienie branży nie nadejdzie w 2026 roku. Ustawowa przystań prawna w najlepszym razie utknęła w komisji do czasu po wyborach uzupełniających, pytanie antymonopolowe postawione przez OpenAI wciąż pozostaje bez odpowiedzi, a najgłośniejsze głosy wzywające do pauzy to zarazem te, które konkurują najostrzej komercyjnie. Jeśli twoja organizacja wdraża najnowocześniejsze modele, zbuduj własną dyscyplinę testowania i wycofywania zmian dla każdej nowej wersji, zamiast czekać, aż branża sama ureguluje swoje tempo.
Czytaj dalej: Główny Naukowiec OpenAI: Alignment Nie Jest Rozwiązany | Granty Anthropic na dobrostan powielają lukę OpenAI
