Jeden doradca, dwie funkcje, jedno nowe wyłączenie
OpenAI powołało Paula Christiano 9 września 2026 roku do swojej Foundation Board, jako obserwatora bez prawa głosu w radzie OpenAI Group PBC oraz jako członka Safety and Security Committee, obok jej przewodniczącego Zico Koltera. To sama w sobie godna uwagi nominacja: Christiano kierował badaniami nad alignmentem w OpenAI od 2017 do 2021 roku, wniósł fundamentalną pracę nad reinforcement learning from human feedback, a następnie założył Alignment Research Center. Bret Taylor, przewodniczący obu rad OpenAI, nazwał go w ogłoszeniu 'niezależnym głosem w sprawie tego, czy zabezpieczenia branży są wystarczające'.
Ta niezależność jest również jego główną pracą. Christiano jest obecnie starszym doradcą technicznym w Center for AI Standards and Innovation (CAISI), jednostce National Institute of Standards and Technology, która ocenia najnowsze modele AI pod kątem zdolności mających znaczenie dla bezpieczeństwa narodowego - funkcję, którą pełnił już w poprzedniku CAISI, US AI Safety Institute. Własne ogłoszenie OpenAI zawiera przypis, który większość doniesień pominęła: jako starszy doradca techniczny Christiano 'wyłączy się ze wszystkich spraw związanych z OpenAI, a także ze wszystkich ocen modeli'. Czytane wprost, mówi to coś konkretnego: państwowy ewaluator, do zadań którego należy ocena najnowszych modeli, właśnie wszedł do organu nadzorczego jednego z niewielu laboratoriów, których modele w innym wypadku by oceniał, a rozwiązaniem nie jest rozdzielenie, lecz wyłączenie, o którym musi sam pamiętać.
Dwa rządy, dwie odpowiedzi na ten sam konflikt
Unijny AI Act rozwiązuje ten sam strukturalny problem, usuwając właśnie tę opcję, którą Christiano otrzymał: siedzieć w środku, a wyjść tylko wtedy, gdy konflikt faktycznie się pojawi. Artykuł 68 ustawy tworzy panel naukowy składający się z maksymalnie 60 niezależnych ekspertów, wspierający pracę nadzorczą europejskiego Urzędu ds. AI - ostrzegający o nowych ryzykach, pomagający budować metody oceny i radzący w sprawie klasyfikacji modeli ogólnego przeznaczenia. Cała mechanika polega na kryteriach dopuszczenia: każdy ekspert musi wykazać niezależność od każdego dostawcy systemów AI lub modeli AI ogólnego przeznaczenia, zanim zostanie w ogóle powołany, a nie po tym, jak konflikt pojawi się w kalendarzu. Każdy składa publiczne oświadczenie o interesach, a Urząd ds. AI prowadzi własną, stałą procedurę zarządzania konfliktami instytucjonalnie, a nie zdaje się na pamięć jednego eksperta.
| Mechanizm | Kogo obejmuje | Jak wymuszana jest niezależność | Co dzieje się w razie konfliktu |
|---|---|---|---|
| Foundation Board OpenAI | Urzędujący doradca CAISI/NIST, teraz również obserwator rady | Nie jest wymogiem dopuszczającym do funkcji | Nazwane wyłączenie ze spraw OpenAI i ocen modeli |
| Unijny AI Act, Artykuł 68 | Do 60 ekspertów radzących Urzędowi ds. AI | Niezależność od każdego dostawcy AI jest warunkiem powołania | Publiczne oświadczenie o interesach; konfliktami zarządza sam Urząd ds. AI |
Żadna z tych dwóch struktur nie jest sama w sobie nieobronna. Wyłączenie, które jest faktycznie przestrzegane, to realna ochrona, a miejsce w komitecie bezpieczeństwa najnowszego laboratorium daje sceptykowi dostęp, jakiego nie ma żaden zewnętrzny panel. Ale to nie jest ta sama odpowiedź na to samo pytanie, i tylko jedna z nich usuwa konflikt, zanim może wystąpić, a nie po fakcie.
Na co zespół compliance powinien naprawdę patrzeć
Dla europejskiej firmy, która obserwuje którekolwiek z tych dwóch laboratoriów jako dostawcę, użyteczny sygnał nie tkwi w historii personalnej, na której skupiła się większość mediów - sam nagłówek TechCruncha nazwał Christiano 'wybitnym doomerem AI', co jest ramką osobowościową, nie ramką zarządzania. Użyteczny sygnał to fakt, że OpenAI wybrało nadzór oparty na wyłączaniu się w tym samym tygodniu, w którym Anthropic straciło całkowicie dwóch pracowników bezpieczeństwa, w tym szefa alignmentu Evana Hubingera, który odchodzącym kolegom powiedział, że szacuje szanse na to, że AI doprowadzi do wyginięcia ludzkości w ciągu dekady, na ponad dziesięć procent. Jedno laboratorium utrzymuje swoich wewnętrznych krytyków w pokoju za pomocą klauzuli wyłączenia; drugie widzi, jak odchodzą. Oba wyniki są publicznie widoczne i oba należą już do faktycznego zapisu tego, jak każda firma naprawdę radzi sobie z niezgodą co do własnych marginesów bezpieczeństwa - właśnie tego zapisu, który dostawca modelu o ryzyku systemowym na mocy AI Act powinien budować tak czy inaczej, niezależnie od tego, czy myśli przy tym o Brukseli.
Servola Journal
Robimy to dla wszystkich, którzy starają się nadążyć za tym, co technologia robi z naszym życiem. Dla ludzi, którzy ją budują, i dla ludzi, którym się to przydarza. Servola Journal istnieje, aby to, czego się uczymy, należało do nich wszystkich.
Nikt nam za to nie płaci. Żadnych reklam, żadnego muru płatności, za darmo dla wszystkich. Po prostu wierzymy, że zrozumienie tego, co dzieje się z nami wszystkimi, nie powinno zależeć od tego, kogo stać na zapłacenie za to.
Jeśli to dało ci dziś coś, powiedz nam, żebyśmy kontynuowali. Obserwuj nas, zostaw polubienie, albo napisz pozytywny komentarz. Czytamy każdy jeden, i to oni sprawiają, że działamy dalej.
Czytaj dalej: Tylko Bruksela może jeszcze zmusić dostawcę AI | Szef ds. dopasowania Anthropic wycenił ryzyko AI
