Co OpenAI podpisało 16 listopada
OpenAI ogłosiło 16 listopada, że zawarło umowy z Apollo Research, METR, Transluce i Goodfire na pierwszą fazę wbudowanych ocen. Dostęp może obejmować punkty kontrolne modeli, kod źródłowy, dane treningowe i systemy monitorowania. Apollo sprawdza, czy trening nagradzał podstęp i czy dałoby się go wykryć, METR bada to, co OpenAI nazywa swoim dotąd największym przebiegiem uczenia przez wzmacnianie, Transluce audytuje jakość i pokrycie testów dopasowania po treningu, a Goodfire włącza do zespołu badaczy interpretowalności. Apollo i Goodfire przyjmują wynagrodzenie niezależne od wyników, a METR i Transluce nie biorą pieniędzy, choć mogą przyjąć kredyty API lub moc obliczeniową.
Gdzie warunki ograniczają niezależność
Oceniający zachowują prawo do publikacji, ale OpenAI może zaczernić informacje poufne i prosić o opóźnienie ze względu na odpowiedzialne ujawnianie. Spory trafiają najpierw do Safety Advisory Group i kierownictwa, a dopiero potem do Safety and Security Committee, który dostaje też raporty bez zaczernień. OpenAI może odmówić potwierdzenia wypowiedzi z poufnych rozmów z pracownikami, a oceniający mogą wtedy tylko napisać, że odmówiło. Zasady dotyczące konfliktów interesów dopiero powstają, ocena monitorów przez METR nie ma uzgodnionego zakresu, a ośmiotygodniowa ocena uzupełniająca planowana na początek 2027 roku to zamiar, nie zobowiązanie.
O co zapytać dostawcę, który powołuje się na zewnętrzne testy
Naszym zdaniem wbudowany dostęp to realny krok poza kilkudniowy audyt, ale daje pewność tylko w takiej mierze, w jakiej znane są warunki. Jeśli dostawca AI mówi, że jego modele oceniali outsiderzy, zapytaj, co oceniający mogli zobaczyć, kto może zaczernić raport, kto rozstrzyga spory i czy w grę wchodziły pieniądze. Zachowaj odpowiedzi w dokumentacji zakupowej, bo te same pytania dotyczą każdego laboratorium, także europejskiego.
Czytaj dalej: Niezależny audyt, który potrzebował zgody dostawcy | Zewnętrzni badacze wykryli trzy z czterech ataków OpenAI



