Cosa ha firmato OpenAI il 16 novembre
OpenAI ha annunciato il 16 novembre di aver ingaggiato Apollo Research, METR, Transluce e Goodfire per la prima fase di valutazioni integrate. L'accesso può includere checkpoint dei modelli, codice sorgente, dati di addestramento e sistemi di monitoraggio. Apollo verifica se l'addestramento ha premiato l'inganno e se sarebbe rilevabile, METR esamina quella che OpenAI definisce la sua più grande esecuzione di apprendimento per rinforzo finora, Transluce controlla qualità e copertura delle valutazioni di allineamento successive all'addestramento, e Goodfire inserisce ricercatori di interpretabilità. Apollo e Goodfire accettano un compenso che non dipende dai risultati; METR e Transluce non ricevono denaro, ma possono accettare crediti API o capacità di calcolo.
Dove le condizioni limitano l'indipendenza
I valutatori mantengono il diritto di pubblicare, ma OpenAI può oscurare informazioni riservate e chiedere ritardi per la divulgazione responsabile. Le dispute vanno prima al Safety Advisory Group e ai dirigenti, e solo dopo al Safety and Security Committee, che riceve anche i rapporti non oscurati. OpenAI può rifiutarsi di confermare affermazioni di colloqui riservati con i dipendenti, e i valutatori possono allora dire soltanto che ha rifiutato. Le regole sui conflitti di interesse sono ancora in stesura, la valutazione dei monitor di METR non ha un perimetro concordato e il seguito di otto settimane previsto per inizio 2027 è un'intenzione, non un impegno.
Cosa chiedere a un fornitore che cita test esterni
A nostro avviso, l'accesso integrato è un passo concreto oltre un audit di pochi giorni, ma offre garanzie solo nella misura in cui le condizioni sono note. Se un fornitore di IA dice che esterni hanno valutato i suoi modelli, chieda cosa poteva vedere il valutatore, chi può oscurare il rapporto, chi risolve le dispute e se c'è stato denaro di mezzo. Conservi le risposte nel fascicolo acquisti, perché le stesse domande valgono per ogni laboratorio, anche europeo.
Da leggere ora: La revisione indipendente che ha avuto bisogno del via libera del fornitore | Ricercatori esterni hanno scoperto tre hack OpenAI su quattro



