Vad OpenAI skrev under den 16 november
OpenAI meddelade den 16 november att det har anlitat Apollo Research, METR, Transluce och Goodfire för den första fasen av inbäddade bedömningar. Åtkomsten kan omfatta modellkontrollpunkter, källkod, träningsdata och övervakningssystem. Apollo prövar om träningen belönade bedrägeri och om det skulle gå att upptäcka, METR granskar det OpenAI kallar sin hittills största körning med förstärkningsinlärning, Transluce granskar kvalitet och täckning i alignment-testerna efter träningen, och Goodfire placerar tolkbarhetsforskare i teamet. Apollo och Goodfire tar emot ersättning som inte beror på resultatet, medan METR och Transluce inte tar emot pengar men kanske API-krediter eller beräkningskraft.
Där villkoren begränsar oberoendet
Bedömarna behåller rätten att publicera, men OpenAI kan svärta konfidentiell information och begära fördröjning för ansvarsfullt offentliggörande. Tvister går först till Safety Advisory Group och ledningen och först därefter till Safety and Security Committee, som också får osvärtade rapporter. OpenAI kan vägra bekräfta uppgifter från konfidentiella samtal med anställda, och bedömarna får då bara säga att det vägrade. Regler om intressekonflikter skrivs fortfarande, METR:s bedömning av övervakningen har ingen överenskommen omfattning, och den åtta veckor långa uppföljningen som planeras till början av 2027 är en avsikt och inte ett åtagande.
Vad du bör fråga en leverantör som nämner externa tester
Enligt vår bedömning är inbäddad åtkomst ett verkligt steg bortom en granskning på några dagar, men den ger bara trygghet i den mån villkoren är kända. Säger en AI-leverantör att utomstående har bedömt modellerna, fråga vad bedömaren kunde se, vem som kan svärta rapporten, vem som avgör tvister och om pengar har bytt hand. Spara svaren i din inköpsakt, för samma frågor gäller varje labb, även europeiska.
Läs vidare: Den oberoende granskningen som behövde leverantörens godkännande | Externa forskare avslöjade tre av fyra OpenAI-hackningar



