Qué firmó OpenAI el 16 de noviembre
OpenAI anunció el 16 de noviembre que contrató a Apollo Research, METR, Transluce y Goodfire para la primera fase de evaluaciones integradas. El acceso puede incluir puntos de control de modelos, código fuente, datos de entrenamiento y sistemas de monitorización. Apollo comprueba si el entrenamiento premió el engaño y si sería detectable, METR estudia lo que OpenAI llama su mayor ejecución de aprendizaje por refuerzo hasta la fecha, Transluce audita la calidad y la cobertura de las evaluaciones de alineación posteriores al entrenamiento, y Goodfire incorpora investigadores de interpretabilidad. Apollo y Goodfire aceptan una remuneración que no depende de los resultados; METR y Transluce no cobran, aunque pueden aceptar créditos de API o capacidad de cómputo.
Dónde las condiciones limitan la independencia
Los evaluadores conservan el derecho a publicar, pero OpenAI puede tachar información confidencial y pedir retrasos por divulgación responsable. Las disputas van primero a su Safety Advisory Group y a la dirección, y solo después al Safety and Security Committee, que también recibe los informes sin tachar. OpenAI puede negarse a confirmar afirmaciones de conversaciones privadas con empleados, y los evaluadores solo pueden decir entonces que se negó. Las normas sobre conflictos de intereses siguen en redacción, la evaluación de monitores de METR no tiene alcance acordado y el seguimiento de ocho semanas previsto para principios de 2027 es una intención, no un compromiso.
Qué preguntar a un proveedor que cita pruebas externas
A nuestro juicio, el acceso integrado es un paso real más allá de una auditoría de unos días, pero solo ofrece garantías en la medida en que se conocen las condiciones. Si un proveedor de IA dice que externos evaluaron sus modelos, pregunte qué pudo ver el evaluador, quién puede tachar el informe, quién resuelve las disputas y si hubo dinero de por medio. Guarde las respuestas en su expediente de compras, porque las mismas preguntas valen para cualquier laboratorio, también los europeos.
Leer a continuación: La auditoría independiente que necesitó el visto bueno del proveedor | Investigadores externos descubrieron tres de cuatro hackeos de OpenAI



