Un asesor, dos cargos, una abstención nueva
OpenAI nombró a Paul Christiano el 9 de septiembre de 2026 para su Foundation Board, como observador sin voto en el consejo de OpenAI Group PBC y como miembro del Safety and Security Committee junto a su presidente, Zico Kolter. Es un nombramiento notable por méritos propios: Christiano dirigió la investigación de alineación en OpenAI entre 2017 y 2021, aportó trabajo fundacional sobre el aprendizaje por refuerzo con retroalimentación humana y después fundó el Alignment Research Center. Bret Taylor, presidente de ambos consejos de OpenAI, lo llamó en el anuncio 'una voz independiente sobre si las salvaguardas del sector son suficientes'.
Esa independencia también es su trabajo principal. Christiano ejerce actualmente como asesor técnico senior en el Center for AI Standards and Innovation (CAISI), la unidad del National Institute of Standards and Technology que evalúa los modelos de IA de frontera por capacidades con implicaciones de seguridad nacional, un papel que ya ocupaba en el predecesor de CAISI, el US AI Safety Institute. El propio anuncio de OpenAI incluye una nota al pie que casi nadie destacó: como asesor técnico senior, Christiano 'se abstendrá de todos los asuntos relacionados con OpenAI, así como de todas las evaluaciones de modelos'. Leído con claridad, dice algo concreto: un evaluador estatal cuyo trabajo incluye valorar modelos de frontera acaba de unirse al órgano de supervisión de uno de los pocos laboratorios cuyos modelos evaluaría en otro caso, y la solución no es la separación, sino una abstención que él mismo debe recordar invocar.
Dos gobiernos, dos respuestas al mismo conflicto
El AI Act de la UE resuelve el mismo problema estructural eliminando la opción que Christiano acaba de recibir: sentarse dentro y salir solo cuando surge de verdad un conflicto. El Artículo 68 de la ley crea un panel científico de hasta 60 expertos independientes para apoyar el trabajo de aplicación de la Oficina de IA europea, alertando sobre riesgos emergentes, ayudando a construir métodos de evaluación y asesorando sobre cómo clasificar los modelos de propósito general. La elegibilidad es el mecanismo entero: cada experto debe demostrar independencia de cualquier proveedor de sistemas de IA o de modelos de IA de propósito general antes de ser nombrado, no después de que aparezca un conflicto en la agenda. Cada uno presenta una declaración pública de intereses, y la Oficina de IA gestiona los conflictos con un procedimiento propio y permanente, en lugar de dejarlo a la memoria de un solo experto.
| Mecanismo | A quién cubre | Cómo se exige la independencia | Qué pasa ante un conflicto |
|---|---|---|---|
| Foundation Board de OpenAI | Un asesor en activo de CAISI/NIST, ahora también observador del consejo | No es requisito para ocupar el puesto | Abstención nombrada en asuntos de OpenAI y evaluaciones de modelos |
| AI Act de la UE, Artículo 68 | Hasta 60 expertos que asesoran a la Oficina de IA | La independencia de cualquier proveedor de IA es condición para el nombramiento | Declaración pública de intereses; la propia Oficina de IA gestiona los conflictos |
Ninguna de las dos estructuras es indefendible por sí misma. Una abstención que realmente se cumple es una protección real, y un puesto en el comité de seguridad de un laboratorio de frontera da a un crítico un acceso que ningún panel externo tiene. Pero no son la misma respuesta a la misma pregunta, y solo una de ellas elimina el conflicto antes de que pueda ocurrir, en lugar de después.
Lo que un equipo de cumplimiento debería vigilar en realidad
Para una empresa europea que sigue a cualquiera de los dos laboratorios como proveedor, la señal útil no es la historia de personal que repitieron la mayoría de los medios: el propio titular de TechCrunch llamó a Christiano 'un prominente doomer de la IA', que es un marco de personalidad, no de gobernanza. La señal útil es que OpenAI optó por una supervisión basada en abstención la misma semana en que Anthropic perdió a dos empleados de seguridad por completo, incluido el responsable de alineación Evan Hubinger, que dijo a sus compañeros al salir que sitúa por encima del diez por ciento la probabilidad de que la IA cause la extinción humana en una década. Un laboratorio mantiene a sus críticos internos dentro de la sala con una cláusula de abstención; el otro los ve marcharse. Ambos resultados son visibles públicamente, y ambos forman ya parte del historial real sobre cómo cada empresa gestiona el desacuerdo sobre sus propios márgenes de seguridad, exactamente el historial que un proveedor de un modelo de riesgo sistémico bajo el AI Act debería estar construyendo de todos modos, piense o no en Bruselas al tomar la decisión.
Servola Journal
Hacemos esto por todos los que intentan mantenerse al día con lo que la tecnología le está haciendo a nuestras vidas. Las personas que la construyen, y las personas a las que les ocurre. Servola Journal existe para que lo que aprendemos pertenezca a todos ellos.
Nadie nos paga por esto. Sin anuncios, sin muro de pago, gratis para todos. Simplemente creemos que entender lo que nos está pasando a todos no debería depender de quién pueda permitirse pagar por ello.
Si esto te dio algo hoy, dinos que sigamos adelante. Síguenos, deja un me gusta, o escribe un comentario positivo. Leemos cada uno, y son lo que nos mantiene en marcha.
Leer a continuación: Solo Bruselas puede ya obligar a su proveedor | El jefe de alineamiento pone cifra al riesgo de IA
