Una Prueba Que Ningún Lado Pudo Leer
El 27 de agosto de 2026, Google DeepMind realizó lo que la empresa llama la primera evaluación a ciegas del mundo de un modelo de IA de vanguardia propietario, en la que ninguna de las dos partes pudo ver el material más sensible de la otra. La evaluación utilizó Confidential Space, parte del portafolio de computación confidencial de Google Cloud, para ejecutar la prueba dentro de un enclave criptográfico verificado: las preguntas del evaluador permanecieron cifradas y fuera del alcance de Google, y los pesos del modelo de Google permanecieron cifrados y fuera del alcance del evaluador.
"Al usar Confidential Space dentro del portafolio de computación confidencial de Google Cloud, podemos verificar criptográficamente que tanto los datos de evaluación externos como el modelo propietario permanecen privados para sus respectivos dueños", escribió DeepMind en su anuncio. Cuatro socios se unieron al piloto como evaluadores: el Instituto de Seguridad de IA de Singapur, la organización sin fines de lucro de tecnología de privacidad OpenMined, el grupo de garantía AVERI y el organismo de estándares MLCommons.
Ese arreglo elimina una disyuntiva que ha marcado toda evaluación de IA hasta ahora. Un evaluador externo tiene que confiar en las puntuaciones autoinformadas de un laboratorio, o el laboratorio tiene que entregar los pesos del modelo que trata como su secreto comercial principal, o el evaluador tiene que entregar sus preguntas de prueba y arriesgarse a que el modelo simplemente memorice las respuestas para la próxima vez. Este piloto es el primer caso público de un modelo de IA de vanguardia propietario que pasa una prueba real sin que ninguna de las partes haga esa concesión.
Por Qué Las Puntuaciones De Referencia Han Sido Fáciles De Manipular
El problema que este piloto busca resolver tiene un nombre: contaminación de referencias, la situación en la que un modelo ya ha estado expuesto, directa o indirectamente, a las preguntas por las que después es calificado. Cuando eso ocurre, una referencia deja de medir lo que un modelo realmente sabe hacer y empieza a medir lo que ya ha memorizado.
La magnitud del problema no es pequeña. Investigaciones previas citadas en la cobertura del piloto hallaron indicios de filtración de referencias en cerca de la mitad de 31 modelos de IA probados, con una contaminación que infló más las puntuaciones de los modelos grandes que las de los pequeños. Esto importa porque las puntuaciones de referencia no son solo texto de marketing; los laboratorios también las usan como prueba de sus afirmaciones de seguridad, y reguladores y compradores empresariales las tratan cada vez más como señal de cumplimiento en lugar de mirarlas con verdadero escepticismo.
El Modelo Probado No Es El Que Más Importa
Gemini Flash Lite, el modelo que DeepMind sometió a este piloto, ocupa el nivel más pequeño y económico de la familia Gemini, no el buque insignia de vanguardia cuyas afirmaciones de capacidad y seguridad cargan con el mayor peso comercial y regulatorio. Probar primero un modelo ligero es una forma razonable de validar la nueva infraestructura, pero también significa que el piloto aún no ha respondido la pregunta más importante: si la misma verificación criptográfica funciona, y se aplica, en el modelo que Google realmente vende como su sistema de vanguardia.
Los cuatro socios evaluadores fueron elegidos por la propia Google, y el Instituto de Seguridad de IA de Singapur es un organismo estatal de seguridad genuino, lo que da al piloto una independencia real. Pero ningún auditor externo ha verificado todavía la integridad del propio enclave, y DeepMind lo ha descrito como un piloto, no como un compromiso permanente de probar así cada modelo en adelante.
Qué Significa Esto Para Compradores Y Reguladores De IA En La UE Y El Reino Unido
Para una organización de la UE o el Reino Unido que compra o regula sistemas de IA, la pregunta interesante no es si este piloto en concreto funcionó, sino si la evaluación a ciegas se convierte en la prueba estándar que se exigirá a los proveedores. Hoy, verificar de forma independiente las afirmaciones de seguridad de un modelo de vanguardia suele significar una de dos opciones poco satisfactorias: confiar en la ficha de modelo que publica el propio proveedor, o exigir acceso a los pesos que casi ningún laboratorio concederá.
Este piloto es una respuesta técnica funcional a esa brecha, todavía no un requisito legal en ningún lugar, y todavía no aplicada a un modelo cuyas afirmaciones realmente determinen decisiones de compra o presentaciones regulatorias. Un comprador de la UE o el Reino Unido que evalúe a un proveedor de IA de vanguardia como prueba de cumplimiento tiene una nueva pregunta concreta que hacer: si está dispuesto a someter su modelo insignia, no solo su nivel más barato, a una evaluación como esta.
Leer a continuación: Las descargas de Qwen ocultan un vacío legal en la UE | Las becas de Anthropic repiten el fallo de OpenAI
