Un rey pidió tranquilidad a los líderes de la IA, no normas

Un rey, ninguna ley, cuatro laboratorios de IA en una sala

El rey Carlos III reunió el 17 de septiembre a representantes de alto nivel de Nvidia, Google DeepMind, OpenAI y Anthropic en Dumfries House, su finca privada en Ayrshire, y ninguno de ellos firmó nada que lo vincule a algo concreto.

Asistieron unas 30 personas: el consejero delegado de Nvidia, Jensen Huang; el fundador de DeepMind, Demis Hassabis; la directora financiera de OpenAI, Sarah Friar; el ministro británico de IA, Kanishka Narayan, y figuras de la sociedad civil, reunidos por la Fundación Ditchley junto con el King's Trust, la King's Foundation y la Sustainable Markets Initiative. En su discurso de apertura, el rey dijo que el ritmo de la IA resulta "tan fascinante como profundamente preocupante a partes iguales", y que hacen falta salvaguardas antes de que sea "demasiado tarde".

El segundo gesto sin fuerza vinculante del Reino Unido en tres años

Dumfries House produjo un borrador de carta, redactado por la Fundación Ditchley, que establece un "conjunto compartido de principios" para que la IA sirva a la dignidad humana. No tiene fuerza legal alguna, y nadie en la cumbre firmó nada vinculante.

Es la segunda vez en tres años que un encuentro sobre IA organizado por el Reino Unido termina en una declaración voluntaria en lugar de una norma. La primera fue la Declaración de Bletchley de 2023, firmada por 28 países, sin organismo de cumplimiento ni sanciones. El contraste al otro lado del Canal, donde la misma clase de modelos de IA ya está sujeta a un régimen legal en vigor, es exacto:

Quién acudió en persona y quién envió a un sustituto

El propio fundador de DeepMind asistió en persona. OpenAI envió a su directora financiera en lugar de a Sam Altman. Nvidia envió a su consejero delegado, Jensen Huang, quien dirige la empresa que suministra los chips de los que dependen los modelos de todos los demás asistentes.

Esa diferencia de rango es en sí misma información. Una empresa que envía a su fundador señala que la reunión merece la agenda de su máximo responsable; una empresa que envía a su directora financiera señala presencia sin gastar su recurso más escaso, el tiempo de su consejero delegado, en una cumbre cuyo resultado no crea obligación alguna.

La tranquilidad no es un resultado que se pueda entregar

El propio rey nombró el verdadero producto del día: dijo que quienes valoran el "componente moral esencial" de la humanidad buscan "con ansiedad su tranquilidad" de que la IA no se saldrá de control. A diferencia de una multa o una auditoría, la tranquilidad no exige nada concreto y no se puede comprobar después.

El Reino Unido no tiene ley de IA propia, y hasta este mes de septiembre ningún proyecto ha llegado al Parlamento. Una cumbre real y una carta son, por ahora, casi la palanca más fuerte que le queda a Londres, sin legislar, para exigir algo a las empresas que construyen la tecnología que dice querer dirigir. Si cuatro laboratorios de IA tratan una carta sin fuerza vinculante de forma distinta a la última que firmaron es la verdadera prueba, y no se verá en el telediario de ningún país.

Servola Journal

Hacemos esto para todos los que intentan seguirle el ritmo a lo que la tecnología le está haciendo a nuestras vidas. Las personas que la construyen, y las personas a las que les ocurre. El Servola Journal existe para que lo que aprendemos pertenezca a todas ellas.

Nadie nos paga por esto. Sin anuncios, sin muro de pago, gratis para todos. Simplemente creemos que entender lo que nos está pasando a todos no debería depender de quién puede permitirse pagar por ello.

Si esto le ha aportado algo hoy, díganos que sigamos adelante. Síganos, dejen un me gusta, o escriban un comentario positivo. Los leemos todos, y son lo que nos mantiene en marcha.

Leer a continuación: OpenAI pide reglas de IA, la Casa Blanca dice engaño  |  Tres Laboratorios De IA Escriben En Secreto Su Propio Reglamento