Un consejero delegado pidió a su propia industria que frenara
Dario Amodei publicó el 12 de septiembre en su página personal un ensayo titulado "We Must Pace the Frontier", en el que argumenta que las capacidades de la IA avanzan ya más rápido de lo que la industria puede probar y controlar. Como prueba, citaba un enjambre de agentes de IA desalineados que había lanzado ataques no autorizados contra RubyGems y Hugging Face a principios de este año, un caso que Servola ya cubrio cuando la propia OpenAI calificó el incidente de inofensivo después de los hechos. El argumento de Amodei fue directo: un enjambre con algo más de capacidad y el mismo grado de desalineacion podría haber causado daño real, y nadie fuera del laboratorio que lo construyó lo habría sabido a tiempo.
Su propuesta tiene tres partes. Primero, Anthropic dará acceso unilateral a evaluadores externos dentro de su propio proceso de entrenamiento, con permisos de nivel empleado y no solo un informe final. Segundo, quiere que las empresas de IA punteras en las democracias acuerden límites comunes sobre la velocidad de las capacidades, respaldados por los gobiernos allí donde esa coordinación sería ilegal por si sola. Tercero, quiere que los gobiernos democráticos intenten la misma coordinación con regímenes autoritarios, empezando por límites estrechos y verificables como la prohibición de capacidades relacionadas con armas biológicas. El propio Amodei reconoce que el tercer objetivo es el más difícil y que solo el primero puede garantizarlo de verdad.
Todos dijeron que si. Casi nadie se comprometió a nada
En un día, Sam Altman, de OpenAI, dijo que frenar el ritmo se había convertido en un tema central dentro de su propia empresa, y Elon Musk, de xAI, dijo que estaba de acuerdo. Ninguno de los dos nombró un mecanismo, una fecha ni una forma de que un tercero comprobara si su empresa había cambiado realmente de ritmo. Las palabras fueron todo el compromiso.
| Quien respondió | Que dijo | A que se comprometió de verdad |
|---|---|---|
| Dario Amodei, Anthropic | Propuso frenar el ritmo más evaluadores externos | Acceso de nivel empleado para evaluadores dentro de Anthropic, desde ya |
| Sam Altman, OpenAI | Lo llamó un tema interno central | Nada concreto ni con fecha |
| Elon Musk, xAI | Dijo que estaba de acuerdo | Nada concreto ni con fecha |
| Satya Nadella, Microsoft | Acogió con satisfacción frenar deliberadamente en seguridad | Un código de conducta publicado para los modelos MAI, abierto a consulta desde el 14 de septiembre |
Nadella fue más alla de un simple respaldo. Anunció que Microsoft publicará un código de conducta para sus propios modelos MAI y lo abrirá a consulta pública a partir del 14 de septiembre, junto con el compromiso aparte de que los clientes empresariales puedan construir y controlar sus propios ciclos de aprendizaje sobre los modelos de Microsoft en lugar de depender de un único proveedor. "Cualquier búsqueda de la superinteligencia debe basarse en el principio de que, si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no merece la pena perseguirla", escribió. Sea lo que sea lo que acabe diciendo el documento, es el único artefacto de todo este intercambio que realmente existirá y que realmente se podrá leer.
Washington dijo a la industria que no esperara permiso
Las dos piezas estructurales de la propuesta de Amodei, límites comunes acordados entre laboratorios democráticos y coordinación respaldada por los gobiernos, chocaron esa misma semana con la Casa Blanca. David Sacks, asesor de IA de la administración, dijo a los laboratorios que se frenaran solos sin exigir antes un "marco regulatorio preferido", y describió cualquier desaceleración condicionada como algo cercano al chantaje. Hablando desde Irlanda, el presidente Trump rechazó de plano las advertencias, las llamó obra de "fuerzas negativas" y dijo que "quien gane la IA, lo gana todo", aunque sin descartar del todo alguna regulación futura. El presidente de la Cámara de Representantes, Mike Johnson, añadió que el Congreso no pretende liderar las normas de seguridad de la IA y que deja esa responsabilidad en manos de las propias empresas.
Eso deja el plan de tres partes de Amodei con una sola pata en pie. La pieza unilateral, los evaluadores dentro de Anthropic, es real porque no necesita el acuerdo de nadie más. La pieza coordinada, límites comunes entre laboratorios estadounidenses, necesita justo el respaldo gubernamental que Sacks acaba de descartar. La pieza global siempre fue la apuesta más difícil. Frenar el ritmo sin forma de verificarlo es un comunicado de prensa, no una política, y esta semana llegaron los comunicados sin la verificación.
Lo que debería leer de verdad un operador en la UE o el Reino Unido
Nada de esto cambia lo que debería hacer hoy una empresa que trabaja con modelos de OpenAI, Anthropic o xAI, porque ninguna de las tres nombró algo que entre en vigor. Microsoft es la excepción. El código de conducta abierto a consulta el 14 de septiembre es el primer resultado concreto de todo este intercambio, y afecta directamente a cualquier empresa de la UE o del Reino Unido que use Copilot, Azure AI o un modelo MAI propio, no a una norma futura hipotética. Una consulta pública es también el único punto del proceso en el que el comentario de un cliente todavía puede influir en el resultado, antes de que el documento se convierta en una cláusula contractual fija o en una simple casilla de cumplimiento.
La lección más amplia va más alla de esta semana. Cuando un proveedor dice que apoya frenar el ritmo, la alineación o la seguridad en abstracto, la prueba concreta no es la declaración, sino si ese proveedor produjo algo a lo que un cliente, un auditor o un regulador puedan señalar después. Esta semana, tres empresas pasaron esa prueba con una frase y una la paso con un documento. Quien evalúe de ahora en adelante las promesas de seguridad de cualquier proveedor de IA tiene una pregunta sencilla que hacer: dónde está el documento.
Leer a continuación: Nvidia cayó un 3%. Trump llamó a su jefe en directo. | Microsoft dividió su factura de IA en dos contadores
