El muro de ancho de banda detrás de la carrera del cómputo
Los compradores de infraestructura de IA han pasado dos años comparando el número de GPU y los FLOPS mientras una limitación más silenciosa se cerraba a su alrededor: la propia hoja de ruta de SK hynix afirma ahora que el rendimiento de cómputo se ha triplicado aproximadamente cada dos años, mientras que el ancho de banda de interconexión, los enlaces de datos entre la memoria y los procesadores, solo ha avanzado un 1,4x en el mismo período. Ese desequilibrio ha sido invisible en la mayoría de las conversaciones de compra, que durante dos años han girado casi por completo en torno al número de GPU, los FLOPS y, más recientemente, la capacidad de HBM, sin que el cableado entre chips se mencione casi nunca en una solicitud de propuesta.
Esa brecha es lo que los ingenieros de la compañía llaman un muro de ancho de banda. Las interconexiones de cobre convencionales chocan con limitaciones físicas inherentes a medida que crece la distancia entre chips, así que un clúster con más GPU que nunca puede seguir quedándose sin datos en el momento en que esos chips necesitan comunicarse entre sí a través de un rack o una placa. El planteamiento del artículo es directo: la interconexión, no el cómputo puro, se está convirtiendo en la limitación real del rendimiento de la infraestructura de IA. La física detrás de esa limitación es sencilla: cuanto más larga es una pista o un cable de cobre, más fuerza pierde la señal por resistencia y más ruido eléctrico recoge de las líneas vecinas, así que los ingenieros deben ralentizar la señal o gastar una energía desproporcionada para hacerla llegar, y a las distancias de un rack o una sala de datos esa disyuntiva ya no resulta favorable.
Lo que realmente promete la hoja de ruta de SK hynix
La hoja de ruta aparece en un artículo revisado por pares, Co-packaged optics for high-performance computing and artificial intelligence, publicado en Nature Electronics y coescrito con la Universidad de Virginia, la Universidad de Illinois Urbana-Champaign, la Universidad Tecnológica de Nanyang, el MIT y la Universidad Yonsei. Fija tres objetivos concretos para la infraestructura de IA de próxima generación construida sobre óptica coempaquetada, o CPO: más de 100 Tb/s de ancho de banda por nodo, un consumo de energía inferior a 1 picojulio por bit, y una latencia entre chips inferior a 10 nanosegundos. La lista de cinco universidades coautoras, entre Estados Unidos, Singapur y Corea del Sur, indica que esto se trata como un reto de ingeniería compartido por todo el sector y no como un objetivo interno de una sola empresa.
| Métrica | Interconexión de cobre típica hoy | Objetivo de la hoja de ruta CPO de SK hynix |
|---|---|---|
| Ancho de banda por nodo | Del orden de varios Tb/s | Más de 100 Tb/s |
| Energía por bit | Aproximadamente 5-15 picojulios por bit | Menos de 1 picojulio por bit |
| Latencia entre chips | Decenas de nanosegundos | Menos de 10 nanosegundos |
El CPO alcanza esas cifras integrando físicamente los motores ópticos en el mismo encapsulado que el procesador o la memoria, sustituyendo los transceptores ópticos conectables independientes y los enlaces de cobre que los alimentan. Acortar la distancia eléctrica que debe recorrer una señal reduce a la vez la energía perdida por resistencia y el tiempo perdido en la transmisión, por lo que los tres objetivos de la hoja de ruta avanzan juntos en lugar de compensarse entre sí. Esto importa porque la mayoría de los intentos de resolver una sola parte del muro de ancho de banda, pistas de cobre más anchas, más carriles en paralelo, relojes más rápidos, suelen empeorar el consumo de energía o la latencia en otro punto; el CPO se presenta como una forma de mover las tres cifras en la dirección correcta a la vez.
Por qué esto es un problema de compras, no solo de ingeniería
Durante los últimos dos años, las decisiones de compra de infraestructura de IA, contratos en la nube, clústeres de GPU locales, acuerdos de colocación, se han evaluado casi exclusivamente por el cómputo y, más recientemente, por la capacidad y el ancho de banda de la memoria. La propia hoja de ruta de SK hynix es, en la práctica, una admisión pública de que el próximo cuello de botella, y por tanto el próximo punto de dependencia del proveedor y de poder de fijación de precios, está en la capa de interconexión que la mayoría de los compradores empresariales no evalúa hoy en absoluto. Una solicitud de propuesta típica para nube o clústeres de GPU hoy pregunta por la generación del acelerador, el ancho de banda de memoria y el consumo por rack, pero rara vez pide al proveedor que describa su hoja de ruta de interconexión o CPO.
La consecuencia para una empresa europea que firma un contrato de infraestructura de IA o de nube a varios años es concreta: un clúster que hoy parece a prueba de futuro por su número de GPU y su capacidad de HBM puede quedarse sin ancho de banda mucho antes de quedarse sin cómputo. El proveedor que controle la capa de interconexión óptica, y no solo el chip, tendrá un poder de fijación de precios desproporcionado en el próximo ciclo de renovación de hardware. La mayoría de los contratos empresariales de infraestructura de IA ya duran de tres a cinco años, lo que significa que una decisión tomada este año determina qué proveedor conserva esa ventaja hasta aproximadamente 2029 o 2030.
Qué preguntar antes de la próxima renovación
Los equipos de compras e infraestructura que evalúan proveedores de nube o de hardware de IA deberían empezar a preguntar por las hojas de ruta de interconexión y CPO ahora, no cuando el contrato actual llegue a su renovación. En mercados como el español, donde los grandes operadores de centros de datos y telecomunicaciones están ampliando capacidad de IA a gran ritmo, eso significa preguntar directamente cómo planea el proveedor mover datos entre memoria y cómputo a gran escala, no solo cuántos aceleradores puede instalar en rack, y pedir un calendario en lugar de una diapositiva de intenciones. En esa lista deben figurar tres preguntas concretas: cuál es el ancho de banda de interconexión actual del proveedor por nodo, cuál es su hoja de ruta publicada de CPO o interconexión óptica, y cómo se compara esa hoja de ruta con los objetivos de más de 100 Tb/s, menos de 1 picojulio y menos de 10 nanosegundos que SK hynix ya ha hecho públicos.
Que SK hynix publique este trabajo bajo su propia sala de prensa, junto con cinco universidades y una revista revisada por pares, se lee como un proveedor de memoria que se reposiciona como una empresa de infraestructura de IA a nivel de sistema. Los compradores que traten ese cambio como ruido de fondo negociarán su próxima renovación desde una posición de desconocimiento; los que incluyan la interconexión en su hoja de evaluación hoy negociarán desde una posición de fuerza. Tratar esta hoja de ruta como una curiosidad de la industria de la memoria en lugar de una señal de compras es el error que aún comete la mayoría de los compradores, y es precisamente el error que esta hoja de ruta pretende corregir.
Leer a continuación: Meta busca licencia para un cable propio a Dinamarca | Amazon pidió prestados 25.000 millones para IA
