El equipo detrás de PyTorch acaba de poner precio al negocio de los modelos abiertos

Fireworks, fundada en 2022 por ingenieros que construyeron PyTorch en Meta, captó esta semana 1.500 millones de dólares en una ronda liderada por Atreides Management, Index Ventures y TCV, con Nvidia y Lightspeed entre los inversores. La valoración, 17.500 millones de dólares, no es la noticia. Lo que vende la empresa, sí.

Fireworks no ofrece un asistente de conversación. Opera los modelos que otras empresas eligen, cada vez más abiertos, y lo hace rápido y a escala. Su propia fórmula es directa: las empresas ya no alquilan inteligencia general, construyen la suya. Un negocio de servicio creció hasta una tasa de ingresos de 1.000 millones de dólares sobre esa misma premisa.

Por qué importa: alquilar ya no es la única opción sensata por defecto

El supuesto por defecto de los últimos tres años era que se alquila la inteligencia de frontera por token. Tenía sentido mientras los modelos abiertos iban muy por detrás. Lo tiene menos ahora que los modelos abiertos se acercan a la calidad de frontera cerrada en muchas tareas, y las cifras muestran adónde va el uso real: más del 95 por ciento de los 40 billones de tokens diarios de Fireworks corren sobre modelos ajustados a datos propios.

Esa es la señal para el propietario. Las cargas que dominan la producción, clasificación, extracción, soporte, asistencia de código, las atiende cada vez más un modelo pequeño moldeado con los datos de una empresa en lugar de un modelo general alquilado a precios altos. La frontera sigue liderando en el razonamiento más difícil, pero ya no es la elección automática para todo.

La tensión con Nvidia que conviene notar

Nvidia puso dinero en la capa que reduce cuántos de sus chips necesita comprar directamente un cliente. Una empresa que opera modelos abiertos sobre infraestructura compartida permite a un comprador mediano evitar montar su propia flota de aceleradores. Que Nvidia lo financie igualmente le dice que el fabricante espera que el crecimiento venga de la inferencia alojada y alquilada, no solo de vender silicio a cada comprador.

Para usted la lectura es sencilla. Los picos y palas del giro hacia los modelos abiertos están ahora bien financiados. La inferencia alojada sobre pesos abiertos no es un experimento marginal sostenido por la caja de una empresa emergente, es una categoría con un ancla de 17.500 millones de dólares y mil millones de ingresos anuales detrás.

Por qué los propietarios en Europa y el Reino Unido deben leer esto dos veces

De quién es el modelo que opera decide adónde van sus datos. Una llamada por token a una interfaz de frontera de Estados Unidos envía su petición, y a menudo los datos de su cliente dentro de ella, a un servicio externo bajo otra jurisdicción. Un modelo abierto ajustado, operado en una plataforma que usted elige, mantiene esa ruta mucho más bajo su control, lo que bajo el RGPD y las próximas reglas de datos pesa más que para un comprador estadounidense.

La economía apunta en la misma dirección. A volumen alto y estable, el coste en euros de la capacidad que reserva suele quedar por debajo del precio caro por token en la frontera. Una ronda de este tamaño, unos 1.400 millones de euros, es la apuesta del mercado a que los compradores europeos y otros sensibles al coste seguirán ese camino.

Qué cambiar en su forma de planificar

Revise cuáles de sus cargas necesitan de verdad razonamiento de frontera y cuáles corren allí por costumbre. Las estables y de alto volumen son las primeras candidatas a pasar a un modelo abierto ajustado, donde paga por capacidad en lugar de un recargo por llamada. Reserve la frontera para el trabajo realmente difícil y de bajo volumen, donde su ventaja justifica el precio.

Después vigile la nueva dependencia. No desaparece, se traslada. En lugar de un único proveedor de modelo, su riesgo pasa a quien aloja su inferencia. Elija una capa de servicio que pueda abandonar, mantenga portables sus pesos ajustados y trate el contrato de alojamiento con el mismo rigor que antes daba a la licencia del modelo.

Leer a continuación: Hasta un laboratorio billonario alquila su cómputo  |  Samsung supera a Nvidia en beneficio