Het team achter PyTorch heeft zojuist de markt voor open modellen geprijsd

Fireworks, in 2022 opgericht door ingenieurs die bij Meta PyTorch bouwden, haalde deze week 1,5 miljard dollar op in een ronde geleid door Atreides Management, Index Ventures en TCV, met Nvidia en Lightspeed onder de financiers. De waardering, 17,5 miljard dollar, is niet het verhaal. Wat het bedrijf verkoopt wel.

Fireworks biedt geen chatbot. Het draait de modellen die andere bedrijven kiezen, steeds vaker open modellen, en doet dat snel en op schaal. De eigen formulering is helder: bedrijven huren geen algemene intelligentie meer, ze bouwen hun eigen. Een servicebedrijf groeide op precies die premisse naar een jaaromzet van 1 miljard dollar.

Waarom het ertoe doet: huren is niet langer de enige verstandige standaard

De standaardaanname van de afgelopen drie jaar was dat je frontier-intelligentie per token huurt. Dat was logisch zolang open modellen ver achterliepen. Het is minder logisch nu open modellen bij veel taken de gesloten frontier-kwaliteit naderen, en de cijfers laten zien waar het echte gebruik heen gaat: ruim 95 procent van de 40 biljoen dagelijkse tokens bij Fireworks draait op modellen die op eigen data zijn afgestemd.

Dat is het signaal voor een eigenaar. De werklasten die de productie domineren, classificatie, extractie, support, code-ondersteuning, worden steeds vaker bediend door een kleiner model gevormd naar de data van een bedrijf in plaats van een algemeen model dat tegen hoge prijzen wordt gehuurd. De frontier leidt nog bij het moeilijkste redeneren, maar is niet meer de automatische keuze voor alles.

De Nvidia-spanning die het opmerken waard is

Nvidia stak geld in de laag die vermindert hoeveel van zijn chips een klant rechtstreeks moet kopen. Een bedrijf dat open modellen op gedeelde infrastructuur draait, laat een middelgrote koper toe geen eigen vloot versnellers op te bouwen. Dat Nvidia dit toch financiert, vertelt u dat de chipmaker de groei verwacht uit gehoste, gehuurde inferentie, niet alleen uit het verkopen van silicium aan elke koper.

Voor u is de lezing eenvoudig. De houwelen en schoppen van de verschuiving naar open modellen zijn nu goed gefinancierd. Gehoste inferentie op open gewichten is geen randexperiment dat een start-up in leven houdt, het is een categorie met een anker van 17,5 miljard dollar en een miljard dollar jaaromzet erachter.

Waarom eigenaren in Europa en het Verenigd Koninkrijk dit tweemaal moeten lezen

Van wie het model is dat u draait, bepaalt waar uw data heen gaat. Een aanroep per token naar een Amerikaanse frontier-interface stuurt uw verzoek, en vaak de klantdata erin, naar een externe dienst onder een andere rechtsorde. Een afgestemd open model, gedraaid op een platform dat u kiest, houdt dat pad veel meer onder uw controle, wat onder de AVG en de komende dataregels zwaarder weegt dan voor een Amerikaanse koper.

De economie wijst dezelfde kant op. Bij stabiel, hoog volume ligt de eurokost van capaciteit die u reserveert meestal onder de dure prijs per token aan de frontier. Een ronde van deze omvang, ongeveer 1,4 miljard euro, is de weddenschap van de markt dat Europese en andere kostenbewuste kopers die weg blijven volgen.

Wat u in uw planning moet veranderen

Ga na welke van uw werklasten echt frontier-redeneren nodig hebben en welke er uit gewoonte draaien. De stabiele en volumerijke zijn de eerste kandidaten om over te gaan naar een afgestemd open model, waar u voor capaciteit betaalt in plaats van een toeslag per aanroep. Houd de frontier voor het echt moeilijke, volumearme werk waar zijn voorsprong de prijs verdient.

Let daarna op de nieuwe afhankelijkheid. Ze verdwijnt niet, ze verschuift. In plaats van een enkele modelleverancier verschuift uw risico naar wie uw inferentie host. Kies een servicelaag die u kunt verlaten, houd uw fijn afgestelde gewichten overdraagbaar, en behandel het hostingcontract met dezelfde zorg die u ooit aan de modellicentie gaf.

Lees hierna: Zelfs een biljoenenlab moet rekenkracht huren  |  Samsungs kwartaal verslaat Nvidia op winst