Teamet bakom PyTorch har just prissatt affären med öppna modeller
Fireworks, grundat 2022 av ingenjörer som byggde PyTorch på Meta, tog denna vecka in 1,5 miljarder dollar i en runda ledd av Atreides Management, Index Ventures och TCV, med Nvidia och Lightspeed bland finansiärerna. Värderingen på 17,5 miljarder dollar är inte nyheten. Det företaget säljer är det.
Fireworks erbjuder ingen chattbot. Det kör de modeller som andra företag väljer, allt oftare öppna, och gör det snabbt och i stor skala. Företagets egen formulering är tydlig: företag hyr inte längre allmän intelligens, de bygger sin egen. En serviceaffär växte till en årlig intäktstakt på 1 miljard dollar på exakt den premissen.
Varför det spelar roll: att hyra är inte längre det enda vettiga standardvalet
Standardantagandet de senaste tre åren var att man hyr frontier-intelligens per token. Det var rimligt så länge öppna modeller låg långt efter. Det är mindre rimligt nu när öppna modeller närmar sig den slutna frontier-kvaliteten på många uppgifter, och siffrorna visar vart den verkliga användningen går: över 95 procent av de 40 biljoner dagliga tokenen hos Fireworks kör på modeller anpassade till egna data.
Det är signalen för ägaren. De arbetsbelastningar som dominerar produktionen, klassificering, extraktion, support, kodstöd, betjänas allt oftare av en mindre modell formad efter ett företags data i stället för en generell modell hyrd till höga priser. Frontieren leder fortfarande i det svåraste resonemanget, men är inte längre det automatiska valet för allt.
Nvidia-spänningen värd att märka
Nvidia lade pengar i det lager som minskar hur många av dess chip en kund måste köpa direkt. Ett företag som kör öppna modeller på delad infrastruktur låter en medelstor köpare slippa bygga en egen flotta av acceleratorer. Att Nvidia ändå finansierar det säger dig att chiptillverkaren väntar tillväxten från hostad, hyrd inferens, inte bara från att sälja kisel till varje köpare.
För dig är tolkningen enkel. Hackorna och spadarna i skiftet mot öppna modeller är nu väl finansierade. Hostad inferens på öppna vikter är inte ett randexperiment som en start-ups kassa håller vid liv, det är en kategori med ett ankare på 17,5 miljarder dollar och en miljard dollar i årliga intäkter bakom sig.
Varför ägare i Europa och Storbritannien bör läsa detta två gånger
Vem som äger modellen du kör avgör vart dina data tar vägen. Ett anrop per token till ett amerikanskt frontier-gränssnitt skickar din förfrågan, och ofta kunddata inuti den, till en extern tjänst under en annan jurisdiktion. En anpassad öppen modell, körd på en plattform du väljer, håller den vägen mycket mer under din kontroll, vilket under GDPR och de kommande datareglerna väger tyngre än för en amerikansk köpare.
Ekonomin pekar åt samma håll. Vid stabil, hög volym ligger eurokostnaden för den kapacitet du reserverar oftast under det dyra priset per token vid frontieren. En runda av den här storleken, omkring 1,4 miljarder euro, är marknadens vad på att europeiska och andra kostnadsmedvetna köpare fortsätter den vägen.
Vad du bör ändra i din planering
Granska vilka av dina arbetsbelastningar som verkligen behöver frontier-resonemang och vilka som kör där av gammal vana. De stabila och volymtunga är de första kandidaterna att flytta till en anpassad öppen modell, där du betalar för kapacitet i stället för ett tillägg per anrop. Behåll frontieren för det verkligt svåra, volymlätta arbetet där dess försprång förtjänar priset.
Håll sedan koll på det nya beroendet. Det försvinner inte, det flyttar sig. I stället för en enda modelleverantör flyttas din risk till den som hostar din inferens. Välj ett servicelager du kan lämna, håll dina finjusterade vikter flyttbara, och behandla hostingavtalet med samma noggrannhet du en gång gav modellicensen.
Läs vidare: Även ett biljonlaboratorium måste hyra beräkningskraft | Samsungs kvartal slår Nvidia på vinst
