Holdet bag PyTorch har lige prissat forretningen med åbne modeller

Fireworks, grundlagt i 2022 af ingeniører, der byggede PyTorch hos Meta, rejste i denne uge 1,5 milliarder dollar i en runde ledet af Atreides Management, Index Ventures og TCV, med Nvidia og Lightspeed blandt investorerne. Værdien på 17,5 milliarder dollar er ikke historien. Det, firmaet sælger, er.

Fireworks tilbyder ikke en chatbot. Det driver de modeller, andre virksomheder vælger, i stigende grad åbne, og gør det hurtigt og i stor skala. Firmaets egen formulering er klar: virksomheder lejer ikke længere generel intelligens, de bygger deres egen. En serviceforretning voksede til en årlig omsætning på 1 milliard dollar netop på den præmis.

Hvorfor det betyder noget: at leje er ikke længere det eneste fornuftige udgangspunkt

Standardantagelsen de sidste tre år var, at man lejer frontier-intelligens pr. token. Det gav mening, så længe åbne modeller lå langt bagud. Det giver mindre mening nu, hvor åbne modeller nærmer sig den lukkede frontier-kvalitet på mange opgaver, og tallene viser, hvor den reelle brug går hen: over 95 procent af de 40 billioner daglige tokens hos Fireworks kører på modeller tilpasset egne data.

Det er signalet for ejeren. De arbejdsbyrder, der dominerer produktionen, klassifikation, udtræk, support, kodehjælp, betjenes i stigende grad af en mindre model formet efter en virksomheds data i stedet for en generel model lejet til høje priser. Frontieren fører stadig i den sværeste ræsonneren, men er ikke længere det automatiske valg til alt.

Nvidia-spændingen, der er værd at bemærke

Nvidia lagde penge i det lag, der reducerer, hvor mange af dets chips en kunde skal købe direkte. Et firma, der driver åbne modeller på delt infrastruktur, lader en mellemstor køber undgå at opbygge sin egen flåde af acceleratorer. At Nvidia alligevel finansierer det, fortæller dig, at chipproducenten venter væksten fra hostet, lejet inferens, ikke kun fra at sælge silicium til hver køber.

For dig er læsningen enkel. Hakkerne og skovlene i skiftet mod åbne modeller er nu godt finansieret. Hostet inferens på åbne vægte er ikke et randeksperiment, som en start-ups kassebeholdning holder i live, det er en kategori med et anker på 17,5 milliarder dollar og en milliard dollar i årlig omsætning bag sig.

Hvorfor ejere i Europa og Storbritannien bør læse dette to gange

Hvem der ejer den model, du driver, afgør, hvor dine data går hen. Et kald pr. token til en amerikansk frontier-grænseflade sender din forespørgsel, og ofte kundens data i den, til en ekstern tjeneste under en anden jurisdiktion. En tilpasset åben model, drevet på en platform, du vælger, holder den vej langt mere under din kontrol, hvilket under GDPR og de kommende dataregler vejer tungere end for en amerikansk køber.

Økonomien peger samme vej. Ved stabilt, højt volumen ligger europrisen for den kapacitet, du reserverer, normalt under den dyre pris pr. token ved frontieren. En runde af denne størrelse, omkring 1,4 milliarder euro, er markedets væddemål på, at europæiske og andre omkostningsbevidste købere bliver ved med at gå den vej.

Hvad du bør ændre i din planlægning

Undersøg, hvilke af dine arbejdsbyrder der virkelig kræver frontier-ræsonneren, og hvilke der kører der af vane. De stabile og volumentunge er de første kandidater til at skifte til en tilpasset åben model, hvor du betaler for kapacitet i stedet for et tillæg pr. kald. Behold frontieren til det virkelig svære, volumenlette arbejde, hvor dens forspring fortjener prisen.

Hold så øje med den nye binding. Den forsvinder ikke, den flytter sig. I stedet for en enkelt modelleverandør flytter din risiko sig til den, der hoster din inferens. Vælg et servicelag, du kan forlade, hold dine finjusterede vægte flytbare, og behandl hostingkontrakten med samme grundighed, du engang gav modellicensen.

Læs videre: Selv et billionlaboratorium må leje sin regnekraft  |  Samsungs kvartal slår Nvidia på overskud