Zespół stojący za PyTorch właśnie wycenił biznes otwartych modeli

Fireworks, założony w 2022 roku przez inżynierów, którzy zbudowali PyTorch w Mecie, zebrał w tym tygodniu 1,5 miliarda dolarów w rundzie prowadzonej przez Atreides Management, Index Ventures i TCV, z Nvidią i Lightspeed wśród inwestorów. Wycena 17,5 miliarda dolarów nie jest historią. Jest nią to, co firma sprzedaje.

Fireworks nie oferuje chatbota. Uruchamia modele, które wybierają inne firmy, coraz częściej otwarte, i robi to szybko oraz na dużą skalę. Własna formuła firmy jest jasna: firmy nie wynajmują już ogólnej inteligencji, budują własną. Biznes usługowy urósł do rocznego tempa przychodów 1 miliarda dolarów właśnie na tym założeniu.

Dlaczego to ważne: wynajem nie jest już jedynym rozsądnym domyślnym wyborem

Domyślnym założeniem ostatnich trzech lat było, że inteligencję z frontu wynajmuje się za token. Miało to sens, dopóki otwarte modele znacznie odstawały. Ma mniej sensu teraz, gdy otwarte modele zbliżają się do zamkniętej jakości frontu w wielu zadaniach, a liczby pokazują, dokąd idzie prawdziwe użycie: ponad 95 procent z 40 bilionów dziennych tokenów Fireworks działa na modelach dostrojonych do własnych danych.

To jest sygnał dla właściciela. Obciążenia dominujące w produkcji, klasyfikacja, ekstrakcja, wsparcie, pomoc przy kodzie, są coraz częściej obsługiwane przez mniejszy model ukształtowany na danych jednej firmy, a nie przez ogólny model wynajmowany za wysoką cenę. Front nadal prowadzi w najtrudniejszym rozumowaniu, ale nie jest już automatycznym wyborem do wszystkiego.

Napięcie z Nvidią, które warto zauważyć

Nvidia włożyła pieniądze w warstwę, która zmniejsza, ile jej układów klient musi kupić bezpośrednio. Firma uruchamiająca otwarte modele na współdzielonej infrastrukturze pozwala średniemu kupującemu uniknąć budowy własnej floty akceleratorów. To, że Nvidia i tak to finansuje, mówi ci, że producent układów spodziewa się wzrostu z hostowanej, wynajmowanej inferencji, a nie tylko ze sprzedaży krzemu każdemu kupującemu.

Dla ciebie odczyt jest prosty. Kilofy i łopaty zwrotu ku otwartym modelom są teraz dobrze finansowane. Hostowana inferencja na otwartych wagach to nie marginalny eksperyment utrzymywany przy życiu gotówką start-upu, to kategoria z kotwicą 17,5 miliarda dolarów i miliardem dolarów rocznych przychodów za sobą.

Dlaczego właściciele w Europie i Wielkiej Brytanii powinni przeczytać to dwa razy

To, do kogo należy uruchamiany model, decyduje, dokąd idą twoje dane. Wywołanie za token do amerykańskiego interfejsu z frontu wysyła twoje zapytanie, a często dane twojego klienta w nim, do zewnętrznej usługi pod inną jurysdykcją. Dostrojony otwarty model, uruchamiany na platformie, którą wybierasz, utrzymuje tę ścieżkę znacznie bardziej pod twoją kontrolą, co pod RODO i nadchodzącymi zasadami danych waży więcej niż dla kupującego z USA.

Ekonomia wskazuje w tę samą stronę. Przy stabilnym, wysokim wolumenie koszt w euro rezerwowanej mocy zwykle jest niższy niż droga cena za token na froncie. Runda tej wielkości, około 1,4 miliarda euro, to zakład rynku, że europejscy i inni wrażliwi na koszt kupujący będą dalej iść tą drogą.

Co zmienić w sposobie planowania

Sprawdź, które z twoich obciążeń naprawdę potrzebują rozumowania z frontu, a które działają tam z przyzwyczajenia. Te stabilne i o wysokim wolumenie są pierwszymi kandydatami do przejścia na dostrojony otwarty model, gdzie płacisz za moc zamiast dopłaty za wywołanie. Zostaw front do naprawdę trudnej pracy o niskim wolumenie, gdzie jego przewaga zasługuje na cenę.

Potem obserwuj nową zależność. Nie znika, przenosi się. Zamiast jednego dostawcy modelu twoje ryzyko przechodzi na tego, kto hostuje twoją inferencję. Wybierz warstwę usługową, którą możesz opuścić, trzymaj swoje dostrojone wagi przenośne i traktuj umowę hostingu z tą samą starannością, którą kiedyś dawałeś licencji modelu.

Czytaj dalej: Nawet bilionowe laboratorium musi wynająć moc  |  Kwartał Samsunga bije Nvidię na zysku