Das PyTorch-Team hat das Geschäft mit offenen Modellen bepreist

Fireworks, 2022 von Ingenieuren gegründet, die bei Meta PyTorch gebaut haben, sammelte diese Woche 1,5 Milliarden Dollar in einer Runde unter Führung von Atreides Management, Index Ventures und TCV, mit Nvidia und Lightspeed unter den Geldgebern. Die Bewertung von 17,5 Milliarden Dollar ist nicht die Geschichte. Was die Firma verkauft, schon.

Fireworks bietet keinen Chatbot. Es betreibt die Modelle, die andere Firmen wählen, zunehmend offene, und zwar schnell und in großem Maßstab. Die eigene Formulierung ist deutlich: Firmen mieten keine allgemeine Intelligenz mehr, sie bauen ihre eigene. Ein Betriebsgeschäft wuchs auf genau dieser Prämisse zu einem Jahresumsatzlauf von 1 Milliarde Dollar.

Warum es zählt: Mieten ist nicht mehr die einzige sinnvolle Voreinstellung

Die Grundannahme der letzten drei Jahre lautete, dass man Frontier-Intelligenz pro Token mietet. Das ergab Sinn, solange offene Modelle deutlich zurücklagen. Es ergibt weniger Sinn, seit offene Modelle bei vielen Aufgaben an die Qualität geschlossener Frontier-Modelle heranreichen, und die Zahlen zeigen, wohin die echte Nutzung geht: über 95 Prozent der 40 Billionen täglichen Token bei Fireworks laufen auf Modellen, die an eigene Daten angepasst sind.

Das ist das Signal für Eigentümer. Die Arbeitslasten, die in der Produktion dominieren, Klassifikation, Extraktion, Support, Code-Unterstützung, werden zunehmend von einem kleineren Modell bedient, das an die Daten eines Unternehmens angepasst ist, statt von einem teuer gemieteten Universalmodell. Die Frontier führt weiter beim schwersten Denken, aber sie ist nicht mehr die automatische Wahl für alles.

Die beachtenswerte Nvidia-Spannung

Nvidia steckte Geld in die Ebene, die verringert, wie viele seiner Chips ein Kunde direkt kaufen muss. Eine Firma, die offene Modelle auf geteilter Infrastruktur betreibt, erlaubt es einem mittelgroßen Käufer, keine eigene Flotte an Beschleunigern aufzubauen. Dass Nvidia dies trotzdem finanziert, sagt Ihnen, dass der Chiphersteller das Wachstum bei gehosteter, gemieteter Inferenz erwartet, nicht nur beim Verkauf von Silizium an jeden Käufer.

Für Sie ist die Lesart einfach. Die Schaufeln und Spitzhacken der Verschiebung zu offenen Modellen sind jetzt gut finanziert. Gehostete Inferenz auf offenen Gewichten ist kein Randversuch, den ein Start-up am Leben hält, sondern eine Kategorie mit einem Anker von 17,5 Milliarden Dollar und einer Milliarde Dollar Jahresumsatz dahinter.

Warum Eigentümer in Europa und Großbritannien zweimal hinsehen sollten

Wem das betriebene Modell gehört, der bestimmt, wohin seine Daten gehen. Ein Aufruf pro Token an eine US-Frontier-Schnittstelle sendet Ihre Anfrage, und oft die darin enthaltenen Kundendaten, an einen externen Dienst unter fremder Rechtsordnung. Ein angepasstes offenes Modell, betrieben auf einer von Ihnen gewählten Plattform, hält diesen Weg weit mehr unter Ihrer Kontrolle, was unter der DSGVO und den kommenden Datenregeln stärker zählt als für einen US-Käufer.

Die Wirtschaftlichkeit weist in dieselbe Richtung. Bei stetigem, hohem Volumen liegen die Euro-Kosten reservierter Kapazität meist unter der teuren Bepreisung pro Token an der Frontier. Eine Runde dieser Größe, rund 1,4 Milliarden Euro, ist die Wette des Marktes, dass europäische und andere kostenbewusste Käufer diesen Weg weitergehen.

Was Sie an Ihrer Planung ändern sollten

Prüfen Sie, welche Ihrer Arbeitslasten wirklich Frontier-Denken brauchen und welche aus Gewohnheit dort laufen. Die stetigen und volumenstarken sind die ersten Kandidaten für den Wechsel zu einem angepassten offenen Modell, bei dem Sie für Kapazität zahlen statt einen Aufschlag pro Aufruf. Behalten Sie die Frontier für die wirklich schwere Arbeit mit geringem Volumen, wo ihr Vorsprung den Preis verdient.

Dann beobachten Sie die neue Abhängigkeit. Sie verschwindet nicht, sie wandert. Statt eines einzelnen Modellanbieters verlagert sich Ihr Risiko auf denjenigen, der Ihre Inferenz hostet. Wählen Sie eine Betriebsebene, die Sie verlassen können, halten Sie Ihre feinabgestimmten Gewichte portabel, und behandeln Sie den Hosting-Vertrag mit derselben Sorgfalt, die Sie einst der Modelllizenz gaben.

Weiterlesen: Selbst ein Billionen-Labor muss Rechenleistung mieten  |  Samsungs Quartal schlägt Nvidia beim Gewinn