KI-Spitzenlabor räumt ein: Modell ist nicht das beste

Der Satz, den ein Spitzenlabor sonst nicht schreibt

In der Ankündigung von Inkling am 15. Juli steht bei Thinking Machines Lab eine Zeile, die bisher kein anderes Spitzenlabor veröffentlichen wollte. Das Modell sei, so das Unternehmen, "nicht das stärkste insgesamt verfügbare Modell". Danach beschreibt es, was Inkling stattdessen sein soll: "eine gute Basis aus offenen Gewichten für Anpassung". Jeder Modellstart der vergangenen drei Jahre begann mit einer Benchmark-Grafik. Dieser beginnt mit einer Einschränkung.

Lesen Sie das als Strategie, nicht als Bescheidenheit. Mira Murati, früher Technikchefin bei OpenAI, hat Thinking Machines gegründet und rund neun Monate gebraucht, um ein Modell auf Spitzenniveau auszuliefern. OpenAI brauchte dafür eher fünf Jahre, Anthropic drei. Das Labor beschäftigt etwa 200 Menschen und hat im Januar zwei Mitgründer an OpenAI verloren. Ein Unternehmen in dieser Lage gewinnt kein Benchmark-Rennen gegen Labore mit dem hundertfachen Rechenbudget. Also ist es gar nicht erst angetreten.

Für jeden, der KI einkauft, ist eine ehrlich benannte Grenze etwas, womit sich planen lässt. Ein Anbieter, der die höchste Punktzahl auf einer öffentlichen Rangliste meldet, spricht über eine Zahl, die binnen Wochen überboten wird, womöglich noch bevor Ihr Beschaffungsprozess abgeschlossen ist. Ein Anbieter, der Ihnen sagt, was sein Produkt nicht ist, hat Ihnen etwas Haltbares gegeben. Das ist seltener, als es sein sollte, und mehr wert, als es aussieht.

Was tatsächlich drinsteckt

Inkling ist ein Mixture-of-Experts-Transformer mit 975 Milliarden Parametern insgesamt, von denen 41 Milliarden gleichzeitig aktiv sind. Vortrainiert wurde das Modell auf 45 Billionen Token aus Text, Bildern, Audio und Video, das Kontextfenster reicht bis zu 1 Million Token. Es verarbeitet Text, Bilder und Audio, gibt derzeit aber ausschließlich Text zurück, darunter Code und strukturierte Daten. Die leichtere Variante Inkling-Small kommt auf 276 Milliarden Parameter insgesamt bei 12 Milliarden aktiven.

Zwei Entwurfsentscheidungen zeigen, worauf das Modell optimiert ist. Der Denkaufwand lässt sich steuern, sodass sich pro Anfrage Denktiefe gegen Token-Kosten abwägen lässt. Diesen Kostenhebel geben die meisten APIs nicht aus der Hand. Thinking Machines hat außerdem relative Positionskodierungen statt RoPE gewählt und berichtet, dass diese auf längere Sequenzen besser extrapolieren. Für gleichwertige Coding-Leistung braucht Inkling nach Angaben des Unternehmens rund ein Drittel der Token von Nvidias Nemotron 3 Ultra. Auf einer Rechnung nach Verbrauch ist Token-Effizienz kein technisches Detail.

Prüfen Sie die praktischen Zahlen vor den Schlagzeilenzahlen. Die Gewichte liegen auf Hugging Face, und Inkling ist über Tinker verfügbar, die Fine-Tuning-Plattform des Unternehmens, bei Kontextlängen von 64.000 und 256.000 Token, befristet derzeit mit 50 Prozent Rabatt. Beachten Sie die Lücke: Das Modell unterstützt bis zu einer Million Token Kontext, die verwaltete Plattform bietet davon derzeit ein Viertel. Hängt Ihr Anwendungsfall am vollen Fenster, betreiben Sie es selbst, und ein Modell mit 975 Milliarden Parametern selbst zu betreiben ist eine ernsthafte Infrastrukturverpflichtung und kein Nachmittagsprojekt.

Die offene Spitzenforschung ist längst gemeinsames Erbe

Das Detail zur Herkunft verdient in dieser Veröffentlichung mehr Aufmerksamkeit als die Parameterzahl. Thinking Machines schreibt, dass Inklings Mixture-of-Experts-Aufbau weitgehend DeepSeek-V3 folgt, mit 256 gerouteten Experten und zwei geteilten Experten, von denen sechs geroutete Experten pro Token aktiv sind. Für die Daten des frühen Post-Trainings vor dem großangelegten Reinforcement Learning kamen Modelle mit offenen Gewichten zum Einsatz, darunter Kimi K2.5 von Moonshot AI. Ein Labor aus San Francisco, gegründet von der früheren Technikchefin von OpenAI, baut seine Architektur auf dem veröffentlichten Entwurf eines chinesischen Labors auf und bringt sie mit dem Modell eines weiteren chinesischen Labors in Gang.

So sieht eine offene Spitzenforschung in der Praxis wirklich aus. Kein Wettlauf zweier Blöcke um das Hissen von Fahnen, sondern ein gemeinsames technisches Erbe, das in alle Richtungen fließt und an keiner Grenze um Erlaubnis fragt. Die Ingenieursarbeit wanderte von Hangzhou und Peking nach San Francisco, weil sie veröffentlicht war, und das Ergebnis wurde seinerseits veröffentlicht.

Für einen europäischen Unternehmer hat das einen konkreten und unsentimentalen Wert. Der Zugang zu einem gehosteten Spitzenmodell ist eine Geschäftsbeziehung, die an Richtlinien-, Preis- und Verfügbarkeitsentscheidungen in einer anderen Rechtsordnung hängt, wie jeder gelernt hat, dessen Modell in 47 Ländern startete, nur nicht in der Europäischen Union. Ein heruntergeladener Satz offener Gewichte ist eine andere Art von Vermögenswert. Er wird Ihnen nicht unter den Händen eingeschränkt, neu bepreist oder abgekündigt, weil Sie ihn bereits haben. Das ist kein Argument dafür, dass offene Gewichte besser sind. Es ist ein Argument dafür, dass sie anders ausfallen, und zu wissen, wie eine Abhängigkeit ausfällt, ist der größte Teil dessen, wofür Beschaffung überhaupt da ist.

Ob das ein Kauf für Sie ist

Die Trennlinie verläuft zwischen Intelligenz mieten und eine Fähigkeit besitzen. Ist Ihre KI-Arbeit breit, vielfältig und ändert sich wöchentlich, dann mieten Sie: Zahlen Sie pro Token für das beste gehostete Modell und wechseln Sie, sobald ein besseres erscheint, denn Sie kaufen Flexibilität. Ist Ihre Arbeit eng, repetitiv, hochvolumig und spezifisch für Ihr Geschäft, dann kann eine anpassbare Basis, die Sie feinjustieren und behalten, ein allgemeines Modell schlagen, das Ihre Domäne nie gesehen hat, und die Kosten wachsen nicht länger mit der Nutzung mit.

Seien Sie ehrlich, was Anpassung verlangt, denn genau hier bricht der Plan meistens. Fine-Tuning braucht Trainingsdaten, die Ihnen tatsächlich gehören und die Sie nutzen dürfen. Es braucht ein Evaluationsset aus Ihrer echten Arbeit, nicht aus einem öffentlichen Benchmark, sonst können Sie gar nicht beurteilen, ob Ihre Version besser ist als der Ausgangspunkt. Und es braucht eine namentlich benannte Person, die das Modell im Betrieb verantwortet, denn ein feinjustiertes Modell, das niemand pflegt, verfällt still, während sich das Geschäft um es herum verändert. Fehlt eines dieser drei, ist ein offenes Basismodell ein Download, keine Fähigkeit.

Die ehrliche Lesart von Inkling lautet: Das Eingeständnis ist das Merkmal. Thinking Machines hat Ihnen gesagt, was das Modell nicht ist, und damit bleibt nur die Frage, ob Anpassbarkeit das ist, was Sie brauchen. Für die meisten Unternehmen, die eine Handvoll allgemeiner KI-Aufgaben laufen lassen, ist sie es nicht, und Mieten bleibt richtig. Für die kleinere Zahl mit einem engen, hochvolumigen Problem und echten eigenen Daten ist eine Basis, die Sie besitzen und formen können, wirtschaftlich etwas völlig anderes als getakteter Zugang zum Modell eines Dritten. Im Mittelstand trifft diese Beschreibung häufiger zu, als man denkt: Ein Haus, das seit Jahrzehnten dieselbe Sorte Prüfberichte, Schadensakten oder Stücklisten verarbeitet, sitzt auf einem Datenbestand, den kein allgemeines Modell je gesehen hat. Beides ist vertretbar. Das Zweite kaufen und für das Erste budgetieren ist es nicht.

Weiterlesen: China gibt H200-Kauf für seine Top-Labore frei  |  Ein chinesisches Modell beantwortet vielleicht Ihre Prompts