De zin die een frontier lab normaal nooit opschrijft

Diep in de aankondiging van Inkling door Thinking Machines Lab op 15 juli staat een regel die geen enkel ander frontier lab heeft willen publiceren. Het model is, schreef het bedrijf, "over de hele linie niet het sterkste model dat vandaag beschikbaar is". Vervolgens beschrijft het wat Inkling volgens het lab dan wel is: "een goede open-weights basis voor maatwerk". Elke modellancering van de afgelopen drie jaar opende met een benchmarkgrafiek. Deze opende met een beperking.

Lees dat als strategie, niet als bescheidenheid. Mira Murati, voorheen chief technology officer bij OpenAI, richtte Thinking Machines op en had ongeveer negen maanden nodig om een model op frontier-schaal uit te brengen, tegenover ruwweg vijf jaar bij OpenAI en drie bij Anthropic. Het lab telt zo'n 200 medewerkers en zag in januari twee medeoprichters vertrekken naar OpenAI. Een bedrijf in die positie wint geen benchmarkrace tegen labs met honderd keer zoveel rekenbudget. Dus deed het niet mee.

Het bruikbare deel voor iedereen die AI inkoopt: een eerlijke beperking is informatie waarmee u kunt plannen. Een leverancier die claimt het hoogst te scoren op een publieke ranglijst vertelt u over een getal dat binnen enkele weken is verslagen, mogelijk nog voordat uw inkooptraject is afgerond. Een leverancier die u vertelt wat zijn product niet is, geeft u iets duurzaams. Dat is zeldzamer dan het zou moeten zijn, en het is meer waard dan het lijkt.

Wat er werkelijk in de doos zit

Inkling is een mixture-of-experts-transformer met 975 miljard parameters in totaal, waarvan er 41 miljard tegelijk actief zijn. Het model is voorgetraind op 45 biljoen tokens aan tekst, beeld, audio en video, en ondersteunt een contextvenster tot 1 miljoen tokens. Het redeneert over tekst, beeld en audio, maar schrijft vooralsnog alleen tekst terug, inclusief code en gestructureerde data. Een lichtere variant, Inkling-Small, heeft 276 miljard parameters in totaal met 12 miljard actief.

Twee ontwerpkeuzes verraden waarop het model is geoptimaliseerd. Inkling biedt regelbare thinking effort, waarmee de aanroepende partij per verzoek redeneerdiepte kan afwegen tegen tokenverbruik, een kostenknop die de meeste API's u niet in handen geven. Thinking Machines koos daarnaast voor relatieve positional embeddings in plaats van RoPE, met de melding dat die beter extrapoleren naar langere reeksen. Volgens het bedrijf gebruikt Inkling ongeveer een derde van het aantal tokens van Nvidia's Nemotron 3 Ultra voor vergelijkbare codeerprestaties. Op een rekening per token is token-efficiëntie geen technisch detail.

Kijk naar de praktische cijfers voordat u naar de koppen kijkt. De gewichten staan op Hugging Face en Inkling is beschikbaar via Tinker, het finetuningplatform van het bedrijf, bij contextlengtes van 64.000 en 256.000 tokens, momenteel met 50% korting voor een beperkte periode. Let op het gat: het model ondersteunt tot een miljoen tokens context, terwijl het beheerde platform daar nu een kwart van biedt. Hangt uw use case af van het volledige venster, dan host u het zelf, en het zelf hosten van een model met 975 miljard parameters is een serieuze infrastructuurverplichting en geen middagje werk.

De open frontier is inmiddels een gedeelde erfenis

Het herkomstdetail in deze release verdient meer aandacht dan het parameteraantal. Thinking Machines stelt dat het mixture-of-experts-ontwerp van Inkling grotendeels DeepSeek-V3 volgt, met 256 routed experts en twee shared experts, waarvan er zes routed experts per token actief zijn. Het lab gebruikte daarnaast open-weight modellen, waaronder Kimi K2.5 van Moonshot AI, om data te genereren voor de vroege post-training, voorafgaand aan grootschalige reinforcement learning. Een lab uit San Francisco, opgericht door de voormalige chief technology officer van OpenAI, bouwde zijn architectuur op het gepubliceerde ontwerp van een Chinees lab en gaf het een vliegende start met het model van weer een ander Chinees lab.

Zo ziet een open frontier er in de praktijk uit. Geen vlaggenplantrace tussen twee blokken, maar een gedeelde technische erfenis die alle kanten op stroomt en aan geen enkele grens om toestemming vraagt. De engineering verhuisde van Hangzhou en Peking naar San Francisco omdat ze gepubliceerd was, en het resultaat werd op zijn beurt weer gepubliceerd.

Voor een Europese eigenaar heeft dat een specifieke en onsentimentele waarde. Toegang tot een gehost frontier model is een commerciële relatie die onderhevig is aan beleids-, prijs- en beschikbaarheidsbeslissingen die in een ander rechtsgebied worden genomen, zoals iedereen inmiddels weet wiens model in 47 landen lanceerde maar niet in de Europese Unie. Een gedownloade set open gewichten is een ander soort bezit. Die wordt niet ingeperkt, opnieuw geprijsd of onder u vandaan uitgefaseerd, want u heeft hem al. Dat is geen argument dat open gewichten beter zijn. Het is een argument dat ze anders falen, en weten hoe een afhankelijkheid faalt is grotendeels waar inkoop voor bestaat.

Of dit een aankoop is die u zou moeten doen

De grens loopt tussen intelligentie huren en een capability bezitten. Is uw AI-werk breed, gevarieerd en verandert het wekelijks, huur dan: betaal per token voor het beste gehoste model en stap over zodra er een beter model verschijnt, want u koopt flexibiliteit. Is uw werk smal, repetitief, hoogvolume en specifiek voor uw bedrijf, dan kan een aanpasbare basis die u finetunt en houdt een algemeen model verslaan dat uw domein nooit heeft gezien, en stoppen de kosten met meegroeien met uw gebruik. Nederlandse bedrijven met een smalle, hoogvolume documentstroom en eigen data die het pand niet uit mag, denk aan verzekeraars, logistiek of zakelijke dienstverlening, vallen vaker in die tweede categorie dan het gemiddelde.

Wees eerlijk over wat maatwerk vraagt, want hier breekt het plan meestal. Finetunen vraagt om trainingsdata die u daadwerkelijk bezit en mag gebruiken. Het vraagt om een evaluatieset die is opgebouwd uit uw echte werk en niet uit een publieke benchmark, anders heeft u geen enkele manier om te weten of uw versie beter is dan waar u mee begon. En het vraagt om een persoon met naam die het model in productie bezit, want een gefinetund model dat niemand onderhoudt verslechtert geruisloos terwijl uw bedrijf eromheen verandert. Ontbreekt één van die drie, dan is een open-weight basis een download en geen capability.

De eerlijke lezing van Inkling is dat de bekentenis de feature is. Thinking Machines heeft u verteld wat het niet is, waardoor alleen de vraag overblijft of aanpasbaarheid is wat u nodig heeft. Voor de meeste bedrijven die een handvol algemene AI-taken draaien is dat niet zo, en blijft huren de juiste keuze. Voor het kleinere aantal met een smal hoogvolumeprobleem en echte eigen data is een basis die u kunt bezitten en vormen een werkelijk ander economisch voorstel dan gemeterde toegang tot het model van iemand anders. Beide zijn verdedigbaar. Het tweede kopen terwijl u begroot voor het eerste is dat niet.

Lees hierna: China staat zijn topbedrijven H200-aankoop toe  |  Een Chinees model beantwoordt misschien uw prompts