Ledande AI-labb erkänner att modellen inte är bäst

Meningen som ett ledande AI-labb sällan skriver

Nedgrävd i Thinking Machines Labs tillkännagivande av Inkling den 15 juli ligger en rad som inget annat ledande AI-labb har velat publicera. Modellen är, skrev bolaget, "inte den starkaste modellen totalt sett som finns tillgänglig i dag". Sedan följde en beskrivning av vad bolaget i stället anser att Inkling är: "en bra bas med öppna vikter för anpassning". Varje modellansering de senaste tre åren har inletts med ett benchmarkdiagram. Den här inleddes med en begränsning.

Läs det som strategi, inte blygsamhet. Mira Murati, tidigare teknikchef på OpenAI, grundade Thinking Machines och behövde ungefär nio månader för att leverera en modell i frontlinjeskala, mot närmare fem år för OpenAI och tre för Anthropic. Labbet har omkring 200 anställda och förlorade två medgrundare till OpenAI i januari. Ett bolag i det läget vinner inte ett benchmarklopp mot labb med hundra gånger så stor beräkningsbudget. Alltså avstod man från att ställa upp i loppet.

Det användbara för den som köper AI är att en ärlig begränsning är information att planera med. En leverantör som hävdar högsta poäng på en offentlig topplista berättar om en siffra som slås inom några veckor, mycket möjligt innan er upphandling ens är klar. En leverantör som talar om vad produkten inte är har gett er något som håller. Det är ovanligare än det borde vara, och det är värt mer än det ser ut att vara.

Vad som faktiskt ligger i lådan

Inkling är en mixture-of-experts-transformer med 975 miljarder parametrar totalt och 41 miljarder aktiva åt gången. Den förtränades på 45 biljoner tokens av text, bild, ljud och video och stöder ett kontextfönster på upp till 1 miljon tokens. Den resonerar över text, bild och ljud, men skriver än så länge bara tillbaka text, inklusive kod och strukturerade data. En lättare variant, Inkling-Small, bär 276 miljarder parametrar totalt med 12 miljarder aktiva.

Två designval avslöjar vad modellen är optimerad för. Den erbjuder styrbar tankeansträngning, så att den som anropar kan väga resonemangsdjup mot tokenkostnad för varje enskild förfrågan, och det är en kostnadsspak de flesta API:er inte räcker över. Thinking Machines valde också relativa positionsinbäddningar framför RoPE och rapporterar att de extrapolerar bättre till längre sekvenser. Bolaget uppger att Inkling förbrukar ungefär en tredjedel så många tokens som Nvidias Nemotron 3 Ultra för motsvarande prestanda på kod. På en faktura som räknar tokens är tokeneffektivitet ingen teknisk detalj.

Kontrollera de praktiska siffrorna före rubriksiffrorna. Vikterna ligger på Hugging Face, och Inkling går att nå via Tinker, bolagets plattform för finjustering, vid kontextlängder på 64 000 och 256 000 tokens, för närvarande med 50 procent rabatt under en begränsad period. Notera glappet: modellen stöder upp till en miljon tokens kontext, medan den hanterade plattformen i dag erbjuder en fjärdedel av det. Hänger ert användningsfall på hela fönstret driftar ni modellen själva, och att själv drifta en modell på 975 miljarder parametrar är ett tungt infrastrukturåtagande snarare än en eftermiddag.

Den öppna forskningsfronten är numera ett gemensamt arv

Uppgiften om härkomst i det här släppet förtjänar mer uppmärksamhet än parameterantalet. Thinking Machines uppger att Inklings mixture-of-experts-design i stora drag följer DeepSeek-V3, med 256 routade experter och två delade experter, där sex routade experter är aktiva per token. Bolaget använde dessutom modeller med öppna vikter, bland dem Moonshot AI:s Kimi K2.5, för att generera data till tidig efterträning innan storskalig förstärkningsinlärning tog vid. Ett labb i San Francisco, grundat av OpenAI:s tidigare teknikchef, byggde sin arkitektur på ett kinesiskt labbs publicerade design och startade upp den med ett annat kinesiskt labbs modell.

Så här ser en öppen forskningsfront ut i praktiken. Inte ett lopp om att plantera flaggor mellan två block, utan ett gemensamt tekniskt arv som flödar åt alla håll och inte ber om lov vid någon gräns. Ingenjörsarbetet flyttade från Hangzhou och Peking till San Francisco därför att det var publicerat, och resultatet publicerades i sin tur.

För en europeisk ägare har det ett konkret och osentimentalt värde. Tillgång till en hostad frontmodell är en affärsrelation som lyder under policy-, pris- och tillgänglighetsbeslut fattade i en annan jurisdiktion, vilket alla vars modell lanserades i 47 länder men inte i EU redan har lärt sig. En nedladdad uppsättning öppna vikter är en annan sorts tillgång. Den blir inte begränsad, omprissatt eller avvecklad under fötterna på er, eftersom ni redan har den. Det är inget argument för att öppna vikter är bättre. Det är ett argument för att de fallerar på ett annat sätt, och att veta hur ett beroende fallerar är större delen av vad upphandling är till för.

Om det här är ett köp ni bör göra

Gränsen går mellan att hyra intelligens och att äga en förmåga. Är ert AI-arbete brett, växlande och förändrat varje vecka ska ni hyra: betala per token för den bästa hostade modellen och byt när en bättre dyker upp, för det ni köper är rörlighet. Är arbetet smalt, repetitivt, av hög volym och specifikt för er verksamhet kan en anpassningsbar bas som ni finjusterar och behåller slå en generell modell som aldrig sett er domän, och kostnaden slutar växa i takt med användningen.

Var ärlig om vad anpassning kräver, för det är här planen brukar spricka. Finjustering kräver träningsdata som ni faktiskt äger och har rätt att använda. Den kräver en utvärderingsuppsättning byggd på ert verkliga arbete, inte på en offentlig benchmark, annars har ni inget sätt att veta om er version är bättre än den ni utgick från. Och den kräver en namngiven person som äger modellen i produktion, för en finjusterad modell som ingen underhåller förfaller tyst medan verksamheten förändras runt omkring den. Saknas någon av de tre är en bas med öppna vikter en nedladdning, inte en förmåga.

Den ärliga läsningen av Inkling är att erkännandet är själva funktionen. Thinking Machines har talat om vad modellen inte är, och då återstår bara frågan om anpassningsbarhet är det ni behöver. För de flesta bolag som kör en handfull generella AI-uppgifter är det inte det, och att hyra förblir rätt val. För den mindre skara som har ett smalt problem med hög volym och verkliga egna data känns bilden annorlunda, och svenska bolag med tunga återkommande dokument- och ärendeflöden i egna system, eller med dataskyddsskäl att hålla driften i eget hus, hör hemma just där. En bas ni kan äga och forma är då ett genuint annat ekonomiskt erbjudande än tillgång som mäts per token till någon annans modell. Båda vägarna går att försvara. Att köpa den ena och budgetera för den andra går inte.

Läs vidare: Kina låter sina topplabb köpa Nvidia H200  |  En kinesisk modell svarar kanske på dina prompter