Kimi K3 er åben og vejer 1,56 terabyte

Hvad der faktisk landede på Hugging Face

Moonshot AI har offentliggjort vægtene til Kimi K3 på Hugging Face, og denne gang er filerne der virkelig. Arkivet indeholder 96 safetensors-fragmenter, en config.json og en LICENSE-fil, og oversigten angiver i alt 1,56 terabyte. Det sidste tal vejer tungere, end det ser ud, for vægtene er gemt i MXFP4-præcision med MXFP8-aktiveringer. Der venter ingen mindre udgave på at blive kvantiseret: dette er allerede den komprimerede distribution.

Arkitekturen er en blanding af eksperter med 2,8 billioner parametre i alt og 104 milliarder aktiveret per token, trukket fra 896 eksperter, hvoraf 16 vælges hver gang. Stakken har 93 lag, heraf 69 KDA og 24 gated MLA, på et ordforråd af 160.000 tokens med et standardkontekstvindue på 1.048.576 tokens. Det er en model, der kan se, opført som billede og tekst til tekst og ikke som ren tekst.

De offentliggjorte resultater er stærke i de kategorier, der betyder noget for et hold i arbejde: 93,5 på GPQA Diamond, 88,3 på Terminal-Bench 2.1, 91,2 på BrowseComp, 67,5 på DeepSWE og fra 81,6 til 83,4 på MMMU-Pro for syn. Moonshot oplyser, at både kodearkivet og modelvægtene udgives under Kimi K3 License, og der begynder den interessante del.

To grænser, og den mindst udseende er den bindende

Kimi K3 License er ikke Apache og ikke MIT. Den rummer to særskilte kommercielle udløsere, og dækningen vil næsten sikkert blande dem sammen. Den første står i afsnit tre: bruges softwaren eller et afledt værk i et kommercielt produkt eller en tjeneste med mere end 100 millioner månedligt aktive brugere, eller mere end 20 millioner dollars i månedlig omsætning, skal ordene Kimi K3 vises tydeligt i det produkts brugerflade. Det er en krediteringspligt, den rammer en meget kort liste af selskaber, og den begrænser ikke, hvad du må bygge.

Den anden står i afsnit to og virker anderledes i enhver henseende. Driver du eller et af dine tilknyttede selskaber en model-som-tjeneste-forretning, og overstiger den samlede omsætning i alt 20 millioner dollars over tolv sammenhængende måneder, skal du indgå en særskilt aftale med Moonshot AI, før du bruger softwaren kommercielt overhovedet. Ikke et logo. En underskrevet kontrakt, og som en forudsætning for brugen.

Regn på de to tal, for de er ikke lige store. Tyve millioner dollars om måneden er 240 millioner om året. Tyve millioner dollars over tolv måneder er en tolvtedel af den udløser, ved de aktuelle kurser omkring 18 millioner euro i koncernomsætning. Et rentabelt dansk softwarehus med halvtreds ansatte kan ligge over den bestemmelse, der betinger brugen, og langt under den, der betinger mærkningen. Grænsen, der lyder mildest, er den, der faktisk rækker ind i mellemmarkedet.

Ved 1,56 terabyte er åbne vægte ikke en kørbar model

Læg licensen til side et øjeblik og se på logistikken. At hente 1,56 terabyte er ikke en udviklers eftermiddag: det er en planlagt overførsel med konsekvenser for udgående trafik, og til sidst står du med en model, der aktiverer 104 milliarder parametre per token og kræver seriøs acceleratorhukommelse for at svare med fornuftig ventetid. Den åbne offentliggørelse er ægte og betyder noget for revisionsspor og forskning, men den placerer ikke denne model inde i de fleste virksomheder.

I praksis betyder det, at flertallet af de europæiske selskaber, der ender med at bruge Kimi K3, når den gennem andres infrastruktur: en neocloud, et endepunkt hos en hyperscaler eller en inferensudbyder. Ordet åben udfører meget lidt arbejde i den opstilling. Du køber tokens hos en leverandør, præcis som du gør i dag med lukkede modeller, og åbenheden viser sig som et prisargument og ikke som kontrol.

Det er ikke en kritik af Moonshot. Det er den normale følge af frontskala, og det gælder enhver stor udgivelse af åbne vægte. Fejlen, man skal undgå, er at tage offentliggjorte vægte som bevis for, at man har en udvej. En udvej kræver et sted at gå hen, og 1,56 terabyte MXFP4-fragmenter er et sted, som meget få balancer kan huse.

Hvad der skal afklares, før nogen retter en applikation mod den

Afsnit fire i licensen rummer den bestemmelse, de fleste læsere reelt vil læne sig på. De kommercielle krav gælder ikke for intern brug og ikke for adgang gennem Moonshots egne officielle produkter eller dets certificerede inferenspartnere. Den fritagelse er oprigtigt nyttig, og den er også en flytning af problemet: går din vej til modellen gennem en udbyder, afgøres din efterlevelse af den udbyders status og af, hvad din kontrakt med den siger. Modelkortet kan ikke svare på det for dig.

Tre ting før udrulning. Fastslå dit eget koncernomsætningstal mod tolvmånederstesten og skriv svaret ned, for bestemmelsen tæller tilknyttede selskaber med, og de fleste koncerner har aldrig beregnet det tal til dette formål. Spørg dine jurister, om noget af det, du sælger, udgør en model-som-tjeneste-forretning, eftersom videresalg af inferens i enhver indpakning er risikoen, og produkthold ser sjældent sig selv sådan. Går du gennem en leverandør, så kræv skriftlig bekræftelse på, at den er certificeret inferenspartner, og at fritagelsen også omfatter dig.

Gør alle tre ting, før kode sendes ud, for afsnit to er en betingelse for kommerciel brug af softwaren og ikke en sanktion, der pålægges bagefter. At opdage det under en gennemgang før et opkøb er betydeligt dyrere end at opdage det nu.

Læs videre: En frontier-model er holdt op med at tage kunder ind  |  Uafhængige tests sætter Kimi K3 over Fable 5