Samma familj, samma tva veckor, motsatt hardwarerakning

Den 3 augusti annonserade Alibaba Qwen3.8-Max: 2,4 biljoner parametrar totalt, omkring 95 miljarder aktiva per förfrågan, och ett löfte om att öppna vikter skulle följa inom en vecka. Det täcktes här vid tillfället, med en beräkning av vad det faktiskt skulle kosta att köra själv: omkring 2,4 terabyte minne för att rymma hela modellen vid 8-bitars precision, mer an vad en enda åtta-GPU H200-nod ger, mitt i en branschomfattande minnesbrist som redan pressade komponentpriserna uppåt.

Elva dagar senare an det ursprungliga en-veckas löftet, den 14 augusti, kom de öppna vikterna för Qwen3.8-Max, tillsammans med något den tidigare annonseringen inte hade nämnt: Qwen3.8-27B, en tät modell med 27,78 miljarder parametrar, byggd just för det användningsfall som Max-varianten utesluter, ett enda konsument-GPU.

Vad benchmarken faktiskt visar

Alibabas eget modellkort jämför Qwen3.8-27B med Qwen3.6-27B, dess direkta föregångare vid samma parameterantal, vilket är den ärliga jämförelsen för att bedöma generationsframsteg istället för att jämföra över olika storlekar. Terminal-Bench 2.1, som testar om en modell kan utföra reella kommandoradsuppgifter, steg från 63,4 till 73,0. DeepSWE 1.1, ett mjukvaruutvecklingsbenchmark, mer an tredubblades från 13,3 till 42,2. OSWorld-Verified, som mäter utförande av uppgifter i en reell skrivbordsmiljö, steg från 63,9 till 84,3. JobBench, som mäter professionell uppgiftslösning istället för kodgåtor, steg från 21,8 till 33,4, ett hopp på omkring 50 procent.

Inget av dessa tal gör en modell med 27 miljarder parametrar likvärdig med Max-varianten på 2,4 biljoner parametrar som släpptes samma dag. De betyder dåremot att en modell tillräckligt liten för ett enda GPU nu klarar uppgifter som en mycket större modell behövdes för for ett år sedan, och det är den egentliga historien: gransen för vad som räknas som en genuint användbar lokal modell fortsätter sjunka i hardwarekrav medan benchmarksiffrorna fortsätter stiga.

Varför det delar självhostningsbeslutet i tva

För tva veckor sedan var det ärliga svaret till en EU- eller UK-ägare som frågade om man skulle självhosta Qwen ett tydligt nej, om inte företaget redan drev multi-GPU-serverinfrastruktur, eftersom flaggskeppsmodellens minnesbehov uteslot allt mindre. Det svaret har inte ändrats för Max-varianten. Det har ändrats helt för 27B-varianten, som får plats med minne kvar på ett enda gaming-GPU, samma hardwareklass som ett medelstort engineeringteam kanske redan äger för andra syften.

Den praktiska konsekvensen är att självhostning inte längre är ett beslut ett företag tar en gång för alla. Det är nu ett beslut per arbetsbelastning, per modellstorlek, inom samma familj. Ett team som behöver frontier-klass resonemang över stora dokumentmängder behöver fortfarande Max-varianten och den multi-GPU-budget som följer med. Ett team som behöver en kapabel coding- eller uppgiftsassistent för interna verktyg kan nu eventuellt köra 27B-varianten på hardware det redan äger, till en bråkdel av kostnaden för ett API-abonnemang skalat till samma användning.

Vad du bör kontrollera innan du avskriver självhostning igen

Om ditt team lade en självhostningsutvärdering åt sidan efter annonseringen den 3 augusti eftersom minnesrakningen inte gick ihop, är det värt att köra om den specifikt med 27B-varianten, inte Max-varianten. Kontrollera tre saker: om din faktiska arbetsbelastning behöver Max-klass resonemang eller skulle vara väl betjänad av en modell med 27 miljarder parametrar, vad ett enda kapabelt GPU kostar mot ett års API-utgifter vid ditt teams nuvarande användning, och om dina krav på datalokalisering är den egentliga anledningen till självhostning, i så fall är hardwarekostnaden sekundär i förhållande till compliance-nyttan. De två talen, 2,4 terabyte och ett GPU, beskriver samma Qwen-släpp. Vilket som gäller för dig beror helt på vilken storlek du faktiskt behöver.

Läs vidare: Alibaba teg om siffran som sätter er kostnad  |  En telefon, en annan AI bakom varje gräns