Vad en beslutsmodell är, bredvid en chattbot
En beslutsmodell är en liten språkmodell som är trimmad för att besvara en sorts fråga med ett val ur en fast lista och poängsätter varje alternativ så att mjukvara kan agera direkt på resultatet.
En chattbot genererar text och resonerar kring öppna problem. En beslutsmodell ger upp den friheten i utbyte mot snabbhet, låg kostnad och begränsad utdata, och Microsoft beskriver sin modell som byggd för att leverera strukturerad utdata som mjukvara kan agera på direkt. Idén med en modell som returnerar sannolikheter för en fast lista är inte ny, eftersom maskininlärningsforskare länge har byggt sannolikhetsbaserade klassificerare, som The Register påpekar. Nytt är att alternativen kommer med beskrivningar på vanligt språk och att en språkmodell gör poängsättningen.
Utdata kommer enligt heise i tre former: ett ja eller nej, ett val ur en definierad grupp eller en rangordning av alternativ, alltid som tal som sannolikheter och aldrig som förklaring.
Microsoft-Decision-1 som genomgånget exempel
Microsoft presenterade Microsoft-Decision-1 den 9 oktober som en modell för snabba, strukturerade beslut, och siffrorna visar vad kategorin lovar.
| Egenskap | Microsoft-Decision-1 |
|---|---|
| Basmodell | Qwen3.5-9B från Alibaba Cloud, eftertränad för beslutspoängsättning i ett enda pass |
| Träffsäkerhet | 83,5 procent över 36 benchmarks med nästan 150 000 frågor |
| Latens | 85 millisekunder; i Microsofts test 2,5 gånger snabbare än H2O-Lightning-4B och 2,8 gånger snabbare än Jev |
| Pris | 0,042 dollar per miljon indatatokens; utdatatokens gratis |
| Tillgänglighet | Microsoft Foundry och OpenRouter |
| Konsekvens | Beslutet ändrades i 1,3 procent av störningarna; inga ändringar vid omformulerade alternativbeskrivningar eller omkastade alternativ |
| Planerad ändring | Byte till modeller från Microsoft AI och OpenAI, utan angiven orsak |
Det är Microsofts egna siffror från Microsofts egna tester, och heise påpekar att bloggen upprepade gånger jämför modellen med GPT-6 Sol, en frontiermodell för komplexa språkuppgifter, vilket ger jämförelsen begränsat värde.
Kategorin är trång. The Register räknar mer än 100 sådana modeller, från Jev, tillkännagiven ungefär tre veckor före rapporten den 10 oktober, till OpenAI:s Decisions API i öppen beta, Cloudflares öppna Clef, Strands Decider 2B, Liquid AI d1, Perplexitys Decisions API, en Snowflake-modell, Surogate Rune och H2O-Lightning-4B.
Var de passar och var de inte gör det
Beslutsmodeller passar steg där mjukvara behöver ett snabbt, avgränsat omdöme, och Microsoft nämner routing, klassificering, prioritering, verifiering och arbetsflödesstyrning som mål.
Användningar som nämns i Microsofts inlägg och heises sammanfattning är att dirigera en förfrågan till rätt AI-modell efter kvalitet, kostnad och latens, att validera en indata mot kvalitetskriterier, att sortera kundfeedback i kategorier, att avgöra om en agent ska fortsätta, stanna, försöka igen eller lämna över, och att välja bästa åtgärd ur en mängd när en dator eller robot styrs.
De passar inte för öppet skrivande, och deras gränser syns. De ger tal utan skäl, noterar heise, och dess bedömning är att en beslutsmodell är stabilare än många allmänna modeller men mindre pålitlig än en algoritm eller ett beslutsträd, eftersom en ändringsfrekvens på 1,3 procent betyder att svar fortfarande kan ändras. The Register tillägger att beslutsmodeller fortfarande kan göra fel och pekar på forskning om hur sådana fel kan förstärkas. Microsoft anger ett kalibreringsmål, att en förutsägelse på 90 procent ska stämma ungefär nio gånger av tio, så be om kalibrering mätt på dina egna data.
Fem frågor innan du köper
Fråga vilken basmodell som ligger under och på vilken licens, eftersom Microsoft-Decision-1 bygger på Alibaba Clouds Qwen3.5-9B och samma fråga gäller varje beslutsmodell. Om din inköpspolicy begränsar varifrån AI-komponenter får komma avgör det svaret resten.
Fråga när och hur basen ändras. Microsoft säger att det kommer att flytta Microsoft-Decision-1 till modeller från Microsoft AI och OpenAI utan att säga varför, så dagens resultat beskriver en bas som ska ändras; be om samma tester på den nya basen innan du litar på den.
Fråga hur den har testats. Be om benchmarkuppsättningen, vem som valde jämförelsemodellerna, ändringsfrekvensen för dina egna formuleringar och en kalibreringskontroll på dina data, och kör sedan själv ett urval av dina verkliga fall.
Fråga hur beslut loggas och granskas. Utdata är en sannolikhet utan förklaring, så spara indata, alternativ och poäng för varje beslut och bestäm en tröskel under vilken en människa avgör.
Fråga om pris och latens i din egen uppsättning. Microsoft anger 0,042 dollar per miljon indatatokens med gratis utdata och 85 millisekunder, vilket gör massrouting och kontroller billiga, men kontrollera siffrorna på din egen trafik.
Läs vidare: EU Granskar Nu Din Molnleverantör Direkt | EU har just flyttat din AI Act-deadline med 16 månader
