Cos'è un modello decisionale, rispetto a un chatbot
Un modello decisionale è un piccolo modello linguistico tarato per rispondere a un tipo di domanda scegliendo da un elenco fisso, assegnando un punteggio a ogni opzione perché il software possa agire direttamente sul risultato.
Un chatbot genera testo e ragiona su problemi aperti. Un modello decisionale rinuncia a quella libertà in cambio di velocità, costi bassi e output vincolati, e Microsoft descrive il suo modello come costruito per fornire output strutturati su cui il software può agire subito. L'idea di un modello che restituisce probabilità per un elenco fisso non è nuova, perché i ricercatori di machine learning costruiscono da tempo classificatori probabilistici, come nota The Register. Ciò che è nuovo è che le opzioni hanno descrizioni in linguaggio naturale e che un modello linguistico fa il punteggio.
Secondo heise, gli output sono di tre tipi: un sì o no, una scelta da un insieme definito o una classifica di opzioni, sempre come numeri tipo probabilità e mai come spiegazione.
Microsoft-Decision-1 come esempio concreto
Microsoft ha presentato Microsoft-Decision-1 il 9 ottobre come modello per decisioni rapide e strutturate, e le sue cifre mostrano cosa promette la categoria.
| Proprietà | Microsoft-Decision-1 |
|---|---|
| Modello di base | Qwen3.5-9B di Alibaba Cloud, addestrato ulteriormente per il punteggio decisionale in un solo passaggio |
| Accuratezza | 83,5 per cento su 36 benchmark con quasi 150.000 domande |
| Latenza | 85 millisecondi; nel test di Microsoft 2,5 volte più veloce di H2O-Lightning-4B e 2,8 volte più di Jev |
| Prezzo | 0,042 dollari per milione di token in ingresso; token in uscita gratuiti |
| Disponibilità | Microsoft Foundry e OpenRouter |
| Coerenza | La decisione è cambiata nell'1,3 per cento delle perturbazioni; nessun cambio parafrasando le descrizioni o riordinando le opzioni |
| Cambiamento previsto | Passaggio a modelli di Microsoft AI e OpenAI, senza motivazione |
Sono cifre di Microsoft da test di Microsoft, e heise osserva che il blog confronta più volte il modello con GPT-6 Sol, un modello di frontiera per compiti linguistici complessi, il che rende quel confronto di valore limitato.
La categoria è affollata. The Register conta più di 100 modelli di questo tipo, da Jev, annunciato circa tre settimane prima del suo articolo del 10 ottobre, fino alla Decisions API di OpenAI in beta pubblica, a Clef di Cloudflare a pesi aperti, Strands Decider 2B, Liquid AI d1, la Decisions API di Perplexity, un modello di Snowflake, Surogate Rune e H2O-Lightning-4B.
Dove funzionano e dove no
I modelli decisionali funzionano nei passaggi in cui il software ha bisogno di un giudizio rapido e circoscritto, e Microsoft cita instradamento, classificazione, prioritizzazione, verifica e controllo del flusso di lavoro come obiettivi.
Tra gli usi citati nel post di Microsoft e nel riepilogo di heise ci sono instradare una richiesta al modello di IA giusto per qualità, costo e latenza, convalidare un input rispetto a criteri di qualità, ordinare il feedback dei clienti in categorie, decidere se un agente debba continuare, fermarsi, riprovare o passare la mano, e scegliere l'azione migliore da un insieme quando si controlla un computer o un robot.
Non servono per la scrittura aperta e i loro limiti sono evidenti. Danno numeri senza motivazioni, osserva heise, e la sua lettura è che un modello decisionale sia più stabile di molti modelli generali ma meno affidabile di un algoritmo o di un albero decisionale, perché un tasso di cambio dell'1,3 per cento significa che le risposte possono ancora cambiare. The Register aggiunge che i modelli decisionali possono ancora sbagliare e rimanda a ricerche su come questi errori possano amplificarsi. Microsoft indica un obiettivo di calibrazione, cioè che una previsione al 90 per cento sia corretta circa nove volte su dieci, perciò chiedete una calibrazione misurata sui vostri dati.
Cinque domande prima di acquistare
Chiedete quale modello di base ci sia sotto e con quale licenza, perché Microsoft-Decision-1 poggia su Qwen3.5-9B di Alibaba Cloud e la stessa domanda vale per ogni modello decisionale. Se la vostra politica d'acquisto limita la provenienza dei componenti di IA, questa risposta decide tutto il resto.
Chiedete quando e come cambierà la base. Microsoft dice che sposterà Microsoft-Decision-1 su modelli di Microsoft AI e OpenAI senza dire perché, perciò i risultati di oggi descrivono una base destinata a cambiare; chiedete gli stessi test sulla nuova base prima di fidarvi.
Chiedete come è stato testato. Richiedete l'insieme di benchmark, chi ha scelto i modelli di confronto, il tasso di cambio sulle vostre formulazioni e un controllo di calibrazione sui vostri dati, poi fate girare voi stessi un campione dei vostri casi reali.
Chiedete come vengono registrate e verificate le decisioni. L'output è una probabilità senza spiegazione, perciò conservate input, opzioni e punteggi di ogni decisione e fissate una soglia sotto la quale decide una persona.
Chiedete di prezzo e latenza nella vostra configurazione. Microsoft cita 0,042 dollari per milione di token in ingresso con output gratuito e 85 millisecondi, il che rende economici l'instradamento di massa e i controlli, ma verificate i numeri sul vostro traffico.
Da leggere ora: L'UE Controlla Ora Direttamente Il Tuo Fornitore Cloud | L'UE ha spostato la vostra scadenza dell'AI Act di 16 mesi
