Czym jest model decyzyjny, obok chatbota
Model decyzyjny to mały model językowy dostrojony do odpowiadania na jeden rodzaj pytania wyborem ze stałej listy, który punktuje każdą opcję, by oprogramowanie mogło działać bezpośrednio na wyniku.
Chatbot generuje tekst i rozumuje nad otwartymi problemami. Model decyzyjny rezygnuje z tej swobody w zamian za szybkość, niski koszt i ograniczone wyniki, a Microsoft opisuje swój model jako zbudowany do dostarczania ustrukturyzowanych wyników, na których oprogramowanie może działać od razu. Pomysł modelu zwracającego prawdopodobieństwa dla stałej listy nie jest nowy, bo badacze uczenia maszynowego od dawna budują klasyfikatory probabilistyczne, jak zauważa The Register. Nowe jest to, że opcje mają opisy w zwykłym języku, a punktowanie wykonuje model językowy.
Wyniki mają według heise trzy formy: tak lub nie, jeden wybór ze zdefiniowanej puli albo ranking opcji, zawsze jako liczby, takie jak prawdopodobieństwa, i nigdy jako wyjaśnienie.
Microsoft-Decision-1 jako przykład w praktyce
Microsoft przedstawił Microsoft-Decision-1 9 października jako model do szybkich, ustrukturyzowanych decyzji, a jego liczby pokazują, co obiecuje ta kategoria.
| Cecha | Microsoft-Decision-1 |
|---|---|
| Model bazowy | Qwen3.5-9B od Alibaba Cloud, dotrenowany do punktowania decyzji w jednym przebiegu |
| Trafność | 83,5 procent w 36 benchmarkach, prawie 150 000 pytań |
| Opóźnienie | 85 milisekund; w teście Microsoftu 2,5 raza szybszy niż H2O-Lightning-4B i 2,8 raza szybszy niż Jev |
| Cena | 0,042 dolara za milion tokenów wejściowych; tokeny wyjściowe bezpłatne |
| Dostępność | Microsoft Foundry i OpenRouter |
| Spójność | Decyzja zmieniła się przy 1,3 procent zaburzeń; brak zmian przy sparafrazowanych opisach opcji lub odwróconej kolejności opcji |
| Planowana zmiana | Przejście na modele Microsoft AI i OpenAI, bez podanego powodu |
To własne liczby Microsoftu z własnych testów, a heise zauważa, że blog wielokrotnie porównuje model z GPT-6 Sol, modelem granicznym do złożonych zadań językowych, co ogranicza wartość tego porównania.
Kategoria jest zatłoczona. The Register liczy ponad 100 takich modeli, od Jev, ogłoszonego około trzech tygodni przed jego tekstem z 10 października, przez Decisions API OpenAI w publicznej becie, otwarte Clef od Cloudflare, Strands Decider 2B, Liquid AI d1, Decisions API Perplexity i model Snowflake, aż po Surogate Rune i H2O-Lightning-4B.
Gdzie pasują, a gdzie nie
Modele decyzyjne pasują do kroków, w których oprogramowanie potrzebuje szybkiego, ograniczonego osądu, a Microsoft wymienia jako cele kierowanie, klasyfikację, ustalanie priorytetów, weryfikację i sterowanie przepływem pracy.
Zastosowania wymienione we wpisie Microsoftu i streszczeniu heise to kierowanie zapytania do właściwego modelu AI według jakości, kosztu i opóźnienia, sprawdzanie danych wejściowych względem kryteriów jakości, sortowanie opinii klientów do kategorii, decydowanie, czy agent ma kontynuować, zatrzymać się, ponowić czy przekazać sprawę, oraz wybór najlepszego działania z zestawu przy sterowaniu komputerem lub robotem.
Nie pasują do swobodnego pisania, a ich ograniczenia są widoczne. Dają liczby bez uzasadnień, zauważa heise, a jego ocena jest taka, że model decyzyjny jest stabilniejszy niż wiele modeli ogólnych, ale mniej niezawodny niż algorytm lub drzewo decyzyjne, bo wskaźnik zmian 1,3 procent oznacza, że odpowiedzi nadal mogą się zmieniać. The Register dodaje, że modele decyzyjne nadal mogą popełniać błędy, i wskazuje badania nad tym, jak takie błędy mogą się nasilać. Microsoft podaje cel kalibracji, by prognoza 90 procent sprawdzała się mniej więcej dziewięć razy na dziesięć, więc poproś o kalibrację zmierzoną na własnych danych.
Pięć pytań przed zakupem
Zapytaj, jaki model bazowy jest pod spodem i na jakiej licencji, bo Microsoft-Decision-1 opiera się na Qwen3.5-9B od Alibaba Cloud, a to samo pytanie dotyczy każdego modelu decyzyjnego. Jeśli twoja polityka zakupowa ogranicza pochodzenie komponentów AI, ta odpowiedź rozstrzyga resztę.
Zapytaj, kiedy i jak zmieni się baza. Microsoft mówi, że przeniesie Microsoft-Decision-1 na modele Microsoft AI i OpenAI, nie mówiąc dlaczego, więc dzisiejsze wyniki opisują bazę, która ma się zmienić; poproś o te same testy na nowej bazie, zanim jej zaufasz.
Zapytaj, jak go testowano. Poproś o zestaw benchmarków, kto wybrał modele do porównania, wskaźnik zmian dla twoich własnych sformułowań i kontrolę kalibracji na twoich danych, a potem sam uruchom próbkę swoich prawdziwych przypadków.
Zapytaj, jak decyzje są rejestrowane i audytowane. Wynik to prawdopodobieństwo bez wyjaśnienia, więc zachowuj dane wejściowe, opcje i wyniki każdej decyzji i ustal próg, poniżej którego decyduje człowiek.
Zapytaj o cenę i opóźnienie w twojej własnej konfiguracji. Microsoft podaje 0,042 dolara za milion tokenów wejściowych przy bezpłatnych wynikach i 85 milisekund, co czyni masowe kierowanie i kontrole tanimi, ale sprawdź liczby na własnym ruchu.
Czytaj dalej: UE Nadzoruje Już Bezpośrednio Twojego Dostawcę Chmury | UE właśnie przesunęła wasz termin AI Act o 16 miesięcy
