Un produttore di telefoni ha appena ridisegnato la mappa

Il 22 settembre Xiaomi ha rilasciato tre nuovi modelli di intelligenza artificiale sotto il nome MiMo-V2.6, e il modello di punta non è una funzione del telefono. MiMo-V2.6 Pro è un modello di ragionamento da un trilione di parametri, costruito con un'architettura mixture-of-experts sparsa che attiva circa 42 miliardi di quei parametri per ogni singola risposta, e Xiaomi ha reso pubblici i pesi completi e il codice di addestramento con licenza MIT.

Un modello più piccolo, MiMo-V2.6 Flash, usa 309 miliardi di parametri totali e 15 miliardi attivi, pensato per un uso ad alto volume e costo più basso. Entrambi leggono e generano testo, immagini, video e audio, ed entrambi sono stati valutati dall'analista indipendente Artificial Analysis: Pro ha ottenuto 46 punti sul suo Intelligence Index, davanti ai modelli cinesi Kimi K3 (44) e GLM-5.3 (45), mentre i migliori modelli chiusi restano avanti con circa 53 punti.

Cosa hanno comprato 2,6 milioni di dollari

Xiaomi non si è limitata a pubblicare il modello, ha trasmesso in diretta l'intero addestramento. L'azienda dichiara che MiMo-V2.6 Pro ha completato 30 passi di reinforcement learning in meno di sei giorni, su 750.000 traiettorie di compiti, con un metodo chiamato Group Relative Policy Optimization, a un costo dichiarato di circa 2,6 milioni di dollari; Flash è costato altri 850.000 dollari circa, per un totale di 3,5 milioni di dollari tra i due modelli.

Vale la pena mettere questa cifra accanto a quanto l'industria dichiara di spendere per i propri modelli di punta. Il confronto qui sotto usa stime comuni del settore, non i numeri di Xiaomi, per ogni modello chiuso.

ModelloCosto di addestramento stimatoPesi disponibili
Xiaomi MiMo-V2.6 Procirca 2,6 milioni di dollariSì, licenza MIT
GPT-4 (OpenAI)tra 78 e 100 milioni di dollariNo
Gemini Ultra 1.0 (Google)circa 192 milioni di dollariNo
Llama 3.1 405B (Meta)circa 170 milioni di dollariSì, licenza comunitaria

Il calcolo della sovranità è appena cambiato

Il dibattito europeo sulla sovranità digitale è stato finora soprattutto un dibattito infrastrutturale: costruire una regione cloud sovrana, finanziare una fabbrica di chip, spendere anni e miliardi per colmare il divario con gli iperscaler americani e cinesi. MiMo-V2.6 indica una strada più breve che non richiede nulla di tutto ciò. Un ente pubblico o una grande azienda può scaricare oggi i pesi completi, eseguirli su GPU proprie o noleggiate dentro l'UE, e non inviare mai una sola richiesta a un'API americana o cinese.

Questa strada porta con sé domande proprie e irrisolte. Nessuno al di fuori di Xiaomi ha verificato con quali dati sia stato addestrato MiMo-V2.6, né se conservi le restrizioni sui contenuti tipiche dei modelli cinesi, la stessa riserva che accompagna già altri impieghi sovrani costruiti su pesi cinesi. Ospitare il modello in proprio elimina la dipendenza dal fornitore, non la necessità di verifica; l'organizzazione che scarica i pesi eredita il compito di controllarli che prima spettava al fornitore dell'API.

Cosa significa questo se gestite voi stessi l'infrastruttura IA

Un team acquisti o infrastrutture che sta negoziando in questo momento un contratto pluriennale per un cloud sovrano ha ora una terza opzione reale da confrontare: comprare le GPU, scaricare i pesi e gestire il modello interamente in casa, con un costo hardware unico invece di una fattura API ricorrente. Il modello Pro, da un trilione di parametri, continua a richiedere un vero cluster di GPU per rispondere a una velocità utilizzabile, quindi questa opzione conviene realisticamente a grandi aziende, università ed enti pubblici prima che a una piccola impresa.

Prima di passare, bisogna mettere in conto il lavoro che un fornitore come OpenAI o Anthropic svolge oggi in modo invisibile: la messa a punto sulla sicurezza, l'allineamento alle politiche sui contenuti e una verifica di ciò che il modello può o non può dire a un cliente. Xiaomi ha consegnato i pesi e il codice di addestramento. Non ha consegnato una struttura di responsabilità, e costruirla ora spetta all'acquirente, non al venditore.