La frase che un laboratorio di frontiera di solito non scrive

Nell'annuncio di Inkling del 15 luglio, Thinking Machines Lab ha infilato una riga che nessun altro laboratorio di frontiera ha finora accettato di pubblicare. Il modello, ha scritto la società, non è "il modello complessivamente più forte oggi disponibile". Poi ha spiegato che cosa ritiene sia Inkling: "una buona base a pesi aperti per la personalizzazione". Ogni lancio degli ultimi tre anni si è aperto con un grafico di benchmark. Questo si è aperto con un limite.

Va letta come strategia, non come modestia. Mira Murati, già direttrice tecnica di OpenAI, ha fondato Thinking Machines e ha impiegato circa nove mesi per portare fuori un modello di scala di frontiera, contro qualcosa di più vicino ai cinque anni di OpenAI e ai tre di Anthropic. Il laboratorio conta circa 200 dipendenti e a gennaio ha perso due cofondatori, passati a OpenAI. Un'azienda in quella posizione non vince una gara di benchmark contro laboratori con cento volte il suo budget di calcolo. Così ha scelto di non correrla.

La parte utile, per chi compra intelligenza artificiale, è che un limite dichiarato è un'informazione con cui si può pianificare. Un fornitore che rivendica il punteggio più alto in una classifica pubblica vi sta parlando di un numero che sarà battuto nel giro di settimane, molto probabilmente prima che il vostro processo di acquisto sia concluso. Un fornitore che vi dice che cosa il suo prodotto non è vi ha dato qualcosa di duraturo. È più raro di quanto dovrebbe essere, e vale più di quanto sembri.

Che cosa c'è davvero nella scatola

Inkling è un transformer mixture-of-experts con 975 miliardi di parametri totali e 41 miliardi attivi in ogni singolo momento. È stato preaddestrato su 45.000 miliardi di token tra testo, immagini, audio e video, e regge una finestra di contesto fino a 1 milione di token. Ragiona su testo, immagini e audio, anche se per ora restituisce soltanto testo, codice e dati strutturati compresi. Una variante più leggera, Inkling-Small, porta 276 miliardi di parametri totali con 12 miliardi attivi.

Due scelte di progetto dicono per che cosa è ottimizzato. Il modello espone uno sforzo di ragionamento controllabile: chi lo chiama può scambiare profondità di ragionamento contro spesa in token, richiesta per richiesta, ed è una leva di costo che la maggior parte delle API non mette in mano a nessuno. Thinking Machines ha inoltre preferito gli embedding posizionali relativi a RoPE, riferendo che estrapolano meglio sulle sequenze lunghe. La società sostiene che Inkling usi circa un terzo dei token del Nemotron 3 Ultra di Nvidia a parità di prestazioni sul codice. Su una fattura a consumo, l'efficienza sui token non è un dettaglio tecnico.

Guardate i numeri pratici prima di quelli da titolo. I pesi sono su Hugging Face e Inkling è disponibile tramite Tinker, la piattaforma di fine-tuning della società, con lunghezze di contesto di 64.000 e 256.000 token e, per un periodo limitato, uno sconto del 50%. Notate lo scarto: il modello regge fino a un milione di token di contesto, mentre la piattaforma gestita ne offre oggi un quarto. Se il vostro caso d'uso dipende dalla finestra intera, ve lo ospitate in casa, e ospitare in casa un modello da 975 miliardi di parametri è un impegno infrastrutturale serio, non il lavoro di un pomeriggio.

La frontiera aperta è ormai un'eredità condivisa

Il dettaglio sulla provenienza, in questo rilascio, merita più attenzione del conteggio dei parametri. Thinking Machines dichiara che l'impianto mixture-of-experts di Inkling ricalca in larga parte DeepSeek-V3, con 256 esperti instradati e due esperti condivisi, e sei esperti instradati attivi per token. Per generare i dati del primo post-training, prima dell'apprendimento per rinforzo su larga scala, ha usato modelli a pesi aperti, tra cui Kimi K2.5 di Moonshot AI. Un laboratorio di San Francisco fondato dall'ex direttrice tecnica di OpenAI ha costruito la propria architettura sul progetto pubblicato da un laboratorio cinese e l'ha avviata con il modello di un altro laboratorio cinese.

Ecco che cosa significa davvero, nei fatti, una frontiera aperta. Non una gara a piantare bandiere fra due blocchi, ma un'eredità tecnica condivisa che scorre in ogni direzione e non chiede il permesso a nessun confine. L'ingegneria si è spostata da Hangzhou e Pechino a San Francisco perché era pubblicata, e il risultato è stato pubblicato a sua volta.

Per un imprenditore europeo tutto questo ha un valore preciso e per nulla sentimentale. L'accesso a un modello di frontiera ospitato è un rapporto commerciale soggetto a decisioni di policy, di prezzo e di disponibilità prese in un'altra giurisdizione, come ha già imparato chiunque abbia visto un modello uscire in 47 Paesi ma non nell'Unione Europea. Un insieme di pesi aperti scaricato è un'altra categoria di bene. Non viene limitato, riprezzato o dismesso sotto i vostri piedi, perché è già vostro. Non è un argomento a favore della superiorità dei pesi aperti. È un argomento sul fatto che falliscono in modo diverso, e sapere come fallisce una dipendenza è gran parte del senso di una procedura di acquisto.

Se questo sia un acquisto che vi riguarda

La linea da tracciare passa tra affittare intelligenza e possedere una capacità. Se il vostro lavoro con l'AI è ampio, vario e cambia ogni settimana, affittatelo: pagate a token il miglior modello ospitato e cambiate quando ne arriva uno migliore, perché quello che comprate è flessibilità. Se invece il lavoro è ristretto, ripetitivo, ad alto volume e specifico della vostra impresa, una base personalizzabile che affinate e tenete può battere un modello generalista che non ha mai visto il vostro dominio, e il suo costo smette di crescere insieme all'uso.

Siate onesti su che cosa richiede la personalizzazione, perché è qui che il piano di solito si rompe. Il fine-tuning ha bisogno di dati di addestramento che possedete davvero e che siete autorizzati a usare. Ha bisogno di un set di valutazione costruito sul vostro lavoro reale, non su un benchmark pubblico, altrimenti non avrete modo di sapere se la vostra versione è migliore di quella da cui siete partiti. E ha bisogno di una persona con nome e cognome che risponda del modello in produzione, perché un modello affinato che nessuno mantiene si degrada in silenzio mentre l'azienda intorno cambia. Se manca anche uno solo di questi tre elementi, una base a pesi aperti è un download, non una capacità.

La lettura onesta di Inkling è che l'ammissione è la funzionalità. Thinking Machines vi ha detto che cosa non è, quindi l'unica domanda che resta è se l'adattabilità sia ciò che vi serve. Per la maggior parte delle aziende che gestiscono una manciata di compiti generici con l'AI non lo è, e affittare resta la scelta corretta. Per il numero minore di imprese con un problema ristretto, ad alto volume e con dati proprietari veri, il profilo di parecchie PMI italiane che ogni giorno trattano lo stesso tipo di documento o di pratica su archivi che sono soltanto loro, una base che potete possedere e plasmare è una proposta economica genuinamente diversa dall'accesso a consumo al modello di qualcun altro. Entrambe le strade sono difendibili. Comprare la seconda mettendo a budget la prima non lo è.

Da leggere ora: La Cina autorizza i suoi laboratori a comprare l'H200  |  Un modello cinese potrebbe rispondere ai tuoi prompt