Diecimila chip, nessuno americano

Z.ai, il laboratorio cinese in passato noto come Zhipu e sviluppatore della famiglia di modelli GLM, ha finito di costruire un data center di classe gigawatt e ne ha acceso una parte. L'impianto funziona con più di diecimila semiconduttori di produzione nazionale e, secondo quanto riportato, nessun componente Nvidia. Viene descritto come il più grande impianto di server realizzato da un'azienda cinese di intelligenza artificiale, e Z.ai gestisce ormai diversi cluster da oltre diecimila chip ciascuno.

Ciò che conta è l'esclusività, non la dimensione. Le imprese cinesi assemblano grandi cluster da anni, di norma con un misto di hardware Nvidia accumulato, varianti conformi all'esportazione e acceleratori nazionali. Una costruzione priva di qualsiasi silicio americano è un'affermazione diversa. Dice che la filiera nazionale, dall'acceleratore all'interconnessione al software che li governa, è abbastanza completa da mettere in piedi un sito di addestramento su scala di frontiera senza una licenza da Washington.

Dietro c'è un contesto. La Cina ha impegnato circa 2.000 miliardi di yuan, all'incirca 295 miliardi di dollari o 273 miliardi di euro, per la costruzione nazionale di data center in cinque anni. Questo impianto è un caso in cui quel programma raggiunge lo stato operativo invece di quello dell'annuncio, e solo lo stato operativo cambia le opzioni altrui.

L'acquisizione che pesa più dell'edificio

Lo stesso giorno Z.ai ha completato l'acquisto di Zhongke Jiahe, una società di software per infrastrutture di intelligenza artificiale fondata da ricercatori dell'Accademia cinese delle scienze. La sua tecnologia fa una cosa sola, e su quella si regge tutto il resto: esegue in modo efficiente lo stesso modello su acceleratori diversi prodotti in Cina, compresi progetti Huawei e Cambricon.

Quello è il collo di bottiglia vero, e non è un problema di hardware. Se un decennio di alternative a Nvidia non ha spostato nulla, raramente è stato per le prestazioni grezze del silicio. È stato perché ogni carico di lavoro andava portato, messo a punto e mantenuto per architettura, e il costo del porting superava il risparmio sull'hardware. Una costruzione nazionale con due o tre famiglie di acceleratori moltiplica quel problema invece di sfuggirgli.

Z.ai non ha provato a risolverlo in casa. Ha comprato una squadra dell'Accademia delle scienze che lo aveva già risolto, e ha chiuso lo stesso giorno in cui ha annunciato il sito. Leggete la sequenza come intenzione. Un'azienda sicura di poter coprire hardware eterogeneo con ingegneria interna non acquisisce quella capacità proprio quando le serve. L'acquisto è un'ammissione di quanto sia difficile quello strato e, insieme, la ragione per cui il gigawatt risulta utilizzabile.

Un gigawatt compra meno di quanto sembri, ed è questo il punto

Un gigawatt equivale all'incirca al prelievo istantaneo di 750.000 abitazioni. Detto così suona decisivo, e per un lettore europeo vale la pena tradurre il dato nella valuta che davvero ci vincola. Non sono i chip. È la connessione alla rete.

Gli acceleratori cinesi nazionali offrono di norma meno calcolo per watt dei componenti Nvidia che sostituiscono. Un gigawatt di silicio Huawei e Cambricon non compra quindi un gigawatt di capacità di addestramento equivalente a Nvidia. Ne compra sensibilmente meno. La strategia funziona solo se si può mettere più potenza dietro lo stesso risultato, e Pechino può, perché la capacità di rete e la nuova capacità di generazione sono le risorse che la Cina ha in eccesso.

L'Europa sta dall'altra parte di questo scambio. Le code di connessione nei Paesi Bassi, in Germania, in Irlanda e nel Regno Unito si misurano in anni, non in mesi, e da tempo il vincolo che davvero limita la capacità europea di intelligenza artificiale non sono i chip. Per questo la notizia va letta come una storia di energia con la giacca dei semiconduttori. Un concorrente che può pagare l'inefficienza con l'elettricità gioca una partita che un operatore europeo non può copiare, qualunque hardware diventi disponibile.

Che cosa comporta per un modello già presente nel vostro stack

I modelli GLM sono a pesi aperti, e un numero considerevole di imprese europee li esegue in produzione, spesso come livello a costo controllato sotto un modello di frontiera. Per quelle imprese la domanda pratica è sempre stata la tenuta della fornitura: se i controlli sulle esportazioni si stringono, ciò su cui ho costruito smette di essere mantenuto?

La risposta ha appena cambiato forma, non qualità. Una base di calcolo nazionale rende lo sviluppo continuato di questi modelli assai meno dipendente dalle decisioni di licenza americane, il che elimina una modalità di guasto. Ma proprio quell'autosufficienza è ciò che rende i modelli meritevoli di controllo dall'altro capo. I regolatori cinesi stanno consultando imprese nazionali dell'intelligenza artificiale e dei semiconduttori su regole di esportazione più severe per i modelli avanzati e la tecnologia che li sostiene, una direzione riportata questa settimana e non ancora in vigore.

Il rischio dunque non è sparito. Si è spostato, ed è raddoppiato. Un modello che prima affrontava un regime di controllo delle esportazioni ora sta fra due, e i due non sono coordinati. Per una decisione architetturale con orizzonte quinquennale il quadro è sostanzialmente diverso da quello che oggi contiene la maggior parte dei registri europei di rischio sull'IA.

Replicate i pesi, poi scrivete quale regime si applica

Due azioni, entrambe economiche, entrambe in questo trimestre. Primo: per ogni modello aperto cinese che eseguite in produzione, replicate i pesi su archiviazione sotto il vostro controllo, nella vostra giurisdizione, con un hash registrato. I pesi aperti già scaricati sono duraturi a prescindere da ciò che un governo deciderà poi. I pesi aperti che scaricate su richiesta da un repository altrui sono una dipendenza travestita da bene.

Secondo: aggiungete al vostro inventario dei modelli un campo su quale regime di controllo delle esportazioni si applichi. La maggior parte degli inventari registra licenza, numero di parametri e luogo di hosting. Quasi nessuno registra la giurisdizione di controllo, perché fino a poco tempo fa c'era una sola risposta plausibile. Ora ce ne sono due, possono stringersi in modo indipendente e un modello può diventare indisponibile per una delle due senza che l'altra faccia nulla.

Nulla di ciò impone di cambiare fornitore o abbandonare i pesi aperti cinesi. Il vantaggio di costo che li ha portati nel vostro stack è reale e non sta scomparendo; semmai una base di calcolo nazionale lo rende più duraturo. Il punto è più stretto. Oggi dipendete da un artefatto la cui disponibilità continuata è materia di politica in due capitali, e la mitigazione costa uno spazio di archiviazione e una colonna in un foglio di calcolo.

Da leggere ora: Anche un laboratorio da mille miliardi affitta il calcolo  |  La tassa Nvidia ora ha una seconda fonte