775 micron ora frenano ogni chip di memoria IA Nvidia

Due fornitori, un limite fisico invalicabile

Ogni stack di memoria ad alta larghezza di banda venduto oggi si scontra con lo stesso muro fisico, e a Hot Chips 2026 le due aziende che ne producono quasi la totalità hanno ammesso di non averlo superato, ma solo di averlo aggirato in modi diversi. Il limite è di 775 micron, lo spessore standard di un wafer logico da 300 millimetri, e determina quanto può essere alto uno stack HBM: ogni strato aggiuntivo di DRAM deve venire da chip più sottili e spazi più stretti tra loro, non dall'aggiunta di altro silicio.

SK Hynix, il fornitore storico dietro gli acceleratori attuali e di prossima generazione di Nvidia, e Samsung, il rivale più vicino, hanno usato la stessa conferenza di agosto per rivelare come intendono continuare a far crescere la larghezza di banda HBM una volta che gli aggiustamenti incrementali smetteranno di funzionare contro quel limite. Le loro risposte puntano in direzioni opposte, e la scelta di ciascuna dice tanto sulla propensione al rischio quanto sulla fisica.

SK Hynix gioca la carta sicura fino a Rubin

SK Hynix, il fornitore attorno a cui sono già costruiti gli acceleratori della generazione Rubin di Nvidia, ha detto a Hot Chips 2026 che l'hybrid bonding, la tecnica di packaging attesa dal settore da anni, non sarà pronta per la prossima generazione di memoria, HBM4E, e arriverà al più presto con HBM5. Fino ad allora, l'azienda estende il suo attuale metodo di bonding MR-MUF, già usato sugli stack HBM3E a 16 strati, per tutto il ciclo Rubin, invece di rischiare il passaggio a un processo non collaudato a metà del rilancio produttivo.

I numeri mostrano perché l'upgrade conterà quando arriverà: l'hybrid bonding elimina i microscopici bump che oggi separano i chip impilati, permette ai chip centrali di crescere fino al 24 per cento più spessi a 20 strati e riduce la resistenza termica di circa il 35 per cento rispetto al MR-MUF a quell'altezza. L'attuale HBM4, ancora legato con il vecchio metodo, integra oltre 20.000 vie attraverso il silicio e 16.148 micro-bump di base in un ingombro di 12,8 per 11 millimetri, con un obiettivo di larghezza di banda superiore a 2 terabyte al secondo e una capacità di 48 gigabyte. Ogni generazione ha quasi raddoppiato la larghezza di banda massima rispetto alla precedente:

Samsung aggira direttamente l'interposer

Samsung ha fatto la scommessa opposta nella stessa conferenza: invece di perfezionare come vengono legati i chip di memoria impilati, ha presentato zHBM, un'architettura che impila la memoria direttamente sopra il chip di calcolo ed elimina l'interposer 2,5D che ha fisicamente separato i due componenti per l'ultimo decennio. Samsung afferma che il design riduce il consumo di ingresso/uscita eliminando i circuiti SerDes e il sovraccarico di allineamento dati che un chip normalmente necessita per comunicare attraverso un interposer.

Le cifre dell'azienda rivendicano il 70 per cento in più di efficienza energetica e il 230 per cento in più di larghezza di banda DRAM rispetto a uno stack HBM4E standard, liberando circa l'8,3 per cento di potenza in più per il chip di calcolo stesso; in una configurazione, quattro stack zHBM abbinati a una GPU da 1.200 watt risparmiano circa 100 watt. Samsung abbina l'idea a un chip base HBM personalizzato, chiamato cHBM, che aggiunge funzioni logiche simili a un SoC tramite un processo logico avanzato invece dei circuiti passivi di dati e test di un chip base HBM standard, insieme a un Heat Path Block che copre metà dell'area PHY riducendo la temperatura di picco di oltre il 35 per cento.

Cosa dovrebbero scontare i piani di capacità IA pluriennali

Gli acquirenti che firmano impegni di capacità IA pluriennali stanno di fatto scommettendo sulla roadmap di SK Hynix, che se ne rendano conto o meno, perché la generazione Rubin di Nvidia, l'hardware su cui gireranno la maggior parte delle grandi implementazioni IA fino al 2027 e al 2028, è costruita attorno proprio al metodo di packaging che SK Hynix ha appena confermato non cambierà. Non è una carenza temporanea che si risolve con l'avvio di una nuova fabbrica; è un limite noto e legato alla fisica che il leader di mercato ha scelto di aggirare invece di risolvere per almeno un altro intero ciclo di prodotto.

Lo zHBM di Samsung è la vera incognita in questo piano. Se si dimostrasse valido alla scala rivendicata da Samsung, non aggiungerebbe solo offerta, ma ridistribuirebbe anche il potere sui prezzi e sulle allocazioni verso la generazione successiva a Rubin, perché aggira esattamente il collo di bottiglia che SK Hynix continua a gestire invece di risolvere. Un acquirente che valuta la diversificazione dei fornitori per la capacità 2027-28 ha quindi una ragione concreta per trattare la roadmap di Samsung come qualcosa di più di una copertura contro la quota di mercato di SK Hynix; è una scommessa su una soluzione davvero diversa per lo stesso limite.

Da leggere ora: Un crollo del 14 per cento non taglia la bolletta della memoria  |  Samsung supera Nvidia per utile