775 micrometer remt elke AI-geheugenchip van Nvidia

Twee leveranciers, een harde grens

Elke high-bandwidth-memory-stack die vandaag verkocht wordt, loopt tegen dezelfde fysieke muur aan, en op Hot Chips 2026 gaven de twee bedrijven die vrijwel al die geheugenchips maken toe dat ze die grens niet doorbroken hebben, alleen op verschillende manieren omzeild. De grens ligt bij 775 micrometer, de standaarddikte van een 300-millimeter logicwafer, en die bepaalt hoe hoog een HBM-stack fysiek kan worden: elke extra DRAM-laag moet komen van dunnere chips met smallere tussenruimtes, niet van extra silicium.

SK Hynix, de gevestigde leverancier achter Nvidia's huidige en volgende generatie versnellers, en Samsung, de dichtstbijzijnde rivaal, gebruikten dezelfde augustusconferentie om te laten zien hoe ze de HBM-bandbreedte willen blijven verhogen zodra geleidelijke aanpassingen tegen die grens niet meer werken. Hun antwoorden wijzen in tegengestelde richtingen, en de keuze van elk bedrijf zegt evenveel over risicobereidheid als over natuurkunde.

SK Hynix speelt de veilige kaart tot en met Rubin

SK Hynix, de leverancier waar Nvidia's Rubin-generatie versnellers al omheen gebouwd zijn, meldde op Hot Chips 2026 dat hybrid bonding, de verpakkingstechniek waar de sector al jaren op wacht, niet klaar zal zijn voor de volgende geheugengeneratie, HBM4E, en op zijn vroegst pas bij HBM5 komt. Tot die tijd verlengt het bedrijf zijn bestaande MR-MUF-bondingmethode, al gebruikt op zijn 16-laags HBM3E-stacks, over de hele Rubin-cyclus in plaats van midden in de opschaling over te stappen op een onbewezen proces.

De cijfers laten zien waarom de upgrade er straks toe doet: hybrid bonding verwijdert de microscopische bumps die gestapelde chips nu scheiden, waardoor kernchips bij 20 lagen tot 24 procent dikker kunnen worden en de thermische weerstand op die hoogte met ongeveer 35 procent daalt ten opzichte van MR-MUF. De huidige HBM4, nog verbonden via de oude methode, bevat meer dan 20.000 doorverbindingen door het silicium en 16.148 basis-microbumps op een oppervlak van 12,8 bij 11 millimeter, met een bandbreedtedoel van meer dan 2 terabyte per seconde en een capaciteit van 48 gigabyte. Elke generatie heeft de piekbandbreedte van de vorige bijna verdubbeld:

Samsung omzeilt de interposer helemaal

Samsung koos op dezelfde conferentie voor de tegenovergestelde gok: in plaats van te verfijnen hoe gestapelde geheugenchips aan elkaar verbonden worden, toonde het bedrijf zHBM, een architectuur die geheugen direct boven op de rekenchip stapelt en de 2,5D-interposer verwijdert die de twee componenten al tien jaar fysiek scheidt. Samsung zegt dat het ontwerp het in-/uitvoervermogen verlaagt door de SerDes-schakelingen en de data-uitlijningsoverhead te schrappen die een chip normaal nodig heeft om via een interposer te communiceren.

De eigen cijfers van het bedrijf claimen 70 procent hogere energie-efficiëntie en 230 procent meer DRAM-bandbreedte dan een standaard HBM4E-stack, waardoor ongeveer 8,3 procent meer vermogen vrijkomt voor de rekenchip zelf; in een configuratie besparen vier zHBM-stacks bij een 1.200-watt GPU ongeveer 100 watt. Samsung combineert het idee met een aangepaste HBM-basischip, cHBM genoemd, die met een geavanceerd logicaproces SoC-achtige functies toevoegt in plaats van de passieve data- en testschakelingen van een standaard HBM-basischip, samen met een Heat Path Block dat de helft van het PHY-oppervlak bedekt en de piektemperatuur met meer dan 35 procent verlaagt.

Wat meerjarige AI-capaciteitsplannen zouden moeten inprijzen

Kopers die meerjarige AI-capaciteitsverplichtingen aangaan, gokken feitelijk op de roadmap van SK Hynix, of ze zich daarvan bewust zijn of niet, want Nvidia's Rubin-generatie, de hardware waarop de meeste grote AI-implementaties tot 2027 en 2028 zullen draaien, is gebouwd rond precies de verpakkingsmethode die SK Hynix zojuist ongewijzigd heeft bevestigd. Dat is geen tijdelijk tekort dat verdwijnt zodra een nieuwe fabriek opstart; het is een bekende, natuurkundig bepaalde grens die de marktleider ervoor kiest te omzeilen in plaats van op te lossen, voor minstens nog een volledige productcyclus.

Samsungs zHBM is de echte onzekere factor in dat plan. Als het bewijst te werken op de schaal die Samsung claimt, zou het niet alleen extra aanbod toevoegen, maar ook de prijs- en toewijzingsmacht herverdelen richting de generatie na Rubin, omdat het precies het knelpunt omzeilt dat SK Hynix nog altijd beheert in plaats van oplost. Een koper die leveranciersdiversificatie voor de capaciteit van 2027-28 overweegt, heeft dus een concrete reden om Samsungs roadmap als meer dan alleen een afdekking tegen het marktaandeel van SK Hynix te zien; het is een gok op een echt andere oplossing voor dezelfde grens.

Lees hierna: Een koersval van 14 procent verlaagt uw geheugenrekening niet  |  Samsungs kwartaal verslaat Nvidia op winst