Två leverantörer, en hård gräns

Varje high-bandwidth-memory-stack som säljs i dag stöter på samma fysiska vägg, och på Hot Chips 2026 medgav de två företag som tillverkar nästan hela marknaden att de inte har tagit sig igenom den, bara kringgått den på olika sätt. Gränsen ligger på 775 mikrometer, standardtjockleken på en 300-millimeter logikwafer, och den sätter taket för hur hög en HBM-stack fysiskt kan bli: varje extra DRAM-lager måste komma från tunnare kretsar med smalare mellanrum, inte från mer kisel.

SK Hynix, den etablerade leverantören bakom Nvidias nuvarande och kommande generation acceleratorer, och Samsung, den närmaste rivalen, använde samma augustikonferens för att visa hur de tänker fortsätta höja HBM-bandbredden när stegvisa justeringar slutar fungera mot den gränsen. Deras svar pekar åt motsatta håll, och valet hos vardera säger lika mycket om risktolerans som om fysik.

SK Hynix spelar det säkra kortet fram till Rubin

SK Hynix, leverantören som Nvidias Rubin-generation acceleratorer redan är byggd kring, sa på Hot Chips 2026 att hybrid bonding, den paketeringsteknik branschen väntat på i flera år, inte blir klar till nästa minnesgeneration, HBM4E, och kommer tidigast med HBM5. Fram till dess förlänger företaget sin nuvarande MR-MUF-bondingmetod, redan använd på dess 16-lagers HBM3E-stackar, genom hela Rubin-cykeln i stället för att riskera ett byte till en oprövad process mitt i upptrappningen.

Siffrorna visar varför uppgraderingen kommer att spela roll när den väl kommer: hybrid bonding tar bort de mikroskopiska bumparna som i dag skiljer staplade kretsar åt, vilket låter kärnkretsarna bli upp till 24 procent tjockare vid 20 lager och sänker det termiska motståndet med ungefär 35 procent jämfört med MR-MUF vid den höjden. Dagens HBM4, fortfarande sammanfogad med den gamla metoden, packar in fler än 20 000 kiselgenomföringar och 16 148 basmikrobumpar på en yta av 12,8 gånger 11 millimeter, med ett bandbreddsmål på över 2 terabyte per sekund och en kapacitet på 48 gigabyte. Varje generation har nästan fördubblat toppbandbredden jämfört med den föregående:

GenerationToppbandbredd
HBM2E460 GB/s
HBM3717 GB/s
HBM3E1 024 GB/s
HBM42 048 GB/s

Samsung kringgår interposern helt

Samsung gjorde den motsatta satsningen på samma konferens: i stället för att finslipa hur staplade minneskretsar binds samman visade företaget zHBM, en arkitektur som staplar minne direkt ovanpå beräkningschippet och tar bort den 2,5D-interposer som fysiskt separerat de två komponenterna under det senaste decenniet. Samsung säger att designen sänker in-/utgångseffekten genom att ta bort de SerDes-kretsar och den datajusterings-overhead ett chip normalt behöver för att kommunicera via en interposer.

Företagets egna siffror hävdar 70 procent högre energieffektivitet och 230 procent mer DRAM-bandbredd jämfört med en standard HBM4E-stack, vilket frigör ungefär 8,3 procent mer effekt till själva beräkningschippet; i en konfiguration sparar fyra zHBM-stackar kopplade till en 1 200-watts GPU omkring 100 watt. Samsung kombinerar idén med en anpassad HBM-baskrets kallad cHBM, som lägger till SoC-liknande logikfunktioner via en avancerad logikprocess i stället för de passiva data- och testkretsarna i en standard HBM-baskrets, tillsammans med ett Heat Path Block som täcker halva PHY-ytan och sänker topptemperaturen med mer än 35 procent.

Vad fleråriga AI-kapacitetsplaner bör prisa in

Köpare som skriver under fleråriga AI-kapacitetsåtaganden satsar i praktiken på SK Hynix' färdplan, oavsett om de inser det eller inte, eftersom Nvidias Rubin-generation, hårdvaran som de flesta stora AI-utbyggnader fram till 2027 och 2028 kommer att köra på, är byggd kring exakt den paketeringsmetod SK Hynix just bekräftat förblir oförändrad. Det är ingen tillfällig brist som löses när en ny fabrik startas upp; det är en känd, fysikbunden gräns som marknadsledaren valt att kringgå snarare än att lösa under minst en produktcykel till.

Samsungs zHBM är den verkliga jokern i den planen. Om den håller på den skala Samsung hävdar skulle den inte bara lägga till utbud, den skulle också omfördela vem som har pris- och allokeringsmakt inför generationen efter Rubin, eftersom den kringgår exakt den flaskhals SK Hynix fortsätter att hantera i stället för att lösa. En köpare som överväger leverantörsdiversifiering för kapaciteten 2027-28 har därmed en konkret anledning att se Samsungs färdplan som mer än bara en säkring mot SK Hynix' marknadsandel; det är en satsning på en genuint annorlunda lösning på samma gräns.