Wat AMD werkelijk leverde

Op 22 juli liet AMD op zijn Advancing AI-evenement technisch directeur Mark Papermaster bevestigen dat EPYC Venice, de zesde generatie van zijn serverlijn, in volumeproductie gaat op TSMC's 2nm-proces - het eerste hoogwaardige serveronderdeel op dat procedé. Het topmodel draagt tot 256 cores, tegenover 192 in de Turin-generatie die het vervangt, en AMD claimt meer dan 70 procent betere prestaties en efficiëntie dan de Zen 5-chips die al in de meeste nieuwe servers zitten.

Onder het kopgetal veranderde het ontwerp van vorm. Het standaard rekenchiplet gaat van acht naar twaalf cores, en de dichte variant verdubbelt naar 32 cores per chiplet, elk met meer cache. Het platform gaat naar een nieuwe SP7-socket met 16 geheugenkanalen en neemt PCIe Gen 6 over, wat de bandbreedte per lijn verdubbelt om gegevens te verplaatsen tussen de processor en de versnellers die hij bedient.

Het echte getal is de consolidatieverhouding

Voor wie rekencapaciteit draait of huurt, is het aantal cores een plaatsvervanger voor het getal dat telt: hoeveel oude servers samensmelten tot een nieuwe. Een sprong van 192 naar 256 cores bij ruim 70 procent betere efficiëntie per watt betekent dat een belasting die tien racks van de vorige generatie vulde aannemelijk in zes of zeven past, met merkbaar minder stroom voor hetzelfde werk. De vernieuwing houdt op een gelijk-voor-gelijk-ruil te zijn en wordt een beslissing over vloeroppervlak en energie.

Dat herformuleert de businesscase. De reden om te kopen is niet ruwe snelheid op zich; het zijn minder machines om te licentieren, te koelen, te patchen en te verzekeren, en een lager stroomverbruik op een moment waarop juist dat verbruik is wat je verhuurder, je colocatieaanbieder of je netbeheerder rantsoeneert. De chip waarmee je twee racks kunt afstoten is meer waard dan de chip die een benchmark met tien procent wint.

Waarom het leidingwerk meer telt dan de piek

De minst geciteerde verbetering is die welke bepaalt of AI-belastingen goed draaien: geheugen en interconnect. Zestien geheugenkanalen en PCIe Gen 6 betekenen dat de processor dure GPU's van data kan blijven voorzien in plaats van ze wachtend stil te laten staan. Bij het uitleveren van AI is de versneller het dure bezit, en een CPU die hem uithongert verspilt het duurste deel van het rack. Venice is gebouwd om die flessenhals niet meer te zijn.

Het is ook een tweedebronverhaal. Een decennium lang draaide de volumeservermarkt op een enkele dominante leverancier, en dat Venice op een toonaangevend procedé verschijnt, geeft kopers een geloofwaardig alternatief in het topsegment. Dat telt zelfs voor eigenaren die nooit van leverancier wisselen, want een echte tweede optie is wat een prijslijst in een onderhandeling verandert.

De Europese invalshoek is stroom, niet prijs

In Frankfurt, Amsterdam, Dublin en Londen is de beperking voor nieuwe rekencapaciteit niet de prijs van de chip; het is of het net de megawatts kan leveren en of de lokale overheid de aansluiting toestaat. Meerdere Europese knooppunten hebben de afgelopen twee jaar nieuwe datacenterstroom gepauzeerd of afgetopt. In die omgeving verandert een processor die dezelfde doorvoer met minder elektriciteit levert direct wat je op een vast stroombudget kunt bouwen.

De les voor een Europese eigenaar is de vernieuwingscasus in watts te rekenen, niet alleen in euro's. Vraag hoeveel huidige servers Venice consolideert, wat dat doet met het totale stroomverbruik van het rack en of de besparing genoeg ruimte vrijmaakt om capaciteit toe te voegen die je anders niet zou kunnen aansluiten. Op dit continent is het bindende getal de megawatt, en deze lancering mikt daar recht op.

Lees hierna: Claudes storingen worden pas in 2027 verholpen  |  Azure heeft nu een tweede leverancier van AI-chips