Een gigawatt aan AI-rekenkracht draait nu zonder Nvidia

Tienduizend chips, geen enkele Amerikaanse

Z.ai, het Chinese lab dat vroeger Zhipu heette en de GLM-modelfamilie ontwikkelt, heeft een datacenter van gigawattklasse afgebouwd en een deel ervan in gebruik genomen. Het complex draait op ruim tienduizend in eigen land gefabriceerde halfgeleiders en, volgens de berichtgeving, op geen enkele chip van Nvidia. Het geldt als de grootste serverlocatie die een Chinees AI-bedrijf heeft gebouwd, en Z.ai beheert inmiddels meerdere clusters van elk meer dan tienduizend chips.

Wat telt is de exclusiviteit, niet de omvang. Chinese bedrijven zetten al jaren grote clusters neer, doorgaans met een mengeling van gehamsterde Nvidia-hardware, exportconforme varianten en binnenlandse versnellers. Een installatie waarin geen enkele Amerikaanse chip zit, is een uitspraak van een andere orde. Ze zegt dat de binnenlandse keten, van versneller via interconnect tot de software die het geheel aanstuurt, compleet genoeg is om een trainingslocatie van frontierformaat neer te zetten zonder vergunning uit Washington.

Daarachter zit een groter programma. China heeft ongeveer 2 biljoen yuan toegezegd, zo'n 295 miljard dollar of 273 miljard euro, voor de bouw van nationale datacentercapaciteit over vijf jaar. Deze locatie is een geval waarin dat programma daadwerkelijk operationeel wordt in plaats van alleen aangekondigd, en alleen wat operationeel is verandert de opties van anderen.

De overname die zwaarder weegt dan het gebouw

Op dezelfde dag rondde Z.ai de aankoop af van Zhongke Jiahe, een softwarebedrijf voor AI-infrastructuur dat is opgericht door onderzoekers van de Chinese Academie van Wetenschappen. De techniek doet iets smals en cruciaals tegelijk: ze laat hetzelfde model efficiënt draaien op verschillende in China gemaakte versnellers, waaronder ontwerpen van Huawei en Cambricon.

Dat is het echte knelpunt, en het is geen hardwareprobleem. Dat tien jaar aan alternatieven voor Nvidia nauwelijks iets heeft verdrongen, lag zelden aan de ruwe prestaties van het silicium. Het lag eraan dat elke workload per architectuur opnieuw moest worden geport, afgesteld en onderhouden, en dat die portingkosten hoger uitvielen dan de besparing op de hardware. Een binnenlandse installatie met twee of drie families versnellers maakt dat probleem groter in plaats van dat ze eraan ontsnapt.

Z.ai heeft niet geprobeerd het zelf op te lossen. Het kocht een team van de Academie van Wetenschappen dat het al had opgelost, en zette de handtekening op dezelfde dag waarop het de locatie aankondigde. Lees die volgorde als een intentieverklaring. Een bedrijf dat erop vertrouwt dat het heterogene hardware met eigen engineering wel kan wegwerken, koopt die capaciteit niet in op het moment dat het die nodig heeft. De aankoop is een erkenning van hoe taai die laag is, en tegelijk de reden dat die gigawatt te gebruiken valt.

Een gigawatt koopt minder dan het klinkt, en dat is nu juist het punt

Één gigawatt komt ongeveer overeen met het momentane verbruik van 750.000 huishoudens. Zo gesteld klinkt het beslissend, en voor een Europese lezer loont het de moeite dat om te rekenen naar de valuta die ons werkelijk beperkt. Dat zijn niet de chips. Dat is de netaansluiting.

Chinese versnellers van eigen bodem leveren doorgaans minder rekenkracht per watt dan de Nvidia-chips die ze vervangen. Een gigawatt aan silicium van Huawei en Cambricon levert dus geen gigawatt aan trainingscapaciteit van Nvidia-niveau op. Het levert merkbaar minder op. De strategie werkt alleen als je meer vermogen achter hetzelfde resultaat kunt zetten, en dat kan Peking, omdat netcapaciteit en nieuwe opwekking nu juist de middelen zijn waarvan China een overschot heeft.

Europa zit aan de andere kant van die ruil. Wachtrijen voor netaansluiting in Nederland, Duitsland, Ierland en het Verenigd Koninkrijk worden in jaren geteld en niet in maanden, en de beperkende factor voor Europese AI-capaciteit zijn de chips al een tijd niet meer. Daarom is dit bericht vooral een energieverhaal in een halfgeleiderjasje. Een concurrent die inefficiëntie kan afkopen met stroom speelt een spel dat een Europese exploitant niet kan nadoen, welke hardware er ook beschikbaar komt.

Wat dit betekent voor een model dat al in uw stack draait

GLM-modellen hebben open gewichten, en een aanzienlijk aantal Europese bedrijven draait ze in productie, vaak als de kostenbewuste laag onder een frontiermodel. Voor die bedrijven was de praktische vraag altijd of de aanvoer standhoudt: als de exportcontroles worden aangescherpt, stopt dan het onderhoud van datgene waarop ik heb gebouwd?

Het antwoord is van vorm veranderd, niet verbeterd. Een binnenlandse rekenbasis maakt de doorontwikkeling van deze modellen veel minder afhankelijk van Amerikaanse vergunningsbesluiten, en dat neemt één faalscenario weg. Maar juist diezelfde zelfvoorziening maakt de modellen de moeite waard om vanaf de andere kant te controleren. Chinese toezichthouders overleggen met binnenlandse AI- en chipbedrijven over strengere exportregels voor geavanceerde modellen en de techniek erachter, een richting die deze week is gemeld en nog niet is vastgelegd.

Het risico is dus niet verdwenen. Het is verplaatst, en het is verdubbeld. Een model dat vroeger met één exportcontroleregime te maken had, zit nu tussen twee regimes in, en die twee stemmen niets op elkaar af. Voor een architectuurbeslissing met een horizon van vijf jaar is dat een wezenlijk ander beeld dan wat de meeste Europese AI-risicoregisters vandaag bevatten.

Spiegel de gewichten, en noteer daarna welk regime geldt

Twee acties, allebei goedkoop, allebei dit kwartaal. Ten eerste: spiegel voor elk Chinees model met open gewichten dat u in productie draait de gewichten naar opslag in eigen beheer, binnen uw eigen rechtsgebied, met een vastgelegde hash. Open gewichten die u hebt gedownload blijven bruikbaar, wat een overheid later ook besluit. Open gewichten die u pas op het moment van gebruik uit een gehoste repository haalt, zijn een afhankelijkheid vermomd als bezit.

Ten tweede: voeg één veld toe aan uw modelinventaris, namelijk het exportcontroleregime waaronder het model valt. De meeste inventarissen leggen licentie, aantal parameters en hostinglocatie vast. Vrijwel geen enkele legt vast welk rechtsgebied de controle uitoefent, omdat daarop tot voor kort maar één aannemelijk antwoord bestond. Nu zijn het er twee, ze kunnen onafhankelijk van elkaar worden aangescherpt, en een model kan door elk van beide onbereikbaar worden zonder dat de ander iets doet.

Niets hiervan vraagt om een leverancierswissel of om het opgeven van Chinese open gewichten. Het kostenvoordeel dat ze in uw stack heeft gebracht is reëel en verdwijnt niet, en een binnenlandse rekenbasis maakt het eerder duurzamer. Het punt is beperkter. U bent nu afhankelijk van een artefact waarvan de blijvende beschikbaarheid in twee hoofdsteden een beleidskeuze is, en de maatregel daartegen kost u een opslagbucket en een kolom in een spreadsheet.

Lees hierna: Zelfs een biljoenenlab moet rekenkracht huren  |  De Nvidia-belasting heeft nu een tweede bron