Nvidia staje się wydajna. Sieć nie.

Twierdzenie o wydajności, które potwierdzają i Nvidia, i SemiAnalysis

Podczas AI Infra Summit w Santa Clara, 15 września, przed ponad 8000 uczestników, wiceprezes Nvidia do spraw hyperscale i obliczeń wysokiej wydajności, Ian Buck, przedstawił argumenty za wydajnością następnej generacji sprzętu firmy. Według Nvidia, platforma Vera Rubin NVL72, połączona z technologią software'ową i sieciową "3 LPX" partnera Groq, dostarcza nawet 35 razy wyższą przepustowość tokenów na megawat niż obecna generacja GB200 NVL72, dla modeli powyżej dwóch bilionów parametrów. Referencyjny projekt "DSX MaxLPS" dodaje ponadto nawet 40 procent więcej mocy GPU w ramach tego samego budżetu energetycznego lokalizacji i, według Nvidia, nie wymaga budowy nowych linii przesyłowych.

Niezwykłe jest to, że niezależny test potwierdza dużą część tego twierdzenia. SemiAnalysis przeprowadziła własny test "AgentX" na obciążeniu roboczym DeepSeek V4 Pro i zmierzyła nawet 30-krotnie wyższą przepustowość na megawat dla Vera Rubin NVL72 wobec wcześniejszego GB300 NVL72, czyli wynik na tyle bliski liczbie Nvidia, że zysk wydajności wygląda na realny, a nie tylko marketingową arytmetykę. Przykład klienta Nvidia wskazuje w tym samym kierunku: dostawca chmury Lambda zgłosił poprawę wydajności na wat o 23 procent po przejściu na DSX MaxLPS na sprzęcie Blackwell, przy czym przepustowość tokenów całego klastra wzrosła z około 4 milionów do 5 milionów tokenów na sekundę.

Co własne dane IEA mówią o sieci energetycznej

Nic z tej wydajności nie widać jako spadek popytu we własnych danych Międzynarodowej Agencji Energetycznej. W raporcie "Energy and AI" IEA przewiduje, że globalna produkcja energii elektrycznej dla centrów danych wzrośnie z 460 terawatogodzin w 2024 roku do ponad 1000 terawatogodzin do 2030 roku, a następnie do 1300 terawatogodzin do 2035 roku. Z dodatkowego wzrostu popytu między 2024 a 2030 rokiem odnawialne źródła pokrywają blisko 50 procent, rosnąc w tempie około 22 procent rocznie, ale gaz ziemny i węgiel łącznie nadal dostarczają ponad 40 procent tego samego nowego popytu, a energia jądrowa staje się znaczącym wkładem dopiero pod koniec dekady.

Ten początkowy miks wyjaśnia, skąd biorą się emisje, a to także tło dla polskiej debaty o własnym, w dużej mierze węglowym systemie energetycznym. IEA przewiduje, że emisje CO2 z centrów danych wzrosną do szczytu około 320 milionów ton do 2030 roku, zanim jedynie nieznacznie spadną do około 300 milionów ton do 2035 roku. W samych Stanach Zjednoczonych agencja spodziewa się, że gaz ziemny doda ponad 130 terawatogodzin nowej rocznej produkcji między 2024 a 2030 rokiem, wobec 110 terawatogodzin z odnawialnych źródeł w tym samym okresie.

Liczba, na której europejski operator powinien naprawdę oprzeć planowanie

Liczby wydajności Nvidia to prawdziwe osiągnięcie inżynieryjne. Zysk 30 do 35-krotny w tokenach na megawat, niezależnie zweryfikowany przez SemiAnalysis, a nie tylko deklarowany przez Nvidia, obniża koszt obliczeniowy każdego obciążenia AI, a dane produkcyjne Lambdy to potwierdzają. Twierdzenie to odpowiada jednak na pytanie inżynieryjne dotyczące projektu chipu i szafy serwerowej, a to inne pytanie niż to, które faktycznie liczy osoba odpowiedzialna za zgodność lub dyrektor finansowy, modelując zużycie energii w obiekcie i ekspozycję węglową łańcucha dostaw.

Dane IEA dają temu drugiemu pytaniu własną odpowiedź: całkowite zużycie energii przez centra danych więcej niż się podwoi do 2030 roku, niezależnie od tego, jak wydajna stanie się pojedyncza generacja chipów, ponieważ wolumen budowanej mocy obliczeniowej AI rośnie szybciej niż krzywa wydajności. Liczby tokenów na megawat dostawców należą do modelu całkowitego kosztu posiadania. Liczba emisji, która zasila planowanie kosztów związanych z CBAM, raportowanie ESG i negocjacje umowy zakupu energii, pochodzi z miksu paliwowego budującego sieć, a nie z komunikatu prasowego producenta chipów, i europejscy operatorzy powinni trzymać obie krzywe na osobnych arkuszach.

Dlaczego to robimy

Robimy to dla wszystkich, którzy starają się nadążyć za tym, co technologia robi z naszym życiem. Dla ludzi, którzy ją budują, i dla ludzi, którym się przydarza. Servola Journal istnieje po to, aby to, czego się uczymy, należało do wszystkich.

Nikt nam za to nie płaci. Żadnych reklam, żadnej ściany płatnej, za darmo dla wszystkich. Po prostu wierzymy, że zrozumienie tego, co dzieje się z nami wszystkimi, nie powinno zależeć od tego, kogo na to stać.

Jeśli dzisiaj coś ci to dało, powiedz nam, żebyśmy kontynuowali. Obserwuj nas, zostaw polubienie albo napisz pozytywny komentarz. Czytamy je wszystkie, i to one nas napędzają.

Czytaj dalej: Ohio nie zapłaci za kampus OpenAI o mocy 8GW  |  Chip, na który Nvidia kupiła licencję od Groq, trafia do produkcji