A Nvidia fica eficiente. A rede não.

A alegação de eficiência que tanto a Nvidia como a SemiAnalysis confirmam

Na AI Infra Summit em Santa Clara, a 15 de setembro, perante mais de 8000 participantes, o vice-presidente da Nvidia para computação hyperscale e de alto desempenho, Ian Buck, apresentou o argumento de eficiência para a próxima geração de hardware da empresa. Segundo a Nvidia, a plataforma Vera Rubin NVL72, combinada com a tecnologia de software e rede "3 LPX" do parceiro Groq, oferece até 35 vezes mais desempenho de tokens por megawatt do que a atual geração GB200 NVL72, em modelos com mais de dois biliões de parâmetros. O design de referência "DSX MaxLPS" acrescenta ainda até 40 por cento mais capacidade de GPU dentro do mesmo orçamento elétrico do local e, segundo a Nvidia, não é preciso construir novas linhas elétricas.

O invulgar é que um teste independente confirma boa parte da alegação. A SemiAnalysis executou o seu próprio teste "AgentX" numa carga de trabalho DeepSeek V4 Pro e mediu até 30 vezes mais desempenho por megawatt para a Vera Rubin NVL72 face à anterior GB300 NVL72, um valor suficientemente próximo do da Nvidia para que o ganho de eficiência pareça real e não apenas aritmética de marketing. O exemplo de cliente da Nvidia aponta na mesma direção: o fornecedor de nuvem Lambda registou uma melhoria de 23 por cento no desempenho por watt depois de adotar o DSX MaxLPS em hardware Blackwell, com o desempenho de tokens de todo o cluster a subir de cerca de 4 milhões para 5 milhões de tokens por segundo.

O que dizem os próprios números da AIE sobre a rede elétrica

Nada dessa eficiência aparece como queda na procura nos próprios números da Agência Internacional de Energia. No seu relatório "Energy and AI", a AIE prevê que a produção elétrica mundial para centros de dados suba de 460 terawatts-hora em 2024 para mais de 1000 terawatts-hora até 2030, e depois para 1300 terawatts-hora até 2035. Do crescimento adicional da procura entre 2024 e 2030, as renováveis cobrem quase 50 por cento, crescendo a um ritmo anual de cerca de 22 por cento, mas o gás natural e o carvão juntos continuam a fornecer mais de 40 por cento dessa mesma nova procura, e o nuclear só se torna um contributo relevante perto do final da década.

Essa mistura de partida explica de onde vêm as emissões. A AIE prevê que as emissões de CO2 dos centros de dados subam até um pico de cerca de 320 milhões de toneladas em 2030, antes de uma descida apenas ligeira para cerca de 300 milhões de toneladas em 2035. Nos Estados Unidos em concreto, a agência espera que o gás natural acrescente mais de 130 terawatts-hora de nova produção anual entre 2024 e 2030, contra 110 terawatts-hora provenientes de renováveis no mesmo período.

O número em que um operador europeu deveria realmente basear o planeamento

Os números de eficiência da Nvidia são uma conquista de engenharia genuína. Um ganho de 30 a 35 vezes em tokens por megawatt, verificado de forma independente pela SemiAnalysis e não apenas alegado pela Nvidia, reduz o custo de computação de qualquer carga de trabalho de IA, e os números de produção da Lambda confirmam-no. Mas a alegação responde a uma pergunta de engenharia sobre o design de chips e racks, e essa é uma pergunta diferente da que um responsável de compliance ou um diretor financeiro está de facto a calcular quando modela o consumo elétrico de uma instalação e a exposição de carbono da sua cadeia de fornecimento.

Os números da AIE dão a essa segunda pergunta a sua própria resposta: o consumo elétrico total dos centros de dados vai mais do que duplicar até 2030, independentemente da eficiência que uma única geração de chips alcance, porque o volume de computação de IA que está a ser construído cresce mais depressa do que a curva de eficiência. Os números de tokens por megawatt dos fornecedores pertencem a um modelo de custo total de propriedade. O número de emissões que alimenta o planeamento de custos ligado ao CBAM, a divulgação ESG e a negociação de um acordo de compra de eletricidade vem da combinação de combustíveis que constrói a rede, não de um comunicado de imprensa de um fabricante de chips, e os operadores europeus deveriam manter as duas curvas em folhas de cálculo separadas.

Porque fazemos isto

Fazemos isto por todos os que tentam acompanhar o que a tecnologia está a fazer às nossas vidas. As pessoas que a constroem, e as pessoas a quem acontece. O Servola Journal existe para que o que aprendemos pertença a todos eles.

Ninguém nos paga por isto. Sem publicidade, sem barreira de pagamento, grátis para todos. Acreditamos simplesmente que compreender o que está a acontecer a todos nós não deveria depender de quem pode pagar por isso.

Se isto lhe deu alguma coisa hoje, diga-nos para continuarmos. Sigam-nos, deixem um gosto ou escrevam um comentário positivo. Lemos todos, e são eles que nos mantêm em andamento.

Leia a seguir: O Ohio não pagará pelo campus de 8GW da OpenAI  |  O chip que a Nvidia licenciou da Groq já está a ser fabricado