O Comportamento por Omissão que Ficou Caro

A maioria das implementações de agentes de IA ainda funciona segundo um único pressuposto nunca questionado: enviar cada etapa de cada tarefa para o modelo mais capaz disponível e resolver a fatura mais tarde. Para uma prova de conceito, isso é inofensivo. A volume de produção - milhares de tarefas de código, pedidos de suporte ou etapas de investigação por dia - esse pressuposto transforma a subscrição de um modelo de topo na maior rubrica do orçamento de IA, muitas vezes sem que ninguém o tenha decidido de propósito.

A Nvidia usou o seu próprio anúncio de 11 de agosto para defender que este comportamento por omissão está agora ultrapassado. A empresa lançou o Nemotron 3.5 Lightning, um modelo aberto de mistura de especialistas com 30 mil milhões de parâmetros, dos quais apenas 3 mil milhões estão ativos por token, juntamente com o NeMo Switchyard, uma biblioteca de código aberto que decide - tarefa a tarefa, por vezes interação a interação - qual o modelo que é realmente necessário. Nenhum dos dois é por si só um novo modelo de topo. Juntos, são a proposta de que o modelo de topo deveria ser a exceção a que um agente recorre, não o ponto de partida.

Um Modelo Pequeno e o Router Construído para o Alimentar

O Nemotron 3.5 Lightning foi concebido para volume, não para desempenho máximo. O próprio blogue de programadores da Nvidia refere que o modelo completa 10 mil tarefas PinchBench 30% mais rápido do que o Qwen3.6 35B com precisão comparável, e atinge 86% nesse benchmark com uma velocidade de saída até 4 vezes superior à de modelos de dimensão semelhante - uma afirmação que a Nvidia atribui à descodificação especulativa e a dois modelos de rascunho, o DSpark e o DFlash, ajustados respetivamente para tráfego de baixa e alta concorrência. Os pesos, os dados de treino e as receitas de treino são publicados sob a licença OpenMDW-1.1, que a Nvidia descreve como a sua versão mais permissiva até à data.

O NeMo Switchyard é a parte que realmente muda o comportamento de um orçamento. A biblioteca oferece três estratégias de encaminhamento sem necessidade de configuração: um classificador baseado num LLM que avalia que modelo um pedido requer e continua a usar esse modelo pelo resto da sessão; um stage router que lê a atividade recente de ferramentas de um agente e só promove para um modelo mais forte quando deteta dificuldades reais - erros graves, exploração aberta - mantendo as edições de rotina e as interações que passam nos testes no modelo económico; e um escalation router que começa cada tarefa no modelo económico e só promove depois de observar várias interações de dificuldade persistente. Uma quarta opção, configurável, extrai sinais do próprio estado interno de um modelo durante o treino para prever, antes de o primeiro token ser gerado, quão difícil é realmente o pedido que se aproxima. Nada disto exige reescrever a aplicação: o Switchyard posiciona-se à frente do conjunto existente de modelos abertos, proprietários e da Nvidia de uma equipa de desenvolvimento, e já está disponível no GitHub.

Três Números, Três Fontes Diferentes

As promessas de poupança associadas a este lançamento são reais, mas não assentam todas no mesmo tipo de prova, e uma empresa que orçamente com base nelas deveria manter essa diferença bem clara. O próprio benchmark da Nvidia, executado internamente, refere que o Switchyard mantém uma precisão de nível de topo enquanto reduz o custo por tarefa para quase um terço do que custa usar apenas o Claude Opus 4.8 - a afirmação de um fornecedor sobre o seu próprio produto, útil como estimativa máxima, mas não um número sobre o qual orçamentar.

Dois clientes publicaram os seus próprios números independentes. A LangChain testou o escalation router em 145 tarefas Deep Agents com várias interações, encaminhando entre o Nemotron Lightning e o Claude Opus 4.8, e anunciou, ao longo de cinco execuções separadas, uma redução de custos de 74% ao enviar apenas 7% das chamadas para o modelo de topo, com um custo de precisão medido de cerca de 6 pontos percentuais - uma contrapartida que a LangChain assumiu em vez de a esconder. Separadamente, a Ramp, a empresa de cartões corporativos e gestão de despesas, testou o stage router do Switchyard face à sua própria suite interna de agentes de código, a Ramp SWE-Bench, e declarou, através da sua equipa de engenharia e da sua página de produto, que os agentes encaminhados igualaram o desempenho de um único modelo enquanto reduziam o custo em 58% e o tempo de execução em 33%; a configuração já está em produção dentro do próprio produto router da Ramp.

Um terceiro número assenta em provas mais fracas, e vale a pena dizê-lo claramente. O blogue técnico da Nvidia atribui ao Devin Desktop da Cognition, que executa o staged router para os próprios utilizadores internos da Nvidia, um custo médio 28% inferior no benchmark FrontierCode Main, com uma precisão a menos de 2,8 pontos da do topo e um custo médio de 3,11 dólares - cerca de 2,90 euros ao câmbio - por tarefa. Esse número vem do relato da Nvidia sobre a implementação, não de uma publicação independente da própria Cognition - o próprio blogue da Cognition descreve uma funcionalidade de encaminhamento híbrido relacionada mas distinta, chamada Devin Fusion, com números de poupança diferentes e não comparáveis. Dois dos três números de clientes aqui citados estão confirmados de forma independente; um não está, e deve ser ponderado em conformidade.

O Verdadeiro Produto que a Nvidia Acabou de Oferecer

O título é um modelo mais barato e mais rápido. O passo com mais consequências é o que a Nvidia ofereceu de graça: a própria política de encaminhamento, aberta, independente do modelo, colocada entre um agente e o conjunto de modelos abertos, proprietários e da Nvidia que uma empresa escolhe usar. Trata-se de um posicionamento deliberado, não um acidente - um router que apontasse apenas para os próprios modelos da Nvidia seria uma história bem mais pequena.

Para uma empresa que opera agentes de IA a escala real, isto muda o que a dependência de um fornecedor realmente significa. O antigo risco de dependência era estar preso à API e aos preços de um único laboratório de topo. O novo risco é estar preso a qualquer router ou framework que decida, em nome da empresa, que fornecedor chamar e com que frequência, porque é agora essa camada, e não o modelo subjacente, que detém o custo de mudança. Um router capaz de deslocar tráfego entre a Anthropic, pontos de acesso compatíveis com a OpenAI e pesos abertos consoante a necessidade é uma alavanca negocial genuinamente útil face a qualquer laboratório que suba os preços. Mas é também uma nova dependência que um departamento de compras nunca antes teve de garantir, e o facto de ser de código aberto não torna gratuito o esforço operacional de o manter e afinar.

Existe uma vertente de conformidade que as empresas europeias, em particular, não podem ignorar. Um router que faz passar a mesma tarefa por três ou quatro fornecedores de modelos diferentes a meio de uma sessão multiplica o número de contratos de subcontratação e subcontratados que uma empresa deve controlar ao abrigo do artigo 28 do RGPD - cada fornecedor tocado por uma tarefa é um subcontratado, quer a decisão de encaminhamento tenha sido tomada por uma pessoa ou por uma regra de escalonamento que ninguém no departamento financeiro leu. Em Portugal, a Comissão Nacional de Proteção de Dados já exige que as empresas consigam apresentar, mediante pedido, a lista atualizada dos seus subcontratados; uma camada de encaminhamento que adiciona silenciosamente um quarto ou quinto fornecedor de modelos a essa lista numa determinada semana não é um risco de auditoria hipotético, é um risco operacional.

O que Isto Muda na Mesa do Diretor Financeiro

A consequência prática é uma nova rubrica a auditar, não uma nova ferramenta a comprar. Uma empresa que já opera agentes de IA em volume deveria conseguir responder a uma pergunta tal como uma equipa cloud já responde sobre o equilíbrio entre instâncias reservadas e sob procura: que percentagem das chamadas de agentes deste mês precisou mesmo do modelo de topo, e quem decidiu isso. O número da Ramp - 58% menos custos ao escalar, segundo o seu próprio relato, apenas os casos realmente difíceis - é um objetivo plausível para uma carga de trabalho de agentes de código semelhante à da Ramp, não uma garantia para qualquer carga de trabalho; um agente de apoio ao cliente ou um assistente de investigação irá encaminhar de forma diferente de um agente de engenharia de software, e o primeiro passo honesto é medir a percentagem atual de chamadas ao modelo de topo antes de assumir que um router resolve o problema.

Leia a seguir: O Grok Bot Entra nas Suas Aplicações e Nunca Sai  |  4.000 apps em 30 dias: a aposta de IA da Cloudflare