Um laboratório de topo admite: o modelo não é o melhor

A frase que um laboratório de topo não costuma escrever

Perdida no anúncio do Inkling feito pela Thinking Machines Lab a 15 de julho está uma linha que mais nenhum laboratório de topo se dispôs a publicar. O modelo, escreveu a empresa, "não é o modelo globalmente mais forte disponível hoje". A seguir descreveu o que julga que o Inkling é: "uma boa base de pesos abertos para personalização". Todos os lançamentos de modelos dos últimos três anos abriram com um gráfico de benchmarks. Este abriu com uma limitação.

Leia-se isto como estratégia, não como modéstia. Mira Murati, antiga diretora de tecnologia da OpenAI, fundou a Thinking Machines e demorou cerca de nove meses a entregar um modelo à escala da fronteira, contra algo mais próximo de cinco anos para a OpenAI e três para a Anthropic. O laboratório emprega cerca de 200 pessoas e perdeu dois cofundadores para a OpenAI em janeiro. Uma empresa nessa posição não ganha uma corrida de benchmarks contra laboratórios com cem vezes o orçamento de computação. Por isso recusou-se a entrar numa.

A parte útil para quem compra IA é que uma limitação honesta é informação com que se pode planear. Um fornecedor que reclama a pontuação mais alta numa tabela pública está a falar de um número que será batido dentro de semanas, muito possivelmente antes de o processo de aquisição terminar. Um fornecedor que diz aquilo que o seu produto não é entregou algo duradouro. É mais raro do que devia ser, e vale mais do que parece.

O que está, de facto, lá dentro da caixa

O Inkling é um transformer de mistura de especialistas com 975 mil milhões de parâmetros totais e 41 mil milhões ativos em cada momento. Foi pré-treinado com 45 biliões de tokens que abrangem texto, imagem, áudio e vídeo, e suporta uma janela de contexto até 1 milhão de tokens. Raciocina sobre texto, imagens e áudio, embora de momento só devolva texto, incluindo código e dados estruturados. Uma variante mais leve, o Inkling-Small, traz 276 mil milhões de parâmetros totais com 12 mil milhões ativos.

Duas opções de desenho dizem para que está otimizado. O modelo expõe um esforço de raciocínio controlável, deixando quem o chama trocar profundidade de raciocínio por gasto de tokens pedido a pedido, uma alavanca de custo que a maioria das APIs não põe na mão de ninguém. A Thinking Machines escolheu ainda embeddings posicionais relativos em vez de RoPE, referindo que extrapolam melhor para sequências mais longas. A empresa diz que o Inkling gasta cerca de um terço dos tokens do Nemotron 3 Ultra da Nvidia para desempenho equivalente em código. Numa fatura ao consumo, a eficiência em tokens não é um detalhe técnico.

Vale a pena verificar os números práticos antes dos números de manchete. Os pesos estão no Hugging Face, e o Inkling está disponível através do Tinker, a plataforma de afinação da empresa, com comprimentos de contexto de 64 000 e 256 000 tokens, por agora com 50% de desconto durante um período limitado. Repare-se na diferença: o modelo suporta até um milhão de tokens de contexto, enquanto a plataforma gerida oferece hoje um quarto disso. Se o caso de uso depender da janela completa, o alojamento passa a ser da casa, e alojar um modelo de 975 mil milhões de parâmetros é um compromisso sério de infraestrutura, não uma tarde de trabalho.

A fronteira aberta é agora uma herança partilhada

O detalhe de proveniência deste lançamento merece mais atenção do que a contagem de parâmetros. A Thinking Machines afirma que o desenho de mistura de especialistas do Inkling segue em larga medida o do DeepSeek-V3, com 256 especialistas encaminhados e dois especialistas partilhados, e seis especialistas encaminhados ativos por token. Usou também modelos de pesos abertos, entre eles o Kimi K2.5 da Moonshot AI, para gerar dados do pós-treino inicial antes da aprendizagem por reforço em grande escala. Um laboratório de São Francisco fundado pela antiga diretora de tecnologia da OpenAI assentou a sua arquitetura no desenho publicado por um laboratório chinês e arrancou com o modelo de outro laboratório chinês.

É assim que uma fronteira aberta se parece na prática. Não uma corrida a plantar bandeiras entre dois blocos, mas uma herança técnica partilhada que corre em todas as direções e não pede licença em nenhum posto de fronteira. A engenharia passou de Hangzhou e de Pequim para São Francisco porque foi publicada, e o resultado foi publicado por sua vez.

Para um dono de empresa europeu isto tem um valor específico e sem qualquer sentimentalismo. O acesso a um modelo de fronteira alojado é uma relação comercial sujeita a decisões de política, de preço e de disponibilidade tomadas noutra jurisdição, como já aprendeu quem viu um modelo ser lançado em 47 países e não na União Europeia. Um conjunto de pesos abertos descarregado é um ativo de outra natureza. Não é restringido, não é reavaliado no preço nem é descontinuado por baixo dos pés, porque já está em casa. Isto não é um argumento de que os pesos abertos são melhores. É um argumento de que falham de maneira diferente, e saber como falha uma dependência é quase tudo aquilo para que serve a aquisição.

Se esta compra é ou não para a sua empresa

A linha a traçar está entre alugar inteligência e ser dono de uma capacidade. Se o trabalho de IA for amplo, variado e mudar de semana para semana, aluga-se: paga-se ao token o melhor modelo alojado e troca-se quando aparecer outro melhor, porque o que ali se compra é flexibilidade. Se o trabalho for estreito, repetitivo, de grande volume e específico do negócio, uma base personalizável, afinada e guardada em casa pode bater um modelo geral que nunca viu o domínio, e o seu custo deixa de crescer ao ritmo da utilização.

Convém ser honesto quanto ao que a personalização exige, porque é aqui que o plano costuma partir-se. A afinação precisa de dados de treino que a empresa detenha de facto e esteja autorizada a usar. Precisa de um conjunto de avaliação construído a partir do trabalho real, e não de um benchmark público, ou não haverá maneira de saber se a versão da casa é melhor do que aquilo de onde se partiu. E precisa de uma pessoa nomeada, dona do modelo em produção, porque um modelo afinado que ninguém mantém degrada-se em silêncio à medida que o negócio muda à sua volta. Faltando qualquer um destes três, uma base de pesos abertos é um descarregamento, não uma capacidade.

A leitura honesta do Inkling é que a admissão é a funcionalidade. A Thinking Machines já disse aquilo que o modelo não é, o que deixa de pé uma única pergunta: se a adaptabilidade é aquilo de que a sua empresa precisa. Para a maioria das empresas que corre um punhado de tarefas gerais de IA não é, e alugar continua a ser o correto. Para o número mais pequeno com um problema estreito, de grande volume e com dados proprietários a sério, uma base que se pode possuir e moldar é uma proposta económica genuinamente diferente do acesso ao consumo ao modelo de outrem. É a descrição de muita empresa portuguesa que processa milhares de documentos em português por mês, com dados pessoais que o RGPD prefere ver ficar dentro de portas. As duas vias são defensáveis. Comprar a segunda com o orçamento da primeira não é.

Leia a seguir: China deixa os seus laboratórios comprar o H200  |  Um modelo chinês pode estar a responder aos seus prompts