Um Teste Que Nenhum Dos Lados Conseguia Ler
A 27 de agosto de 2026, a Google DeepMind realizou aquilo a que a empresa chama a primeira avaliação em dupla ocultação do mundo de um modelo de IA de ponta proprietário, em que nenhuma das partes conseguia ver o material mais sensível da outra. A avaliação usou o Confidential Space, parte do portefólio de computação confidencial da Google Cloud, para executar o teste dentro de um enclave criptográfico verificado: as perguntas do avaliador permaneceram cifradas e fora do alcance da Google, e os pesos do modelo da Google permaneceram cifrados e fora do alcance do avaliador.
"Ao usar o Confidential Space dentro do portefólio de computação confidencial da Google Cloud, conseguimos verificar de forma criptográfica que tanto os dados de avaliação externos como o modelo proprietário permanecem privados para os respetivos proprietários", escreveu a DeepMind no seu anúncio. Quatro parceiros juntaram-se ao piloto como avaliadores: o Instituto de Segurança de IA de Singapura, a organização sem fins lucrativos de tecnologia de privacidade OpenMined, o grupo de garantia AVERI e o organismo de normalização MLCommons.
Essa configuração elimina um compromisso que até agora tem marcado toda a avaliação de IA. Um avaliador externo tem de confiar nas pontuações autorreportadas de um laboratório, ou o laboratório tem de entregar os pesos do modelo que trata como o seu principal segredo comercial, ou o avaliador tem de entregar as suas perguntas de teste e arriscar que o modelo se limite a memorizar as respostas para a próxima vez. Este piloto é o primeiro caso público de um modelo de IA de ponta proprietário a passar por um teste real sem que nenhuma das partes tenha de fazer essa concessão.
Porque É Que As Pontuações De Referência Têm Sido Fáceis De Manipular
O problema que este piloto pretende resolver tem um nome: contaminação de referências, a situação em que um modelo já foi exposto, direta ou indiretamente, às perguntas pelas quais é depois avaliado. Quando isso acontece, uma referência deixa de medir aquilo que um modelo consegue realmente fazer e passa a medir aquilo que já memorizou.
A dimensão do problema não é pequena. Investigação anterior, citada na cobertura do piloto, encontrou sinais de contaminação de referências em cerca de metade de 31 modelos de IA testados, com a contaminação a inflacionar mais as pontuações dos modelos maiores do que as dos mais pequenos. Isto importa porque as pontuações de referência não são apenas texto de marketing; os laboratórios também as usam como prova das suas afirmações de segurança, e reguladores e compradores empresariais tratam-nas cada vez mais como sinal de conformidade em vez de as olharem com verdadeiro ceticismo.
O Modelo Testado Não É O Que Mais Importa
O Gemini Flash Lite, o modelo que a DeepMind submeteu a este piloto, situa-se no nível mais pequeno e mais barato da família Gemini, e não no modelo principal de ponta cujas afirmações de capacidade e segurança carregam o maior peso comercial e regulatório. Testar primeiro um modelo mais leve é uma forma razoável de comprovar a nova infraestrutura técnica, mas também significa que o piloto ainda não respondeu à pergunta mais importante: se a mesma verificação criptográfica funciona, e é efetivamente aplicada, ao modelo que a Google realmente vende como o seu sistema de ponta.
Os quatro parceiros avaliadores foram escolhidos pela própria Google, e o Instituto de Segurança de IA de Singapura é um verdadeiro organismo estatal de segurança, o que confere ao piloto alguma independência real. Mas nenhum auditor externo verificou ainda a integridade do próprio enclave, e a DeepMind descreveu-o como um piloto, não como um compromisso permanente para testar assim todos os modelos daqui em diante.
O Que Isto Significa Para Compradores E Reguladores De IA Na UE E No Reino Unido
Para uma organização da UE ou do Reino Unido que compra ou regula sistemas de IA, a questão interessante não é saber se este piloto em concreto funcionou, mas se a avaliação em dupla ocultação se torna a prova padrão que os fornecedores terão de apresentar. Verificar de forma independente as afirmações de segurança de um modelo de ponta significa hoje, normalmente, uma de duas opções pouco satisfatórias: confiar na ficha de modelo publicada pelo próprio fornecedor, ou exigir acesso aos pesos que quase nenhum laboratório concederá.
Este piloto é uma resposta técnica funcional a essa lacuna, ainda não uma exigência legal em lado nenhum, e ainda não aplicada a um modelo cujas afirmações determinem realmente decisões de compra ou submissões regulatórias. Um comprador na UE ou no Reino Unido que avalia um fornecedor de IA de ponta em busca de provas de conformidade tem uma nova pergunta concreta a fazer: se está disposto a submeter o seu modelo principal, e não apenas o nível mais barato, a uma avaliação como esta.
Leia a seguir: Os downloads do Qwen escondem um vazio legal na UE | As bolsas da Anthropic repetem a falha da OpenAI
