Un Test Che Nessuna Delle Due Parti Poteva Leggere
Il 27 agosto 2026, Google DeepMind ha condotto quella che l'azienda definisce la prima valutazione doppio cieco al mondo di un modello IA di punta proprietario, in cui nessuna delle due parti poteva vedere il materiale più sensibile dell'altra. La valutazione ha usato Confidential Space, parte del portafoglio di Confidential Computing di Google Cloud, per eseguire il test all'interno di un'enclave crittografica verificata: le domande del valutatore sono rimaste cifrate e fuori dalla portata di Google, e i pesi del modello di Google sono rimasti cifrati e fuori dalla portata del valutatore.
"Utilizzando Confidential Space all'interno del portafoglio di Confidential Computing di Google Cloud, possiamo verificare crittograficamente che sia i dati di valutazione esterni sia il modello proprietario restino privati per i rispettivi proprietari", ha scritto DeepMind nel suo annuncio. Quattro partner hanno aderito al pilota come valutatori: il Singapore AI Safety Institute, l'organizzazione no profit per le tecnologie della privacy OpenMined, il gruppo di garanzia AVERI e l'organismo di standardizzazione MLCommons.
Questa impostazione elimina un compromesso che finora ha caratterizzato ogni valutazione IA. Un valutatore esterno deve fidarsi dei punteggi autodichiarati di un laboratorio, oppure il laboratorio deve consegnare i pesi del modello che tratta come il suo principale segreto industriale, oppure il valutatore deve consegnare le proprie domande di test rischiando che il modello si limiti a memorizzare le risposte per la volta successiva. Questo pilota è il primo caso pubblico in cui un modello IA di punta proprietario supera un test reale senza che nessuna delle parti debba accettare quel compromesso.
Perché I Punteggi Dei Benchmark Sono Stati Facili Da Manipolare
Il problema che questo pilota vuole risolvere ha un nome: contaminazione dei benchmark, la situazione in cui un modello è già stato esposto, direttamente o indirettamente, alle domande su cui verrà poi valutato. Quando accade, un benchmark smette di misurare ciò che un modello sa davvero fare e inizia a misurare ciò che ha già memorizzato.
La portata del problema non è piccola. Ricerche precedenti citate nella copertura del pilota hanno trovato segni di contaminazione dei benchmark in circa metà di 31 modelli IA testati, con una contaminazione che ha gonfiato i punteggi dei modelli più grandi più di quelli più piccoli. Questo conta perché i punteggi dei benchmark non sono solo materiale di marketing; i laboratori li usano anche come prova delle proprie dichiarazioni di sicurezza, e regolatori e acquirenti aziendali li trattano sempre più come segnali di conformità invece di guardarli con vero scetticismo.
Il Modello Testato Non È Quello Che Conta Di Più
Gemini Flash Lite, il modello che DeepMind ha sottoposto a questo pilota, occupa il livello più piccolo ed economico della famiglia Gemini, non il modello di punta le cui dichiarazioni di capacità e sicurezza portano il maggior peso commerciale e regolatorio. Testare prima un modello leggero è un modo ragionevole di collaudare la nuova infrastruttura, ma significa anche che il pilota non ha ancora risposto alla domanda più importante: se lo stesso controllo crittografico funzioni, e venga effettivamente eseguito, sul modello che Google vende davvero come suo sistema di punta.
I quattro partner valutatori sono stati scelti dalla stessa Google, e il Singapore AI Safety Institute è un vero organismo statale di sicurezza, il che conferisce al pilota una reale indipendenza. Ma nessun revisore esterno ha ancora verificato l'integrità dell'enclave stessa, e DeepMind lo ha descritto come un pilota, non come un impegno permanente a testare così ogni modello in futuro.
Cosa Significa Per Acquirenti E Regolatori IA Nell'UE E Nel Regno Unito
Per un'organizzazione dell'UE o del Regno Unito che acquista o regola sistemi IA, la domanda interessante non è se questo particolare pilota abbia funzionato, ma se la valutazione doppio cieco diventi la prova standard che i fornitori dovranno produrre. Verificare in modo indipendente le dichiarazioni di sicurezza di un modello di punta oggi significa di solito una di due opzioni insoddisfacenti: fidarsi della scheda del modello pubblicata dal fornitore stesso, oppure pretendere l'accesso ai pesi che quasi nessun laboratorio concederà.
Questo pilota è una risposta tecnica funzionante a quel divario, non ancora un obbligo legale da nessuna parte, e non ancora applicata a un modello le cui dichiarazioni guidino davvero decisioni di acquisto o pratiche regolatorie. Un acquirente dell'UE o del Regno Unito che valuta un fornitore di IA di punta per prove di conformità ha una nuova domanda concreta da porre: se è disposto a sottoporre il suo modello di punta, non solo il livello più economico, a una valutazione come questa.
Da leggere ora: I download di Qwen nascondono un vuoto normativo UE | Le borse di Anthropic ripetono il vuoto di OpenAI
