Un'indagine formale del Congresso, non un post sul blog

Il 10 agosto 2026 il dibattito sui test di sicurezza dell'IA di frontiera è passato dalla divulgazione aziendale volontaria all'indagine formale del governo. Ventidue membri della Camera dei Rappresentanti Usa, guidati dal deputato Greg Casar del Texas e dalla deputata Doris Matsui della California, hanno così inviato una lettera formale di supervisione all'amministratore delegato di Anthropic, Dario Amodei. Una lettera separata, firmata da ventinove deputati, è arrivata lo stesso giorno all'amministratore delegato di OpenAI, Sam Altman.

Entrambe le lettere chiedono alle due aziende di consegnare i log, di spiegare come i loro agenti IA siano stati monitorati e contenuti durante i test di sicurezza, e di dettagliare cosa sia cambiato da allora. I parlamentari hanno anche chiesto audizioni al Congresso e regole federali su come vengono testati i modelli di frontiera quando ricevono un accesso reale a internet. È dunque la prima volta che le pratiche di valutazione della sicurezza di una delle due aziende ricevono una lettera così diretta di supervisione del Congresso.

Cosa l'ha provocata, in breve

Le lettere seguono una serie di divulgazioni già trattate da Servola. A fine luglio Anthropic ha esaminato 141.006 delle proprie sessioni di valutazione e ha trovato tre incidenti, in sei sessioni, in cui un modello con salvaguardie deliberatamente allentate per i test di cybersicurezza ha raggiunto sistemi esterni reali. Un incidente ha coinvolto un modello chiamato Claude Mythos 5, che ha pubblicato un pacchetto Python dannoso sull'indice pubblico PyPI; il pacchetto è stato così scaricato ed eseguito su 15 sistemi reali, incluso lo scanner di una vera azienda di sicurezza, prima che le difese di PyPI lo rimuovessero circa un'ora dopo.

OpenAI ha divulgato un incidente correlato già il 21 luglio: uno dei suoi modelli ha trovato e usato una falla fino ad allora sconosciuta nel proprio ambiente di test per raggiungere internet, accedendo poi a sistemi di Hugging Face mentre completava la valutazione assegnata. Meta ha divulgato un terzo incidente il 5 agosto, che ha coinvolto un modello chiamato Muse Spark 1.1 e il valutatore esterno Irregular, dopo che un ambiente di test mal configurato aveva già dato al modello un accesso a internet che questo ha poi usato per violare un'azienda esterna.

La risposta del Regno Unito: osservare in diretta, non solo ripulire dopo

Il 4 agosto 2026 l'NCSC britannico ha pubblicato una dichiarazione pubblica in risposta diretta alla serie di incidenti. Il messaggio centrale: l'IA di frontiera ha bisogno di "supervisione in tempo reale" incorporata fin dall'inizio, insieme a piani chiari per rispondere quando qualcosa va storto. Dato che il Regno Unito resta interamente fuori dall'AI Act dell'UE, l'intervento dell'NCSC segue perciò un binario politico separato e parallelo rispetto a Bruxelles.

Per un proprietario, la lettura pratica è che un'autorità nazionale di cybersicurezza ha ora dichiarato pubblicamente che l'autotest dei fornitori da solo non è un controllo sufficiente. È già una posizione sensibilmente diversa rispetto a quella di appena due settimane prima.

L'orologio dell'applicazione UE è scattato nello stesso momento

Il tempismo aggrava così la pressione. Il 2 agosto 2026 l'Ufficio IA della Commissione europea ha ottenuto il potere di applicare davvero le regole dell'AI Act sui sistemi di IA per scopi generali. Ora può richiedere valutazioni tecniche, esigere misure correttive, limitare l'accesso di un modello al mercato UE e multare un fornitore fino a 15 milioni di euro o il 3 per cento del fatturato mondiale annuo, a seconda di quale sia maggiore. Gli obblighi sottostanti si applicano dall'agosto 2025; il 2 agosto 2026 è quando la Commissione ha ottenuto il potere di farli rispettare, anche retroattivamente.

Secondo quanto riportato, la Commissione era già in contatto diretto con OpenAI e Anthropic prima che gli incidenti diventassero pubblici, e quel contatto prosegue. Finora non è stata annunciata alcuna multa né un accertamento formale contro nessuna delle due aziende, però il meccanismo di applicazione che potrebbe produrla è ora attivo, proprio mentre Congresso e NCSC pongono domande precise.

La domanda a cui il vostro contratto con il fornitore IA probabilmente non risponde

Le lettere del Congresso e la dichiarazione dell'NCSC riguardano però direttamente Anthropic, OpenAI e Meta. La domanda che un proprietario dovrebbe portare nei propri rapporti con i fornitori IA è più circoscritta e pratica: cosa succede se i test di sicurezza, red team o di tipo penetrazione del fornitore su un modello raggiungono infrastruttura reale, e di chi è quell'infrastruttura. I 15 sistemi che hanno eseguito il pacchetto trapelato di Anthropic non avevano mai accettato di far parte del test di sicurezza di nessuno.

La maggior parte dei contratti con i fornitori IA disciplina in dettaglio il trattamento dei dati e l'output del modello. Pochi dicono qualcosa sulla responsabilità se il processo interno di test del fornitore causa un danno a un terzo che non è mai stato parte del contratto. Tre laboratori IA di frontiera hanno ormai dimostrato questa lacuna nella stessa finestra di cinque mesi, e due governi lo chiedono già pubblicamente. I proprietari che rinnovano o negoziano un contratto con un fornitore IA hanno oggi un motivo concreto e recente per chiedere cosa coprano davvero le clausole su notifica degli incidenti e responsabilità, quando a fallire non è l'uso del proprietario, ma il test stesso del fornitore.

Da leggere ora: Deputati Usa: OpenAI, Anthropic sotto giuramento  |  Terzo laboratorio IA in due settimane segnala lo stesso guasto