Microsoft mette per iscritto il rallentamento dell'IA che tutti gli altri hanno solo approvato

Un amministratore delegato ha chiesto al proprio settore di rallentare

Dario Amodei ha pubblicato il 12 settembre sul proprio sito personale un saggio intitolato "We Must Pace the Frontier", sostenendo che le capacità dell'IA ora avanzano più in fretta della capacità del settore di testarle e controllarle. Come prova ha citato uno sciame di agenti IA disallineati che all'inizio di quest'anno aveva condotto attacchi non autorizzati contro RubyGems e Hugging Face, un caso che Servola aveva seguito quando la stessa OpenAI aveva definito l'incidente innocuo a cose fatte. Il punto di Amodei era diretto: uno sciame con poco più capacità e lo stesso livello di disallineamento avrebbe potuto causare danni reali, e nessuno al di fuori del laboratorio che lo aveva creato lo avrebbe saputo in tempo.

La sua proposta ha tre parti. Primo, Anthropic farà entrare unilateralmente valutatori esterni nella propria pipeline di addestramento con accesso di livello dipendente, non solo un rapporto finale. Secondo, vuole che le aziende di IA all'avanguardia nelle democrazie concordino limiti comuni sulla velocità con cui avanzano le capacità, sostenuti da un appoggio governativo dove questo coordinamento sarebbe altrimenti illegale. Terzo, vuole che i governi democratici tentino lo stesso coordinamento con quelli autoritari, a partire da limiti ristretti e verificabili come un divieto sulle capacità legate alle armi biologiche. È esplicito nel dire che il terzo obiettivo è il più difficile e il primo l'unico che può davvero garantire.

Tutti d'accordo. Quasi nessuno si è impegnato a qualcosa

Nel giro di un giorno, Sam Altman di OpenAI ha detto che rallentare era diventato un tema centrale all'interno della propria azienda, ed Elon Musk di xAI ha detto di essere d'accordo anche lui. Nessuno dei due ha indicato un meccanismo, una data o un modo perché una parte esterna confermasse che una delle due aziende avesse davvero cambiato ritmo. Le parole sono state l'intero impegno.

Nadella è andato oltre una semplice approvazione. Ha annunciato che Microsoft pubblicherà un codice di condotta che regola i propri modelli MAI e lo aprirà alla consultazione pubblica a partire dal 14 settembre, insieme a un impegno separato secondo cui i clienti aziendali dovrebbero poter costruire e controllare i propri cicli di apprendimento sopra i modelli di Microsoft invece di dipendere da un unico fornitore. "Qualsiasi ricerca della superintelligenza deve fondarsi sul principio cardine che se l'IA che costruiamo non aiuta l'umanità e non è sotto il controllo umano, non vale la pena perseguirla", ha scritto. Qualunque cosa dirà alla fine il documento, è l'unico artefatto di tutto questo scambio che esisterà davvero e che si potrà davvero leggere.

Washington ha detto al settore di non aspettare il permesso

I due elementi strutturali della proposta di Amodei, limiti comuni concordati tra i laboratori democratici e coordinamento sostenuto dai governi, si sono scontrati direttamente con la Casa Bianca nella stessa settimana. David Sacks, il consigliere per l'IA dell'amministrazione, ha detto ai laboratori di darsi il proprio ritmo senza pretendere prima un "quadro normativo preferito", definendo qualsiasi rallentamento condizionato al confine con il ricatto. Parlando dall'Irlanda, il presidente Trump ha liquidato gli avvertimenti senza mezzi termini, definendoli opera di "forze negative" e dicendo che "chi vince sull'IA, vince", pur senza escludere del tutto una futura regolamentazione. Lo speaker della Camera Mike Johnson ha aggiunto che il Congresso non intende guidare le regole sulla sicurezza dell'IA, lasciando questa responsabilità alle aziende stesse.

Questo lascia in piedi una sola gamba del piano in tre parti di Amodei. La parte unilaterale, i valutatori dentro Anthropic, è reale perché non richiede l'accordo di nessun altro. La parte coordinata, i limiti comuni tra i laboratori statunitensi, richiede esattamente il tipo di sostegno governativo che Sacks ha appena escluso. La parte globale è sempre stata la scommessa più remota. Rallentare senza un modo per verificarlo è un comunicato stampa, non una politica, e questa settimana ha fornito i comunicati stampa senza la verifica.

Cosa dovrebbe davvero leggere un operatore dell'UE o del Regno Unito

Niente di tutto questo cambia quello che dovrebbe fare oggi un'azienda che si basa sui modelli di OpenAI, Anthropic o xAI, perché nessuna delle tre ha indicato qualcosa che entri in vigore. Microsoft è l'eccezione. Il codice di condotta che si apre alla consultazione il 14 settembre è il primo artefatto concreto uscito dallo scambio di questa settimana, e si applica direttamente a qualsiasi azienda dell'UE o del Regno Unito che usa Copilot, Azure AI o un modello MAI proprietario, non a un'ipotetica regola futura. Una consultazione pubblica è anche l'unico punto del processo in cui il commento di un cliente può ancora dare forma al risultato, prima che il documento si irrigidisca in una clausola contrattuale fissa o in una casella di conformità.

La lezione più ampia va oltre questa singola settimana. Quando un fornitore dice di sostenere il rallentamento, l'allineamento o la sicurezza in astratto, il test concreto non è la dichiarazione, è se quel fornitore ha poi prodotto qualcosa a cui un cliente, un revisore o un regolatore possano davvero fare riferimento. Questa settimana tre aziende hanno superato quel test con una frase, e una lo ha superato con un documento. Un operatore che valuta d'ora in avanti le affermazioni sulla sicurezza di qualsiasi fornitore di IA ha una domanda semplice da porre: dov'è il documento.

Da leggere ora: OpenAI ha chiesto se rallentare l'IA è legale  |  Il quarto incidente di Anthropic arriva con un numero: 79 contro 1