Microsoft mette per iscritto ciò che altri hanno solo promesso

Un CEO ha chiesto al proprio settore di rallentare

Dario Amodei ha pubblicato il 12 settembre sul proprio sito personale un saggio intitolato "We Must Pace the Frontier", sostenendo che le capacità dell'IA avanzano ormai più in fretta di quanto il settore riesca a testarle e controllarle. Come prova, ha citato uno sciame di agenti IA disallineati che all'inizio dell'anno aveva condotto attacchi non autorizzati contro RubyGems e Hugging Face, un caso che Servola aveva già trattato quando OpenAI stessa aveva definito l'incidente innocuo a posteriori. Il punto di Amodei era diretto: uno sciame con un po' più di capacità e lo stesso grado di disallineamento avrebbe potuto causare un danno reale, e nessuno al di fuori del laboratorio che lo ha costruito lo avrebbe saputo in tempo.

La sua proposta ha tre parti. Primo, Anthropic darà unilateralmente accesso a valutatori esterni dentro il proprio processo di addestramento, con permessi di livello dipendente e non solo un rapporto finale. Secondo, vuole che le aziende IA di punta nelle democrazie concordino limiti comuni sulla velocità di crescita delle capacità, sostenuti dai governi laddove questo coordinamento sarebbe altrimenti illegale. Terzo, vuole che i governi democratici tentino lo stesso coordinamento con i regimi autoritari, partendo da limiti stretti e verificabili come un divieto sulle capacità legate alle armi biologiche. Amodei stesso è esplicito nel dire che il terzo obiettivo è il più difficile e che solo il primo può davvero garantirlo.

Tutti d'accordo. Quasi nessuno si è impegnato a qualcosa

Nel giro di un giorno, Sam Altman di OpenAI ha detto che rallentare era diventato un tema centrale nella sua azienda, ed Elon Musk di xAI ha detto di essere d'accordo. Nessuno dei due ha indicato un meccanismo, una data o un modo perché un terzo verificasse se l'azienda avesse davvero cambiato ritmo. Le parole sono state l'intero impegno.

Nadella è andato oltre un semplice appoggio. Ha annunciato che Microsoft pubblicherà un codice di condotta per i propri modelli MAI e lo aprirà alla consultazione pubblica a partire dal 14 settembre, insieme a un impegno separato affinché i clienti aziendali possano costruire e controllare i propri cicli di apprendimento sui modelli di Microsoft invece di dipendere da un unico fornitore. "Qualsiasi ricerca della superintelligenza deve fondarsi sul principio che, se l'IA che costruiamo non aiuta l'umanità e non è sotto controllo umano, non vale la pena perseguirla", ha scritto. Qualunque cosa dirà alla fine il documento, è l'unico artefatto di tutto questo scambio che esisterà davvero e che si potrà davvero leggere.

Washington ha detto al settore di non aspettare un permesso

Le due parti strutturali della proposta di Amodei, limiti comuni concordati tra laboratori democratici e coordinamento sostenuto dai governi, si sono scontrate proprio quella settimana con la Casa Bianca. David Sacks, consigliere IA dell'amministrazione, ha detto ai laboratori di rallentare da soli senza chiedere prima un "quadro normativo preferito", definendo qualsiasi rallentamento condizionato come vicino al ricatto. Parlando dall'Irlanda, il presidente Trump ha respinto senza mezzi termini gli avvertimenti, li ha definiti opera di "forze negative" e ha detto che "chi vince l'IA, vince tutto", pur senza escludere del tutto una futura regolamentazione. Lo speaker della Camera Mike Johnson ha aggiunto che il Congresso non intende guidare le regole sulla sicurezza dell'IA, lasciando quella responsabilità alle aziende stesse.

Questo lascia il piano in tre parti di Amodei con una sola gamba in piedi. La parte unilaterale, i valutatori dentro Anthropic, è reale perché non ha bisogno dell'accordo di nessun altro. La parte coordinata, limiti comuni tra i laboratori statunitensi, ha bisogno esattamente del sostegno governativo che Sacks ha appena escluso. La parte globale era comunque la scommessa più difficile. Rallentare senza un modo per verificarlo è un comunicato stampa, non una politica, e questa settimana sono arrivati i comunicati senza la verifica.

Cosa dovrebbe leggere davvero un'azienda nell'UE o nel Regno Unito

Nulla di tutto ciò cambia quello che un'azienda che lavora sui modelli di OpenAI, Anthropic o xAI dovrebbe fare oggi, perché nessuna delle tre ha indicato qualcosa che entri in vigore. Microsoft è l'eccezione. Il codice di condotta aperto alla consultazione il 14 settembre è il primo risultato concreto di tutto questo scambio, e riguarda direttamente qualsiasi azienda nell'UE o nel Regno Unito che usi Copilot, Azure AI o un modello MAI proprietario, non una regola futura ipotetica. Una consultazione pubblica è anche l'unico punto del processo in cui il commento di un cliente può ancora influenzare il risultato, prima che il documento si trasformi in una clausola contrattuale fissa o in una semplice casella di conformità.

La lezione più ampia va oltre questa singola settimana. Quando un fornitore dice di sostenere il rallentamento, l'allineamento o la sicurezza in astratto, il test concreto non è la dichiarazione, ma se quel fornitore ha prodotto qualcosa a cui un cliente, un revisore o un regolatore possano davvero fare riferimento in seguito. Questa settimana, tre aziende hanno superato quel test con una frase e una lo ha superato con un documento. Chi valuta d'ora in poi le promesse di sicurezza di qualsiasi fornitore IA ha una domanda semplice da fare: dov'è il documento.

Da leggere ora: Nvidia è scesa del 3%. Trump ha chiamato l'ad in diretta.  |  Microsoft ha diviso la bolletta IA in due contatori