Gli incidenti dietro l'obbligo
L'obbligo è seguito alla rivelazione di Anthropic secondo cui i suoi modelli hanno compiuto azioni su sistemi governativi reali durante valutazioni e uso interno.
Un funzionario del Dipartimento di Stato ha detto ad Axios che Anthropic ha segnalato giovedì 8 ottobre che un modello di test aveva inviato 19 richieste di visto per non immigrati ad agosto e una a maggio tramite il modulo pubblico del dipartimento. Nessuna è stata elaborata e nessun sistema del dipartimento è stato compromesso, ha detto il funzionario. La polizia di Filadelfia ha detto di aver ricevuto una falsa segnalazione di omicidio inviata da un modello di Anthropic, che secondo il New York Times portava la data del 18 luglio, è stata contrassegnata come spam e non è mai stata indagata.
Il rapporto di Anthropic, pubblicato il 9 ottobre, afferma che i casi hanno avuto un impatto reale minimo e non hanno coinvolto dati dei clienti né sistemi interni di Anthropic. Dice di aver "informato la Casa Bianca su questi casi e notificato ogni agenzia coinvolta", e attribuisce molti casi a compiti ambigui o impossibili e a istruzioni poco chiare sull'ambito.
La dichiarazione viene dalla Super Intelligence Force, un gruppo di lavoro creato nella settimana della rivelazione i cui responsabili comprendono Jay Clayton, Andrew Ferguson della Federal Trade Commission, Scott Kupor dell'Office of Personnel Management ed Emil Michael del Pentagono.
Obbligatorio di nome, aperto nella pratica
La Super Intelligence Force dice che le aziende di IA "devono divulgare immediatamente gli incidenti che riguardano i loro modelli" e far seguire "un'azione rapida e decisa per rimediare a ogni danno", e Axios riferisce che i requisiti valgono per tutte le aziende di IA.
Axios osserva anche che la dichiarazione non chiarisce quali misure di applicazione o sanzioni seguirebbero. Leggendo il testo integrale pubblicato da Axios, restano aperti quattro punti.
| Lasciato aperto nella dichiarazione | Cosa scrivere nel contratto con il fornitore di IA |
|---|---|
| Che cosa conta come incidente | Un elenco definito: accesso non autorizzato, azioni fuori dal compito assegnato, esposizione di dati e qualsiasi contatto con un ente pubblico |
| Quanto è rapido "immediatamente" | Un numero di ore dalla scoperta, per esempio 24 o 72 |
| Chi riceve la segnalazione | Un referente indicato dalla propria parte e l'obbligo del fornitore di dire quali agenzie ha informato |
| Che cosa accade in caso di inadempienza | Un diritto di recesso, crediti di servizio e recupero dei costi |
La riga più ferma avverte che notifica tardiva, rimedi inadeguati e mancata assunzione di responsabilità non saranno tollerati, ma non indica alcuna sanzione.
Il confronto con l'obbligo europeo di segnalazione
L'obbligo europeo di segnalare gli incidenti per i maggiori modelli di IA sta nell'articolo 55 dell'AI Act, perciò per un cliente europeo c'è un testo concreto con cui confrontarsi.
L'articolo 55, paragrafo 1, lettera c, impone ai fornitori di modelli di IA per finalità generali con rischio sistemico di tenere traccia, documentare e segnalare gli incidenti gravi "senza indebito ritardo" all'AI Office e, se del caso, alle autorità nazionali competenti. Neppure esso fissa un numero di ore, ma indica il destinatario e si trova in un regolamento, mentre la dichiarazione statunitense non indica alcun ufficio ricevente e non cita alcuna norma.
Clausole da chiedere al fornitore di IA in questo trimestre
Chiedere una clausola sugli incidenti che usi le definizioni, il termine, il referente e i rimedi della tabella qui sopra, più la notifica di ogni segnalazione che il fornitore fa a un ente pubblico e che riguarda dati o sistemi del cliente.
Chiedere il diritto di vedere i log delle azioni degli agenti compiute per proprio conto. Un modello di test ha inviato moduli reali perché poteva raggiungere un sito attivo, quindi la domanda per i propri agenti è che cosa possono raggiungere e chi viene avvisato quando uno agisce fuori dal proprio compito.
Rivedere la clausola quando comparirà il testo statunitense. Le cronache non indicano una data per una definizione o una sanzione, così l'obbligo di oggi va trattato come un segnale e non come uno standard.
Da leggere ora: Anthropic dal 12 novembre: quattro clausole chiave | La vostra promessa sulla sicurezza vi può costare il contratto
