La difesa secondo cui l'agente ha agito da solo si sta chiudendo
Per un certo periodo, la comoda ipotesi era che un sistema autonomo non fosse chiara responsabilità di nessuno. Quel vuoto si sta chiudendo. La AB 316 della California, in vigore dal 1 gennaio 2026, vieta a un imputato che abbia sviluppato, modificato o utilizzato un sistema IA di sostenere che il sistema abbia causato il danno in modo autonomo. La legge non introduce una nuova responsabilità oggettiva - chi agisce in giudizio deve comunque provare che l'IA ha causato un danno prevedibile - ma elimina la via di fuga di incolpare la macchina come soggetto distinto.
Il Regno Unito è giunto alla stessa destinazione per una strada più diretta. Il 9 marzo 2026 la Competition and Markets Authority ha pubblicato linee guida in cui afferma che le stesse regole si applicano sia che si utilizzino agenti IA sia agenti umani, e che si è responsabili di ciò che fa un agente IA allo stesso modo in cui si è responsabili di ciò che fa un dipendente. Fondamentale è che le linee guida aggiungono che ciò vale anche se qualcun altro ha progettato o fornisce l'agente per conto dell'azienda. Due sistemi giuridici diversi, un messaggio coerente per l'azienda che lo mette in produzione.
Un attacco di un terzo non sposta la perdita dai tuoi libri contabili
Il caso più complesso è quando l'agente non si limita a sbagliare, ma viene manipolato. Gli analisti legali descrivono il prompt-injection steering, in cui inserzioni, annunci, recensioni o contenuti di pagina compromessi spingono un agente verso il venditore sbagliato, quantità gonfiate o un prezzo più alto. È allettante considerarlo colpa di un terzo. Secondo l'impostazione delle autorità non funziona così: se l'agente che hai messo in produzione fa qualcosa che viola la normativa a tutela del consumatore, la responsabilità di gestirlo è tua, allo stesso modo in cui risponderesti per un dipendente ingannato sul lavoro.
Per questo la supervisione è ora un obbligo concreto piuttosto che un optional. Le linee guida della CMA si attendono un essere umano realmente coinvolto nel processo, che verifichi attivamente che l'agente si comporti come previsto e rispetti la legge, oltre a un monitoraggio regolare delle sue prestazioni. Un agente che effettua pagamenti o parla con i clienti senza una persona in grado di intercettare e correggere i suoi errori non è solo un rischio operativo: è un'esposizione che hai accettato sul fronte rivolto al cliente.
Il tuo fornitore ha probabilmente già escluso il costo
Ed è qui che molti titolari vengono colti di sorpresa. L'azienda che ha costruito o fornisce il tuo agente di solito ha redatto il contratto in modo da scaricare il rischio. Clifford Chance ha osservato nel febbraio 2026 che i fornitori in genere forniscono il software così com'è, escludendo accuratezza, affidabilità e idoneità all'uso, e che molte condizioni IA stabiliscono che non ci si debba affidare ai risultati prodotti. Se l'agente assegna un prezzo errato a un prodotto, autorizza per errore un pagamento a un fornitore o invia un messaggio fuorviante, le esclusioni del fornitore spesso lo sollevano da ogni responsabilità, mentre le autorità lasciano fermamente la responsabilità a te.
Le esclusioni tendono a coprire esattamente i danni che un agente difettoso produce: mancati profitti, sanzioni regolamentari, interruzione dell'attività e danno reputazionale. Quindi, prima di un incidente, vale la pena verificare tre cose in termini chiari. Chi sostiene effettivamente la perdita lungo la catena contrattuale quando l'agente sbaglia. Se la tua supervisione sia abbastanza reale da soddisfare un'autorità. E se sei in grado di produrre prove di ciò che è accaduto - la provenienza dell'ordine, i passaggi di conferma, la prova di consegna - qualora un cliente in seguito contesti ciò che l'agente ha fatto a suo nome.
Da leggere ora: La tua spesa per l'AI non ha più un tetto · Scegli il livello in base al compito