Cosa ha deciso davvero il tribunale di Monaco

Per anni si è dato per scontato che un assistente AI si limitasse a mostrare ciò che era già presente sul web, e che la responsabilità restasse in capo alla fonte originale. Il Tribunale regionale di Monaco ha respinto questa tesi. Ha stabilito che le AI Overviews di Google generano dichiarazioni autonome, nuove e sostanziali valutando e combinando contenuti di terzi, e che solo Google può controllare quelle dichiarazioni prima che compaiano. Il tribunale ha emesso un'ingiunzione cautelare che vieta a Google di ripetere affermazioni false su due case editrici, sotto la minaccia di una sanzione fino a 250.000 euro.

La distinzione conta più delle parti coinvolte. Un elenco di link con citazioni rimanda altrove. Una risposta dell'AI parla con voce propria. Nel momento in cui un sistema compone un'affermazione nuova, il tribunale ha trattato l'operatore come l'autore di quell'affermazione. È questa la linea sul cui lato sbagliato si trova oggi, per impostazione predefinita, la maggior parte delle imprese che adottano l'AI.

Perché questo va ben oltre Google

La sentenza è una delle prime in Europa a ritenere un operatore AI direttamente responsabile per contenuti generati dall'AI, e la logica non dipende da Google. Un chatbot di assistenza che definisce fraudolento un concorrente, un assistente alle vendite che inventa una caratteristica di prodotto, uno strumento interno che afferma qualcosa di falso su un fornitore: ciascuno produce una dichiarazione nuova che solo l'operatore può controllare. Secondo il ragionamento di Monaco, ne risponde l'operatore.

Google ha sostenuto che chiunque avrebbe potuto smentire la dichiarazione con ulteriori ricerche. Il tribunale ha ritenuto che la possibilità di confutare un'affermazione di norma non elimina la responsabilità per averla fatta. Per ogni azienda che ha messo in produzione un assistente AI partendo dal presupposto che a portare il rischio sia il modello e non l'impresa, quel presupposto è ora un'esposizione documentata.

Cosa dovrebbe fare ora un'azienda seria

Tratta ogni output AI rivolto ai clienti come contenuto pubblicato, perché ora lo fa anche un tribunale europeo. Questo significa sapere esattamente dove la tua AI genera affermazioni libere su persone, aziende o fatti, quali salvaguardie sono poste a monte di quegli output e chi è responsabile quando uno di essi è sbagliato. La maggior parte delle organizzazioni oggi non sa rispondere a queste tre domande, ed è questa la vera lacuna che la sentenza mette in luce.

La soluzione non è spegnere l'assistente. È mappare l'esposizione: censire i sistemi che parlano a tuo nome, limitarli dove il costo di una risposta sbagliata è alto e documentare i controlli, in modo che la responsabilità sia gestita anziché scoperta in tribunale. Affrontato per tempo, è un compito di governance. Affrontato in ritardo, è una lezione da 250.000 euro.

Da leggere ora: Il tuo agente IA ora può spendere i tuoi soldi. La parte difficile è tutto ciò che accade dopo.  ·  Ora esiste un riferimento condiviso per la sicurezza dell'IA. Ecco perché riguarda i tuoi acquisti.