La frase che nessuno doveva vedere

A giugno, una collaboratrice dell'ufficio della deputata Anna Paulina Luna, repubblicana della Florida, ha aggiunto testo generato dall'IA per correggere la sintesi di un emendamento. La versione pubblicata conteneva ancora le parole "Claude responded", la risposta stessa del chatbot, dentro il testo pubblico.

Luna in seguito ha riconosciuto apertamente l'accaduto: il suo staff ha usato l'IA per correggere una bozza e non ha modificato il risultato prima della pubblicazione. L'errore è diventato pubblico perché nessuno ha letto la versione finale con abbastanza attenzione da notare tre parole che non avevano posto in un testo legislativo federale.

Perché l'Ufficio Legislativo è sommerso

L'episodio è un sintomo visibile di uno schema molto più ampio dentro il House Office of Legislative Counsel, i giuristi non di parte che trasformano idee politiche in testo di legge. Secondo interviste con otto funzionari attuali ed ex riportate da Politico, uffici del Congresso e gruppi di pressione esterni si rivolgono sempre più direttamente a Claude o ChatGPT per scrivere il testo legislativo stesso, prima di consegnarlo all'ufficio per la revisione.

L'IA può generare quel testo molto più in fretta di quanto qualsiasi team di legali potrebbe scriverlo, il che significa che i legali dell'ufficio ora passano molto più tempo a riscrivere bozze difettose di quanto ne passassero a scrivere da zero, e l'arretrato cresce ogni volta che arriva una nuova bozza assistita dall'IA con lo stesso tipo di errore già dentro.

Ciò che l'IA non può giudicare

I fallimenti segnalati non sono refusi, sono errori di categoria legale che cambiano come funziona una legge una volta approvata. I revisori hanno descritto bozze IA incapaci di distinguere se uno stanziamento dovesse essere strutturato legalmente come credito d'imposta, deduzione fiscale, esenzione fiscale o sussidio, quattro strumenti con regole di ammissibilità diverse, agenzie diverse che li applicano e conseguenze diverse per le persone che la legge dovrebbe aiutare.

Norme citate male e definizioni legali sbagliate dentro una legge non restano confinate alla pagina, possono innescare cause legali, ritardare l'approvazione di una legge, o essere scoperte solo quando la legge è già in vigore, momento in cui correggerla richiede un intero nuovo iter legislativo.

La decisione che ogni team ignora

La lezione vale ben oltre il Congresso. Qualsiasi organizzazione che ha adottato l'IA generativa per testi legali, contrattuali o di conformità sta conducendo lo stesso esperimento: lo strumento rende produrre una prima bozza quasi gratuito, e questa velocità spinge in silenzio i revisori a dedicare meno tempo al controllo, proprio quando il controllo conta di più.

L'episodio nell'ufficio Luna è la versione economica di questo fallimento, una correzione pubblica imbarazzante ma superabile. In un contratto, una comunicazione normativa o una legge già approvata, lo stesso passaggio di revisione saltato produce un errore che nessuno nota finché non diventa costoso. La decisione che conta non è se usare l'IA per scrivere, è se la revisione mantiene lo stesso rigore che aveva prima che scrivere diventasse gratis.

Da leggere ora: Google ha buttato un modello di IA quasi finito  |  Il prompt che guida la vostra azienda non ha proprietario