Cosa è cambiato quando gli agenti hanno ottenuto un portafoglio
Fino ad ora un agente IA poteva preparare l'ordine, ma era un essere umano a premere il pulsante di acquisto. L'accordo tra OpenAI e Visa elimina quel passaggio: gli agenti possono acquistare per conto dell'utente, con una serie di regole pensate per mantenere la spesa entro certi limiti. È una piccola modifica di prodotto con una grande conseguenza. L'agente è passato dal consigliare all'agire, e agire con il denaro è una cosa completamente diversa.
Un assistente che fornisce una risposta sbagliata genera una decisione sbagliata. Un agente che effettua un acquisto sbagliato genera una transazione, un rimborso, uno storno e la domanda su chi lo abbia autorizzato. La funzionalità è davvero utile. Il punto che la maggior parte degli articoli tralascia è che essa sposta il rischio dallo schermo al conto bancario.
Le domande che un portafoglio impone
Tre domande passano in primo piano nel momento in cui un agente può pagare. Cosa gli è consentito spendere, e a carico del limite di chi. Come viene autorizzato ogni acquisto, e se quell'autorizzazione possa essere falsificata o forzata tramite un'istruzione manipolata. E quando un addebito è sbagliato, chi lo sostiene: l'utente, la piattaforma o l'azienda il cui agente ha preso la decisione. Nessuna di queste domande ha ancora una risposta definitiva.
Per un'azienda, questo è il divario nella governance degli agenti con un cartellino del prezzo attaccato. Implementare un agente senza approvazione era già una passività silenziosa. Implementarne uno capace di muovere denaro senza limiti rigorosi, registrazione delle attività e una chiara linea di responsabilità trasforma quella passività in un numero su un estratto conto.
Come adottare tutto questo senza scottarsi
L'opportunità è concreta, quindi la risposta non è vietare gli agenti capaci di operare transazioni. Si tratta di trattare l'autorità di spesa come un'azienda seria tratta qualsiasi altra autorità delegata: con limiti espliciti, registri di controllo completi e un responsabile designato. Un agente dovrebbe avere un budget, un ambito di azione e una registrazione di ogni operazione, esattamente come un dipendente junior con una carta aziendale.
Definisci questi controlli prima che i circuiti siano attivi, non dopo che un addebito contestato costringa a una corsa ai ripari. Le aziende che adotteranno bene i pagamenti agentici saranno quelle che avranno deciso prima le regole di sicurezza. La funzionalità è arrivata questa settimana. Il controllo è la parte che devi costruire.
Da leggere ora: Un tribunale ha appena stabilito che le risposte della tua AI sono parole tue. Ora la responsabilità è tua. · Ora esiste un riferimento condiviso per la sicurezza dell'IA. Ecco perché riguarda i tuoi acquisti.