Hvad ændrede sig, da agenter fik en pung

Indtil nu kunne en AI-agent udarbejde ordren, men et menneske trykkede på køb. Aftalen mellem OpenAI og Visa fjerner det trin: agenter kan købe på brugerens vegne, med et sæt regler der skal holde forbruget inden for rammerne. Det er en lille produktændring med en stor konsekvens. Agenten gik fra at rådgive til at handle, og at handle med penge er noget helt andet.

En assistent, der giver et forkert svar, skaber en dårlig beslutning. En agent, der foretager et forkert køb, skaber en transaktion, en tilbagebetaling, en tilbageførsel og et spørgsmål om, hvem der autoriserede den. Funktionen er reelt nyttig. Det de fleste artikler springer over er, at den flytter risikoen fra skærmen til bankkontoen.

De spørgsmål en pung tvinger frem

Tre spørgsmål rykker forrest i det øjeblik en agent kan betale. Hvad må den bruge, og op mod hvis grænse. Hvordan autoriseres hvert køb, og kan den autorisation forfalskes eller fremtvinges gennem en manipuleret instruktion. Og når en betaling er forkert, hvem bærer den: brugeren, platformen eller den virksomhed, hvis agent traf valget. Ingen af dem har et afklaret svar endnu.

For en virksomhed er dette hullet i agentstyringen med en prismærkat på. At indsætte en agent uden godkendelse var allerede en stille risiko. At indsætte en, der kan flytte penge uden stramme grænser, logning og en klar ansvarslinje, forvandler den risiko til et tal på en kontoudskrift.

Sådan tager du det til dig uden at brænde fingrene

Muligheden er reel, så svaret er ikke at forbyde agenter, der gennemfører transaktioner. Det er at behandle forbrugsbemyndigelse, som en seriøs virksomhed behandler enhver anden delegeret bemyndigelse: med udtrykkelige grænser, fulde revisionsspor og en navngiven ejer. En agent bør have et budget, et omfang og en optegnelse over hver eneste handling, præcis som en yngre medarbejder med et firmakort ville have.

Fastlæg de kontroller, før skinnerne er i drift, ikke efter en omtvistet betaling fremtvinger en hektisk indsats. De firmaer, der tager agentbetalinger til sig på den rigtige måde, bliver dem, der besluttede sikkerhedsforanstaltningerne først. Funktionen ankom i denne uge. Kontrollen er den del, du selv skal bygge.

Læs videre: En domstol har netop fastslået, at din AI's svar er dine ord. Ansvaret er nu dit.  ·  Der findes nu en fælles reference for AI-sikkerhed. Her er hvorfor den når helt frem til dit indkøb.