Vad som förändrades när agenter fick en plånbok

Fram tills nu kunde en AI-agent förbereda beställningen men en människa tryckte på köp. Överenskommelsen mellan OpenAI och Visa tar bort det steget: agenter kan handla för en användares räkning, med en uppsättning regler som ska hålla utgifterna inom ramen. Det är en liten produktförändring med en stor konsekvens. Agenten gick från att rådge till att agera, och att agera med pengar är något helt annat.

En assistent som ger ett felaktigt svar skapar ett dåligt beslut. En agent som gör ett felaktigt köp skapar en transaktion, en återbetalning, en återkravning och en fråga om vem som godkände den. Funktionen är genuint användbar. Det som de flesta nyhetsrapporter hoppar över är att den flyttar risken från skärmen till bankkontot.

De frågor som en plånbok tvingar fram

Tre frågor hamnar längst fram i samma stund som en agent kan betala. Vad får den spendera, och mot vems gräns. Hur godkänns varje köp, och kan det godkännandet förfalskas eller framtvingas genom en manipulerad instruktion. Och när en debitering är felaktig, vem bär den: användaren, plattformen eller företaget vars agent fattade beslutet. Ingen av dessa har ännu något avgjort svar.

För ett företag är detta klyftan i agentstyrning med en prislapp på. Att driftsätta en agent utan godkännande var redan en tyst risk. Att driftsätta en som kan flytta pengar utan strikta gränser, loggning och en tydlig ansvarslinje förvandlar den risken till ett belopp på ett kontoutdrag.

Hur du inför detta utan att bränna dig

Möjligheten är verklig, så svaret är inte att förbjuda transaktionsagenter. Det är att behandla utgiftsbefogenhet så som ett seriöst företag behandlar all annan delegerad befogenhet: med uttryckliga gränser, fullständiga revisionsspår och en utpekad ägare. En agent bör ha en budget, ett tillämpningsområde och ett register över varje åtgärd, precis som en junior medarbetare med ett företagskort skulle ha.

Sätt de kontrollerna innan funktionen är i drift, inte efter att en bestridd debitering tvingar fram en panikartad insats. De företag som inför agentbetalningar väl kommer att vara de som bestämde skyddsräcket först. Funktionen kom den här veckan. Kontrollen är den del du själv måste bygga.

Läs vidare: En domstol slog just fast att din AI:s svar är dina ord. Ansvaret är nu ditt.  ·  Det finns nu en gemensam referens för AI-säkerhet. Här är varför den når din upphandling.