Co się zmieniło, gdy agenci dostali portfel

Do tej pory agent AI mógł przygotować zamówienie, ale to człowiek naciskał przycisk kup. Porozumienie między OpenAI a Visa usuwa ten krok: agenci mogą dokonywać zakupów w imieniu użytkownika, z zestawem zasad mających utrzymać wydatki w ryzach. To niewielka zmiana produktowa o dużych konsekwencjach. Agent przeszedł od doradzania do działania, a działanie z pieniędzmi to zupełnie inna sprawa.

Asystent, który daje błędną odpowiedź, tworzy złą decyzję. Agent, który dokonuje błędnego zakupu, tworzy transakcję, zwrot, obciążenie zwrotne i pytanie o to, kto to autoryzował. Ta możliwość jest naprawdę użyteczna. Punkt, który większość relacji pomija, to fakt, że przenosi ona ryzyko z ekranu na konto bankowe.

Pytania, które wymusza portfel

Trzy pytania wysuwają się na pierwszy plan w chwili, gdy agent może płacić. Ile wolno mu wydać i z czyjego limitu. Jak autoryzowany jest każdy zakup i czy ta autoryzacja może zostać sfałszowana lub wymuszona przez zmanipulowaną instrukcję. Oraz gdy obciążenie jest błędne, kto je ponosi: użytkownik, platforma czy firma, której agent podjął decyzję. Żadne z nich nie ma jeszcze ustalonej odpowiedzi.

Dla firmy to luka w nadzorze nad agentami z dołączoną metką cenową. Wdrożenie agenta bez zatwierdzenia było już cichą odpowiedzialnością. Wdrożenie takiego, który może poruszać pieniędzmi bez ścisłych limitów, rejestrowania i jasnej linii odpowiedzialności, zamienia tę odpowiedzialność w liczbę na wyciągu.

Jak przyjąć to, nie parząc się

Szansa jest realna, więc odpowiedzią nie jest zakazanie agentom dokonywania transakcji. Jest nią traktowanie uprawnienia do wydatków tak, jak poważna firma traktuje każde inne delegowane uprawnienie: z wyraźnymi limitami, pełnymi ścieżkami audytu i wyznaczonym właścicielem. Agent powinien mieć budżet, zakres i zapis każdego działania, dokładnie tak jak młodszy pracownik z kartą firmową.

Ustaw te mechanizmy kontroli, zanim tory będą aktywne, a nie po tym, jak zakwestionowane obciążenie wymusi paniczne działanie. Firmy, które dobrze przyjmą płatności agentowe, będą tymi, które najpierw zdecydowały o zabezpieczeniach. Możliwość pojawiła się w tym tygodniu. Kontrola to część, którą musisz zbudować.

Czytaj dalej: Sąd właśnie orzekł, że odpowiedzi twojej AI to twoje słowa. Odpowiedzialność teraz spoczywa na tobie.  ·  Istnieje już jeden wspólny punkt odniesienia dla bezpieczeństwa AI. Oto dlaczego sięga do twoich zakupów.