O que mudou quando os agentes ganharam uma carteira

Até agora, um agente de IA podia preparar a encomenda, mas era um ser humano que carregava no botão de comprar. O acordo entre a OpenAI e a Visa elimina esse passo: os agentes podem comprar em nome do utilizador, com um conjunto de regras que pretende manter o gasto dentro de limites. É uma pequena mudança de produto com uma grande consequência. O agente passou de aconselhar para agir, e agir com dinheiro é algo completamente diferente.

Um assistente que dá uma resposta errada gera uma má decisão. Um agente que faz uma compra errada gera uma transação, um reembolso, um estorno e a questão de saber quem a autorizou. A funcionalidade é genuinamente útil. O ponto que a maioria da cobertura ignora é que ela desloca o risco do ecrã para a conta bancária.

As questões que uma carteira impõe

Três questões passam para primeiro plano no momento em que um agente pode pagar. O que está autorizado a gastar, e à custa do limite de quem. Como é autorizada cada compra, e se essa autorização pode ser falsificada ou forçada através de uma instrução manipulada. E quando uma cobrança está errada, quem a suporta: o utilizador, a plataforma ou a empresa cujo agente tomou a decisão. Nenhuma destas questões tem ainda uma resposta definitiva.

Para uma empresa, isto é a lacuna de governação de agentes com um custo associado. Implementar um agente sem aprovação já era uma responsabilidade silenciosa. Implementar um que pode movimentar dinheiro sem limites rigorosos, sem registo e sem uma linha clara de responsabilização transforma essa responsabilidade num número num extrato.

Como adotar isto sem se queimar

A oportunidade é real, por isso a resposta não é proibir os agentes que efetuam transações. É tratar a autoridade de gasto como uma empresa séria trata qualquer outra autoridade delegada: com limites explícitos, registos de auditoria completos e um responsável designado. Um agente deve ter um orçamento, um âmbito e um registo de cada ação, exatamente como teria um funcionário júnior com um cartão da empresa.

Defina esses controlos antes de os meios de pagamento estarem ativos, e não depois de uma cobrança contestada forçar uma correria. As empresas que adotarem bem os pagamentos por agentes serão aquelas que decidiram primeiro as salvaguardas. A funcionalidade chegou esta semana. O controlo é a parte que tem de construir.

Leia a seguir: Um Tribunal Acabou de Decidir Que as Respostas da Sua IA São as Suas Palavras. A Responsabilidade é Agora Sua.  ·  Existe Agora Uma Referência Comum para a Segurança da IA. Eis Porque Chega até às Suas Compras.