Tecnologia

Novos termos do Wells Fargo põem o cliente a pagar os erros do seu agente de IA

Susan Hill
Adicione-nos no Google

O Wells Fargo está a reescrever o contrato que rege a sua aplicação e o seu site, de modo a que tudo o que um agente de IA externo faça na conta de um cliente conte como ato do próprio cliente. O banco afirma que vai seguir as instruções do agente sem as verificar, que não vai vigiar o que ele faz e que tratará os erros do agente como erros do cliente. «A utilização de qualquer AI Agent é POR SUA CONTA E RISCO», lê-se nos novos termos, em maiúsculas.

Para quem já entregou a palavra-passe bancária a um bot de compras ou a um assistente de orçamento, muda quem paga quando o software falha. Um pagamento duplicado, uma encomenda feita dez vezes ou uma transferência desencadeada por uma página web armadilhada ficariam a cargo do titular da conta e não do banco, salvo se a lei dispuser de outro modo. Ninguém tem de assinar nada: os clientes que continuarem a usar o banco online depois da alteração são considerados como tendo aceitado. «Os consumidores autorizam objetivos, não cada clique», disse à Wired Kacy Kim, professora de marketing na Bryant University que estuda o comportamento do consumidor.

A definição é ampla. O Wells Fargo chama «AI Agent» a qualquer software que execute «ação autónoma, semiautónoma ou não autónoma» em nome de alguém, o que vai muito além dos chatbots vendidos como assistentes pessoais. O cliente suporta o custo de um agente que interprete mal as instruções, faça coisas que ninguém pediu, atue com base em «manipulated inputs» (dados manipulados) ou ultrapasse a autoridade que lhe foi dada. Os agentes geridos por pessoas a quem o cliente permita o acesso à conta ficam sujeitos às mesmas regras, e nenhum menor de 18 anos pode ligar um agente.

Desligar um agente é também tarefa do cliente. Os termos determinam que os clientes têm de revogar eles próprios o acesso, guardar provas de que o fizeram e entregá-las se o banco as pedir. Enquanto não informarem o Wells Fargo, continuam responsáveis por tudo o que o agente fizer. Isto segue a lógica da norma norte-americana sobre transferências eletrónicas, a Regulation E, que trata como autorizadas as transferências feitas por quem recebeu o cartão ou as credenciais de acesso, até que o cliente peça ao banco para as travar.

O Wells Fargo continua a deixar entrar agentes, o que o coloca no extremo mais permissivo de um setor que está a fechar a porta. O JPMorgan Chase alterou os seus termos para proibir agentes de terceiros que iniciem sessão com as credenciais de um cliente, o Bank of America avisou os clientes para não partilharem os dados de acesso com agentes, e o Citibank e o PNC acrescentaram avisos próprios, segundo a Wired. O Morgan Stanley bloqueou agentes de terceiros nas suas plataformas, noticiou o Axios. O Wells Fargo manteve o direito de cortar as ligações que os agentes utilizam ou de bloquear qualquer agente.

A resistência vai além da banca. A Amazon bloqueou o agente Muse, da Meta, de fazer compras na sua loja, e a United Airlines afirmou que os bots pessoais não poderão comprar voos em nome dos viajantes. A American Express é a rara exceção no relato da Wired: disse que alguns erros de agentes, como encomendar demasiadas unidades de um artigo, poderão vir a ser elegíveis para reembolso, se o comprador não conseguir recuperar o dinheiro junto do retalhista.

Não é claro até que ponto a nova redação muda as coisas na prática. As suas cláusulas remetem repetidamente para «a lei ou regulamentação», e nenhum tribunal decidiu ainda quem suporta a perda quando um agente que o cliente ativou faz algo que o cliente nunca pretendeu. O público é, além disso, reduzido. «Todos os nossos dados indicam que a maioria das pessoas nem sabe o que são agentes, quanto mais usá-los», disse à Wired a analista da Forrester Sucharita Kodali. E os bancos não são contra os agentes em si. «Estão a trancar a porta aos agentes externos e a construir os seus próprios», afirmou Luca Cian, professor da University of Virginia que estuda psicologia do consumidor e IA. O assistente de IA generativa do próprio Wells Fargo já tratou mais de mil milhões de interações.

Os novos termos aplicam-se apenas aos clientes da banca online e móvel do Wells Fargo nos Estados Unidos, e todos os bancos mencionados até agora são norte-americanos. Na União Europeia, as regras de pagamentos já empurram as aplicações que leem ou movimentam dinheiro para ligações licenciadas fornecidas pelo banco, em vez de uma palavra-passe partilhada, o que deixa menos margem para agentes que iniciam sessão como se fossem o cliente.

O contrato atualizado do Wells Fargo entra em vigor na terça-feira, 24 de novembro, e aplica-se a quem continuar a usar o site ou a aplicação do banco depois dessa data. A proibição do JPMorgan aos agentes baseados em credenciais surgiu no final de outubro, no mesmo dia em que o Bank of America enviou o seu aviso. O Wells Fargo manteve também a opção de obrigar os clientes a registar os seus agentes junto do banco, o que lhe daria uma lista dos bots que diz não vigiar.

Etiquetas: , , , , ,

Adicione-nos no Google

Discussão

Existem 0 comentários.