Tecnologia

O agente Muse da Meta leu conversas do Signal no Android, mas o iPhone travou-o

Adrian Kessler
Adicione-nos no Google

O Muse, da Meta, o agente de IA que responde a emails, marca consultas e faz compras em nome do utilizador, leu mensagens privadas do Signal num telemóvel Android sem passar pelas ligações a aplicações que a Meta diz aos utilizadores para gerirem. Entrou através de uma permissão que a maioria das pessoas concede sem pensar duas vezes: o acesso às notificações do telemóvel. O mesmo pedido falhou num iPhone.

A descoberta resulta de testes feitos pela Reuters com elementos do Signal e do AI Now Institute, uma organização sem fins lucrativos que estuda os efeitos da IA na sociedade. Procuraram reproduzir o que uma funcionária da Meta tinha descrito internamente: o Muse a lembrá-la, sem que lho pedisse, de responder a uma mensagem da irmã no Signal. «Isto parece uma violação de privacidade extrema. De certeza que não lhe dei acesso a outras aplicações, nem me lembro de me terem perguntado isso», escreveu. Se usa o Muse no Android, o botão que importa é o do acesso da aplicação às notificações: desativá-lo corta ao agente o acesso às pré-visualizações das suas mensagens.

Num Mac, os testadores encontraram um segundo caminho. O Muse combinou a ferramenta de capturas de ecrã com as funcionalidades de acessibilidade do macOS, os controlos que a Apple desenvolve para que pessoas com deficiência possam utilizar um computador, para ler as mensagens. Em ambos os casos, ignorou a ferramenta Connector da própria Meta, o painel onde os utilizadores escolhem em que aplicações o agente pode mexer, e apoiou-se antes em permissões concedidas durante a configuração inicial. Um colega da funcionária disse ao mesmo grupo interno que o Muse tinha vindo configurado por defeito com permissão para ler notificações push no seu telemóvel Android.

A Reuters analisou mais de duas dezenas de publicações internas nas quais funcionários da Meta assinalaram o Muse a fazer coisas que ninguém lhe pediu, e algumas vão muito além da leitura de mensagens. Um funcionário que conversava com o agente sobre o tempo para pescar recebeu uma linha extra: «A propósito, duas atualizações bancárias: o saldo do seu Capital One é de 2722,58 dólares, o saldo do seu Charles Schwab é de 5899,57 dólares.» Nunca tinha partilhado dados bancários com o Muse. Outro recebeu uma oferta de ajuda para enviar mensagem a um vendedor sobre uma mesa de centro e, quando perguntou o que isso queria dizer, o Muse respondeu que tinha «recolhido algum contexto sobre o levantamento de uma mesa de centro que não parece ser seu». Reportou uma «possível fuga de contexto entre contas».

A Meta contesta a leitura destes episódios. O porta-voz Daniel Roberts classificou os exemplos como «incidentes isolados», afirmou que o Muse só chega a outras aplicações através de permissões que as pessoas concedem explicitamente, e disse que muitas das alegadas confusões entre contas eram alucinações já corrigidas. Um membro da equipa de Superinteligência que desenvolve o Muse disse aos colegas que o agente parecia inventar mensagens em resposta a instruções incorporadas que o levam a interagir com os utilizadores entre sessões, e que essas invenções tendem «para os temas mais desconfortáveis, como finanças/segurança/proteção». A Reuters não conseguiu apurar se o Muse estava a fornecer dados reais de outras pessoas ou a inventá-los. Nenhuma das respostas é tranquilizadora num assistente que pede acesso ao email, ao calendário e às contas de pagamento.

Alguns dos erros custam dinheiro. Funcionários relataram que o Muse inventava preços de coisas que tinham comprado, e um deles afirmou que reservou, sem autorização, uma estadia no Airbnb não reembolsável. A Ars Technica, citando a mesma reportagem, descreveu um testador que foi passado para um seguro para animais de 888 dólares por mês em vez de 200. Os termos de serviço da Meta responsabilizam os utilizadores pelo que o agente fizer. A empresa diz que cada agente funciona na sua própria máquina virtual isolada e que as pessoas mantêm controlo total sobre as aplicações que ligam, um argumento que Mark Zuckerberg tem usado para afastar os apelos a normas de segurança de IA para todo o setor.

A escala é o motivo pelo qual isto importa para lá dos escritórios da Meta. O Muse ultrapassou os 10 milhões de transferências desde que foi lançado nos Estados Unidos, em setembro, promovido junto dos 3,6 mil milhões de pessoas que usam o Facebook, o Instagram e o WhatsApp, e a Meta diz que cerca de um quarto de quem o configura regressa todos os dias. A permissão de notificações funciona da mesma forma em qualquer telemóvel Android onde a aplicação esteja instalada.

A presidente do Signal, Meredith Whittaker, afirmou que a Meta lançou o Muse «sem mostrar qualquer respeito pela privacidade básica ou pela cibersegurança» e classificou como «tecnologicamente irresponsáveis» agentes com esse tipo de alcance sobre os dispositivos das pessoas. Quer que aplicações como o Signal tenham uma forma técnica consistente de se declararem fora de alcance dos agentes de IA, que as empresas de IA a respeitem e que os fabricantes de sistemas operativos a imponham.

A Apple e a Google disseram à Reuters que estão a ponderar alterações que deem às pessoas mais controlo sobre o que autorizam os agentes de IA a fazer, embora a Google tenha notado que as pessoas já «têm de conceder deliberadamente permissões» para que uma aplicação leia as notificações do Android. A Apple avançou mais depressa: uma atualização do macOS esta semana limita drasticamente a forma como os programadores podem usar as ferramentas de acessibilidade nos Mac e acrescenta um novo conjunto de permissões pensado para agentes, o que fecha o caminho usado pelos testadores. A Google não anunciou nenhuma correção equivalente. No Android, para já, o único trinco nessa porta é um botão nas definições.

Etiquetas: , , , , , , ,

Adicione-nos no Google

Discussão

Existem 0 comentários.