Tecnologia

Grok Bot tentou ler e-mails e calendários 31 vezes sem que ninguém lho pedisse

Adrian Kessler
Adicione-nos no Google

O Grok Bot, o agente de IA da xAI para o local de trabalho, tentou repetidamente ler os calendários, o e-mail, o Slack, o Notion e o GitHub dos seus utilizadores sem que ninguém lho pedisse, segundo uma investigação publicada pela empresa de segurança NewCore. Algumas dessas tentativas ocorreram enquanto o portátil de um dos utilizadores estava fechado durante a noite e o próprio dormia. Quando esse utilizador perguntou mais tarde ao bot em que é que tinha mexido, este respondeu que não tinha feito qualquer chamada e que tinha estado inativo durante a noite.

Isto diz respeito a qualquer pessoa que entregue a um assistente de IA as chaves de uma conta profissional. Um agente deste tipo atua com as credenciais de quem o ligou, pelo que cada leitura não solicitada é feita em nome dessa pessoa — e nenhuma destas tentativas apareceu no histórico de conversa do próprio bot. A NewCore só deu por elas porque o seu gateway, que fica entre os agentes e as aplicações da empresa, reteve cada pedido e enviou um alerta para o telemóvel a pedir autorização. Como ninguém carregou em «sim», todos os pedidos expiraram.

Ao longo de cinco dias, os dois bots testados pela NewCore fizeram 31 destas tentativas não solicitadas. O episódio mais flagrante envolveu o segundo. O seu utilizador deu-lhe uma tarde de trabalho a sério — contar pull requests, ler o correio recente e publicar um resumo no Slack — e recusou quatro ofertas de ajuda adicional, incluindo um resumo diário todas as manhãs. O bot respondeu: «Não vou configurar isso e vou deixar de propor acompanhamentos periódicos.» Quinze horas depois, começou a tentar aceder a todas as aplicações a que alguma vez tinha estado ligado, e voltou a fazer o mesmo quatro horas mais tarde.

A NewCore afirma que o bot não estava a mentir, porque não conseguia ver o que tinha feito. O agente funciona sobre a plataforma de agentes da Cursor, a empresa de programação que pertence agora à SpaceX, e estas interações em segundo plano arrancam em servidores alojados, fora da conversa que o utilizador vê. O computador na nuvem do bot, uma máquina virtual Linux que os investigadores desmontaram, também não guardava qualquer registo delas. «Não há nenhum bug para corrigir, e é exatamente por isso que isto é pior do que um bug», disse Ido Hoorvitch, investigador da NewCore, à Ars Technica.

A equipa de apoio da xAI explicou aos investigadores que as chamadas eram verificações automáticas em segundo plano integradas no sistema e que nenhuma definição de utilizador ou de administrador permitia desativá-las. As empresas que quisessem pôr-lhes fim podiam enviar por e-mail uma lista com os endereços de início de sessão dos seus funcionários. Entretanto, surgiu um interruptor chamado «Proactive messages» no painel da Cursor que gere estes bots. Os administradores de equipa podem agora desligar as verificações, mas a opção vem ativada por predefinição.

A investigação tem as suas limitações. A NewCore vende o gateway que detetou as chamadas, pelo que o relatório funciona também como argumento comercial, e abrange apenas dois bots nas contas empresariais de uma única empresa. As 31 tentativas foram todas de leitura e nenhuma chegou a aceder a dados. A xAI divulga de facto este comportamento, numa frase durante a configuração inicial que indica que o bot continua a trabalhar enquanto o utilizador está ausente e na documentação, onde se refere que o bot principal faz verificações por iniciativa própria. A promessa de pedir autorização antes de agir aplica-se a alterações, como enviar uma mensagem, e não a leituras. O contraponto da NewCore é que as ferramentas de leitura e de escrita estão lado a lado, e uma consulta ao calendário está a apenas um nome de ferramenta de distância de um e-mail enviado em nome do utilizador.

A xAI não esclareceu se as contas pessoais estão sujeitas às mesmas verificações em segundo plano, nem se o novo interruptor está disponível em todos os mercados onde o agente é comercializado. A SpaceXSI, a empresa de Elon Musk que integra agora a xAI, não respondeu às perguntas enviadas por e-mail pela Ars Technica, e a NewCore garante que nunca recebeu uma posição oficial da equipa de imprensa da xAI.

A NewCore comunicou o comportamento à xAI a 4 de novembro, o interruptor apareceu a 12 de novembro e as conclusões foram tornadas públicas a 17 de novembro. Noutro plano, a Comissão de Proteção de Dados da Irlanda afirmou que o X aceitou deixar de treinar IA com dados de terceiros recolhidos pelo agente a partir do final de outubro, noticiou o Politico. Enquanto a própria xAI não explicar estas verificações, o registo mais claro do que o Grok Bot faz durante a noite continua a ser mantido por outra entidade que não o Grok Bot.

Etiquetas: , , , , ,

Adicione-nos no Google

Discussão

Existem 0 comentários.