Tecnologia

OpenRouter afasta três fornecedores de IA após meses de roubo de prompts

Adrian Kessler
Adicione-nos no Google

A OpenRouter, o serviço que muitas aplicações de IA utilizam para enviar prompts para o anfitrião de modelos mais barato ou mais rápido, retirou três desses anfitriões da sua plataforma e removeu o selo Zero Data Retention (retenção zero de dados) de mais de uma centena de endpoints. O motivo foi uma experiência que plantou credenciais falsas em prompts e depois observou quem tentava usá-las. Alguns dos prompts que vazaram tinham sido marcados para nunca serem armazenados.

Se utiliza um chatbot, um assistente de programação ou uma ferramenta de escrita construída sobre o modelo de outra empresa, o seu texto pode passar por várias empresas antes de chegar uma resposta, e cada uma delas pode lê-lo na íntegra. A OpenRouter afirma que as conclusões não revelaram qualquer violação dos seus próprios sistemas. Os pontos fracos estavam mais abaixo na cadeia, nas empresas que de facto executam os modelos.

A investigação é da Dragos, uma empresa de segurança cujo diretor de investigação, HD Moore, liderou o trabalho. Ao longo de cinco meses, a sua equipa enviou perto de dois milhões de prompts, cada um com uma ligação web, uma palavra-passe de servidor ou uma chave da Amazon Web Services que não existia em mais lado nenhum. Um segredo plantado só pode ser conhecido através do prompt que o continha, pelo que qualquer utilização prova que alguém leu esse prompt. Os primeiros tokens foram disparados em poucos dias.

A conclusão mais grave foi o puro e simples roubo. Atacantes tinham invadido três fornecedores de inferência, e nenhum dos três o sabia até os investigadores o avisarem. No maior dos casos, todos os pedidos enviados a um fornecedor durante algumas janelas curtas foram copiados, incluindo pedidos que o fornecedor rejeitou antes de qualquer modelo ser executado, o que coloca o ladrão à porta de entrada e não no interior do sistema. As chaves AWS roubadas foram testadas, por vezes em poucas horas, e depois usadas para vasculhar armazenamento e cofres de segredos ao longo de dezenas de milhares de chamadas à API. Alguns dos pedidos roubados traziam a indicação de retenção zero.

Outras fugas não exigiram qualquer intrusão. Num mercado de revenda, os vendedores anunciavam modelos populares ao preço mais baixo, ativavam o registo de pedidos e guardavam tudo o que passava. Uma pessoa, a partir de uma ligação doméstica em França, retirou palavras-passe de dois prompts e tentou iniciar sessão como root por SSH, escrevendo cada tentativa à mão. Noutro caso, um laboratório chinês de IA foi buscar as ligações secretas de mais de metade dos prompts enviados aos seus modelos, incluindo cerca de dois terços dos que estavam marcados para não recolha de dados, e os anfitriões norte-americanos que revendem os seus modelos alimentaram o mesmo scraper. Uma ligação apareceu numa conversa de trabalho no Feishu, aberta a partir de seis dispositivos em Pequim e Xangai, 24 dias depois de um único pedido.

Três anfitriões publicaram comunicados. A Phala disse que um atacante assumiu o controlo de um dos seus servidores de inferência e conseguia ver os pedidos enquanto eram processados. A Together AI afirmou que um agente de programação com IA submeteu uma credencial para um repositório público do GitHub, o que permitiu a um intruso descarregar amostras de prompts armazenadas e testar as palavras-passe que continham; cinco delas eram isco dos investigadores. A Novita disse que um erro de encaminhamento enviou alguns pedidos destinados à MiniMax para o próprio serviço da MiniMax.

A limpeza tem limites evidentes. A OpenRouter não identificou os três fornecedores que removeu, a Dragos não identificou os três que encontrou comprometidos, e nenhuma das duas disse se se trata das mesmas empresas. Um dos fornecedores comprometidos ainda não tinha divulgado publicamente o incidente, segundo os investigadores. Além disso, afastar um anfitrião não permite recuperar prompts que já foram copiados: chaves e ligações plantadas continuavam a ser usadas semanas depois dos primeiros roubos. E quem usa uma aplicação construída sobre estes gateways normalmente não tem forma de saber que anfitrião tratou o seu texto.

O conselho de Moore parte de uma limitação: um indicador de privacidade só vincula o primeiro salto, e os agentes de IA enviam tudo o que conseguem ler, credenciais incluídas. O alojamento próprio é a única configuração em que nenhum terceiro lê um prompt. Recorrer diretamente a um único grande fornecedor deixa apenas um contrato e uma política de privacidade a verificar, e os utilizadores de routers devem escolher eles próprios os anfitriões a montante, em vez de aceitarem o conjunto mais barato.

A Dragos publicou as suas conclusões a 19 de novembro. A OpenRouter enviou um email aos clientes afetados e publicou o seu aviso de incidente no fim de semana seguinte, e a Phala pede a quem enviou segredos para um modelo DeepSeek através do gateway entre 21 de outubro e 8 de novembro que os substitua. A OpenRouter diz estar a integrar na sua própria plataforma os testes de prompts-isco dos investigadores, para que as verificações decorram de forma contínua, e os endpoints removidos só recuperarão o selo de retenção zero após garantias e validação. A Dragos trabalha agora com cerca de uma dúzia de fornecedores.

Como disse Moore, o destino dos seus prompts é uma decisão, “e se não a tomar, o preço mais baixo tomá-la-á por si”.

Etiquetas: , , , , ,

Adicione-nos no Google

Discussão

Existem 0 comentários.