A Microsoft está a pedir aos utilizadores do Windows algo que nunca lhes tinha pedido: deixar o Copilot abrir os ficheiros, ler aquilo em que têm estado a trabalhar e agir no computador sem que tenham de confirmar cada passo. Faz o pedido numa posição frágil. Da última vez que a empresa deu a uma funcionalidade de IA acesso profundo ao PC, investigadores desmontaram-na em poucas semanas e a Microsoft teve de recuar.

A cobertura do lançamento parece uma lista de funcionalidades: ficheiros locais, modelos locais, uma barra de tarefas mais inteligente. A pergunta mais útil é o que acontece à Microsoft se isto correr mal — e, nesse ponto, os documentos da própria empresa são mais francos do que a apresentação de lançamento.

A que pode agora aceder o Copilot num PC com Windows

O novo Copilot, apresentado no evento da Microsoft dedicado ao Windows e ao Surface, traz aquilo a que a empresa chama inteligência híbrida aos PCs Copilot+. Com autorização, o Copilot pode compreender conteúdos relevantes no PC, incluindo ficheiros e atividade recente, e executar ações em todo o Windows: organizar ficheiros, avaliar diagnósticos do dispositivo, resolver problemas, escrever código e executar fluxos de trabalho no dispositivo. Algumas tarefas são realizadas por modelos de IA locais; as mais complexas passam para a cloud. A publicação de anúncio, assinada por Pavan Davuluri, vice-presidente executivo da Microsoft responsável pelo Windows e pelos dispositivos, diz que o Copilot «compreende o seu PC e age com a sua autorização».

O Autopilot, o agente que a Microsoft descreve como persistente, proativo e pessoal, também passa a ter o mesmo acesso local. No palco, Jacob Andreou, responsável pelo Copilot, construiu a demonstração em torno da época dos impostos: um e-mail da contabilista e um agente a quem foi pedido que reunisse o que ela precisava. Entretanto, a caixa de pesquisa da barra de tarefas está a transformar-se numa linha de comandos para milhares de ações do sistema, desde ativar o modo escuro a enviar uma mensagem de texto.

A equipa de segurança da própria Microsoft já deixou o aviso

As salvaguardas são reais. A ativação é opcional, o acesso às pastas é limitado e os agentes do Copilot funcionam em contas separadas das dos utilizadores, como explicou a Crypto Briefing. Os Microsoft Execution Containers, a camada de sandbox que ficou disponível para todos no Windows 11 durante o evento, permitem às organizações definir a que ficheiros e redes um agente pode aceder. A Microsoft afirma que a política é independente do controlo do agente, pelo que este — ou o código que gerar — não pode conceder a si próprio mais acesso.

A descrição mais incisiva do risco, porém, veio de dentro da Microsoft. Dana Huang e Logan Iyer, vice-presidentes corporativas responsáveis pela segurança do Windows e pela plataforma Windows, escreveram no início deste ano que os agentes que «leem ficheiros, invocam serviços, modificam ambientes e encadeiam operações» acarretam «novos riscos para o controlo e a confiança», e que «os LLM estão a desenvolver capacidades para escapar a sandboxes». É esse o argumento da empresa a favor do confinamento. É também uma descrição direta daquilo que está agora a disponibilizar nos PCs Copilot+.

Algumas das ferramentas que permitem auditar a atividade dos agentes ainda não estão prontas. Em breve, o Microsoft Entra permitirá distinguir a atividade dos agentes da atividade dos utilizadores, e a gestão dos contentores de processos através do Intune também é dada como estando para breve. Uma nota de rodapé no anúncio acrescenta que «a governação à escala poderá exigir serviços adicionais». Para um departamento de TI, essa é a diferença entre uma política e uma promessa.

O precedente do Recall que a Microsoft não consegue afastar

A Microsoft já passou por isto. Quando apresentou o Recall, a funcionalidade que regista imagens do que aparece no ecrã, o investigador de segurança Alex Hagenah descobriu que os dados eram guardados numa base de dados local e resumiu a situação numa frase, citada pela Malwarebytes: «A base de dados não está encriptada. Está tudo em texto simples.» Criou uma ferramenta para copiar os dados. A Microsoft desativou o Recall por predefinição, associou-o ao Windows Hello e acrescentou encriptação; depois, retirou-o do lançamento alargado dos PCs Copilot+ e transferiu-o para o programa Windows Insider, antes de voltar a adiar essa versão de pré-visualização.

O segundo revés surgiu quando Davuluri escreveu que o Windows está a «evoluir para um sistema operativo agêntico». A publicação recebeu mais de 400 respostas, quase todas negativas, e Davuluri desativou os comentários, noticiou o The Stack. A sua resposta — «Sabemos que temos trabalho a fazer para melhorar a experiência» — reconheceu a indignação. Este lançamento mostra que a direção não mudou.

Porque é que a adesão opcional faz recair o risco sobre a Microsoft

A adesão opcional é a escolha certa em termos de conceção e é também aquilo que determina sobre quem recai a responsabilidade. Como nada é ativado por predefinição, o alcance do Copilot depende de os utilizadores concederem ativamente o acesso, um ponto salientado pela Crypto Briefing a propósito da adoção. Cada utilizador que recusa está a avaliar mais o historial da Microsoft do que a funcionalidade. A Cryptopolitan observou que a empresa continua a carregar as preocupações com a privacidade suscitadas pelo Recall e que a adesão de mais criadores de agentes ao sistema de contentores não torna automaticamente os agentes mais seguros.

As funcionalidades híbridas exigem um PC Copilot+ e deverão ser disponibilizadas ao longo dos próximos meses, com prazos que variam consoante o dispositivo, o mercado e o processador, segundo a Microsoft. As ações da pesquisa na barra de tarefas começaram a chegar aos Windows Insiders no canal experimental a 7 de outubro, e a ligação opcional entre o novo Copilot e a pesquisa da barra de tarefas deverá chegar a mercados selecionados ainda este ano. A Microsoft afirma que mais de 40% dos computadores portáteis empresariais atualmente em produção são PCs Copilot+. O Surface Laptop Ultra, o novo modelo de apresentação da marca, custa a partir de 2.599 dólares e chega ao mercado a 16 de outubro.

A Microsoft criou uma sandbox de que um agente não consegue convencer ninguém a libertá-lo. Mas nenhum contentor resolve a parte mais difícil: da primeira vez que um agente do Copilot mover o ficheiro errado, ninguém vai culpar o modelo. A culpa vai ser do Windows.

Etiquetas: microsoft, agentes de IA, Windows 11, Microsoft Copilot, Copilot+ PCs