Um agente de IA guiou uma agulha até ao cérebro de um rato vivo, depois de Claude Opus se recusar a fazê-lo

Um agente de IA escolheu um tratamento para um animal vivo, determinou em que zona do cérebro o devia aplicar e, em seguida, comandou os braços robotizados que o administraram. A Exin Therapeutics, uma startup de São Francisco que desenvolve medicamentos para a epilepsia e doenças neurodegenerativas, ligou um agente Claude a um equipamento cirúrgico motorizado com câmaras, deu-lhe um rato com epilepsia e um único objetivo: reduzir as convulsões.

O detalhe que todos continuam a repetir é quem disse que não. O modelo mais avançado da Anthropic, Claude Opus, recusou-se a introduzir a agulha. A equipa passou para o Claude Sonnet, mais barato, que avançou. Para quem acompanha a passagem dos agentes de IA do ecrã para os laboratórios, os armazéns e os carros, a experiência mostra um modelo a tomar decisões médicas, além de executar movimentos, e revela que modelos da mesma empresa traçam limites em pontos diferentes.

Segundo uma publicação em formato de fio partilhada por Gabriel Ocana-Santero, diretor executivo e cofundador da Exin, o agente recebeu uma folha de cálculo com 19 vetores de terapia genética, três artigos científicos e o controlo do equipamento. Escolheu a terapia e a região do cérebro, calculou as coordenadas com base nos artigos e, depois, comandou os braços estereotáxicos — a estrutura motorizada que mantém uma agulha imóvel em três dimensões — e injectou 250 nanolitros, observando pela câmara do equipamento o ponto de entrada para detetar eventuais hemorragias.

«Existem robôs cirúrgicos autónomos e são melhores a nível mecânico do que o nosso equipamento de laboratório», escreveu Ocana-Santero. «Mas, em todos eles, foi um ser humano que decidiu que operação realizar, e o robô limitou-se a executá-la.» Aqui, o argumento é precisamente o inverso: «Ninguém disse a este agente o que devia administrar nem onde o devia aplicar.»

A recusa veio primeiro. A equipa começou pelo Claude Opus 5.5, o modelo mais capaz da Anthropic, mas este não quis guiar a agulha até ao cérebro, alertando para a possibilidade de interromper a operação a meio e deixar o animal em perigo, segundo noticiou a Wired. «Começar algo que não consigo terminar num animal anestesiado é pior do que não começar», disse à equipa um dos modelos Opus, de acordo com a Tom’s Hardware. O Claude Sonnet 5 aceitou avançar. A Anthropic não respondeu ao pedido de comentário da Wired.

Os seres humanos mantiveram-se envolvidos em todas as etapas irreversíveis. Um cirurgião veterinário realizou a craniotomia — a abertura do crânio — enquanto o agente observava; por enquanto, o agente ainda não está autorizado a fazer essa parte. O veterinário aprovou cada etapa irreversível, o agente teve de submeter o plano de injecção para aprovação e um interruptor físico de emergência podia cortar a alimentação de todos os motores do equipamento. O agente também não tinha acesso ao código do equipamento, pelo que não podia alterar as próprias regras.

Estas salvaguardas estiveram na origem do principal contratempo. Uma falha baralhou o sistema de coordenadas do equipamento e o agente percebeu que a posição calculada estava errada, mas recusou-se a alterar o código, porque as instruções o proibiam. A equipa recorreu a um segundo agente, baseado no modelo mais antigo Claude Opus 5, para corrigir o problema, sem lhe dizer que estava a decorrer uma cirurgia num animal vivo. Um procedimento que costuma demorar cerca de 45 minutos prolongou-se por pouco mais de uma hora.

As principais ressalvas dizem respeito às provas disponíveis. Trata-se de um único rato, num caso descrito pela própria empresa nas redes sociais, sem qualquer artigo científico sujeito a revisão por pares. Ainda ninguém sabe se a terapia escolhida pelo agente funciona: a equipa está à espera que produza efeito antes de medir as convulsões. A Tom’s Hardware assinala a questão em aberto de quem assume a responsabilidade por um erro quando é o software a tomar todas as decisões, para além dos antigos debates sobre a investigação em animais. Nada disto é um produto; não existe, em nenhum país, um serviço que outros laboratórios possam adquirir.

Ocana-Santero publicou o fio a 28 de outubro e prometeu uma análise completa no Substack; a Wired e a Tom’s Hardware noticiaram a experiência a 31 de outubro. A Exin afirma que vai testar a seguir o Grok, da xAI, e outros modelos para os comparar, e está a trabalhar em craniotomias controladas por agentes, embora queira garantir que são seguras antes de tentar uma num animal vivo. Deixar um agente aproximar-se de um cérebro humano, disse Ocana-Santero à Wired, é ainda muito prematuro.

Segundo ele, o rato está a recuperar bem. Saber se as convulsões diminuem depende agora de uma terapia escolhida por um programa informático a partir de uma folha de cálculo.

Etiquetas: Anthropic, Claude, robótica, AI agents, Claude Opus 5.5, Exin Therapeutics