Rei Carlos III avisa os criadores da IA do ‘perigo existencial’ da sua tecnologia

«Aqueles que criaram estas tecnologias estão agora a alertar, cada vez mais, que a IA corre o risco de desenvolver capacidades mais sombrias — talvez até de tirar vidas.» A frase escolhida pelo Rei Carlos não foi um aviso sobre piratas informáticos ou estados hostis. Foi um espelho, colocado frente às pessoas que constroem os sistemas, e o aviso que continha era um que ele lhes atribuiu.

Esta é a metade do discurso que a maior parte da cobertura mediática ignorou. A frase que viajou foi a mais suave das mesmas declarações — os «perigos existenciais de tais tecnologias caírem nas mãos erradas». «Mãos erradas» é um enquadramento confortável se és tu quem entrega a ferramenta. Coloca o perigo lá fora, nalgum vilão que usa indevidamente um instrumento neutro, em vez de o colocar no próprio instrumento ou nas empresas que correm para o tornar mais capaz. Carlos recusou deixá-lo ficar por aí.

Em vez disso, apontou o risco de volta à sua origem. Os criadores são aqueles que agora estão a soar o alarme, disse — e depois lançou uma questão à sala com um fio cortante: «Certamente, precisamos de meios de controlo suficientes antes que seja demasiado tarde?»

O peso dessa frase assenta numa palavra. «Controlo» é a única coisa que uma reunião como esta não pode realmente entregar. Não tem poder estatutário, não impõe nenhum limite que uma empresa deva obedecer, e não acarreta qualquer penalidade por o ignorar. O que surgiu foi um acordo para prosseguir «princípios partilhados» — uma expressão que descreve uma aspiração, não um mecanismo. Os executivos, segundo todos os relatos, ficaram gratos pela conversa. Gratidão não é uma salvaguarda.

Há aqui uma inversão institucional que é fácil de perder por entre a cerimónia. Um monarca não tem alavanca sobre a Nvidia, a OpenAI, a Anthropic ou o Google DeepMind. Não pode licenciar um modelo, auditar um treino ou atrasar um lançamento. As pessoas que podem fazer essas coisas — legisladores, reguladores da concorrência, o ministro que estava de facto sentado na sala — não eram aquelas que estavam a convocar. Uma figura com autoridade simbólica e nenhum poder de execução estava a pedir às pessoas com todo o poder livre de execução no mundo que se policiassem a si próprias. Isto é aproximadamente o arranjo que a indústria sempre preferiu.

Lido assim, o evento fez um favor silencioso aos construtores. Permitiu que a história se tornasse «mãos erradas», o enquadramento em que a tecnologia é boa e apenas o seu abuso é o problema. Transformou um aviso sobre capacidade inerente — a máquina a desenvolver «capacidades mais sombrias» na sua própria trajetória — num debate familiar sobre maus atores. E envolveu tudo na legitimidade de uma Coroa que, por mais sincera que seja, não pode impor uma única linha das salvaguardas que pediu.

A reunião decorreu em Dumfries House, a propriedade georgiana restaurada do Rei em Ayrshire, na Escócia. Na sala estavam Jensen Huang, diretor executivo da Nvidia; Demis Hassabis, fundador do Google DeepMind; Sarah Friar, diretora financeira da OpenAI; Tino Cuéllar, diretor de assuntos globais da Anthropic; Kanishka Narayan, ministro da Inteligência Artificial do Reino Unido; e o Padre Paolo Benanti, conselheiro do Vaticano para ética tecnológica. Carlos fez questão de creditar também a promessa da IA — especialmente na medicina — e de levantar o seu custo ambiental. Pediu aos convidados que mantivessem a tecnologia «firmemente ao serviço da humanidade, da comunidade e do mundo natural». Nenhum compromisso vinculativo saiu da sala com eles.

Assim, as pessoas mais poderosas no campo ouviram um chefe de Estado descrever o seu produto como capaz, por si só, de tirar vidas — e saíram com o seu enquadramento preferido intacto e uma audiência real para mostrar. Os meios de controlo que o Rei pediu permanecem exatamente onde estavam antes de ele falar: nas mãos a quem se dirigia, e de mais ninguém.

Etiquetas: OpenAI, artificial intelligence, AI safety, AI risks, King Charles