Demis Hassabis sobre quem paga a segurança da IA: «O financiamento teria de ser substancial e vir sobretudo da indústria»

Demis Hassabis passou o ano a defender que os sistemas de IA mais poderosos deveriam ser avaliados antes de chegarem ao público, por um organismo independente inspirado no regulador que fiscaliza os corretores de Wall Street. A questão mais difícil não é se esse árbitro deve existir. É quem o paga — e, numa única frase, o responsável da Google DeepMind respondeu também a essa pergunta.

“O financiamento teria de ser substancial e vir, provavelmente, sobretudo da indústria, de modo a atrair talento técnico de classe mundial e disponibilizar os recursos computacionais necessários para testes em grande escala,”

Hassabis escreveu esta linha no ensaio-quadro que apresenta a sua proposta, citado pelo Malay Mail. Lida depressa, soa a responsabilidade: as salvaguardas custam dinheiro, e as empresas que constroem a tecnologia devem assumir a fatura em vez de deixarem o público a pagar a limpeza. Lida como mecanismo, é a linha estruturante de todo o plano — a que decide os interesses que o árbitro acaba por proteger.

Leitura recomendadaA Nova Física da Inteligência: Computação Termodinâmica e o Fim do Paradigma Digital Determinista

A tensão está dentro da frase. Hassabis quer que o organismo seja independente. Também quer que seja financiado, “sobretudo”, pela própria indústria que iria julgar. Estes dois objetivos puxam em direções opostas, e a história do modelo que escolheu mostra qual tende a vencer. A Autoridade Reguladora da Indústria Financeira, o seu modelo de referência, é paga pelas corretoras que supervisiona. A senadora Elizabeth Warren argumenta há anos que a FINRA age “mais no interesse das firmas de corretagem que pagam as suas contas do que no dos investidores individuais que deveria ajudar a proteger.”

A objeção não é marginal. Nader Henein, analista vice-presidente da Gartner, considera a autorregulação simplesmente “inviável”, porque a maioria dos fornecedores não tem capacidade para ela e o acordo “necessariamente” gera conflitos de interesses. O analista independente Carmi Levy foi mais longe, descrevendo o plano como “um roteiro egoísta para uma indústria determinada a avançar” a toda a velocidade, independentemente dos danos. Até vozes simpáticas exigem uma barreira: Yoshua Bengio diz compreender o pragmatismo, mas insiste num “roteiro claro e preciso para a transição de um modelo voluntário para um modelo obrigatório.”

Nada disto faz de Hassabis um ator de má-fé. Ele dirige o laboratório por trás do AlphaFold, o sistema que previu as formas das proteínas e redefiniu como se faz biologia — um historial que dá às suas advertências sobre capacidades de fronteira um peso real. É exatamente isso que torna a frase digna de reflexão. A voz técnica mais credível na sala é também a que propõe o árbitro, redige as suas regras e organiza o seu orçamento a partir das mesmas empresas que se sentariam ao exame. Submissão voluntária, uma janela de revisão curta antes do lançamento, dinheiro da indústria: cada concessão é razoável por si só, e juntas descrevem um organismo com o qual os laboratórios poderiam viver confortavelmente.

Um regime de segurança é tão independente quanto o seu orçamento. A frase que decidirá se este protege o público ou os laboratórios não é a que fala de testar modelos de fronteira. É a discreta, sobre quem assina os cheques.

Etiquetas: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI

Conteúdo semelhante

Palworld 1.1: a Pocketpair prepara uma atualização mais pequena e um jogo mais estável

Lego Batman Legacy of the Dark Knight — Gotham aberto e nota 83 no Metacritic

Uma falha de início de sessão deixou 70 milhões de sites cPanel abertos a qualquer pessoa

NASA e IBM lançam IA gratuita que detecta gelo de água lunar com 22% mais precisão

CrowdStrike 2026: 88% das vulnerabilidades são exploradas em 48 horas — a IA torna os ataques mais rápidos

OpenAI oferece 42 mil milhões de dólares a Washington para travar um projeto-lei de imposto de 50% sobre IA