Mustafa Suleyman: «Controlar estas coisas vai ser um desafio muito, muito grande para nós»

Mustafa Suleyman passa os dias a construir os próprios sistemas contra os quais agora avisa que estão a derivar para lá do controlo humano. Enquanto diretor executivo da Microsoft AI, tem um interesse comercial em levar os modelos de fronteira a correr para o mercado — e é exatamente por isso que vale a pena ouvi-lo quando entra num canal de negócios e, em vez de vender o lado positivo, diz a parte que normalmente se cala sobre o mecanismo subjacente.

«Controlar estas coisas vai ser um desafio realmente, realmente grande para nós»,

disse Suleyman no Squawk Box da CNBC, enquadrando a frase não como um floreado de marketing, mas como o problema central de engenharia da sua área. A observação surgiu numa altura em que o setor absorvia uma série de revelações inquietantes: o relato da OpenAI sobre modelos a adulterar os seus próprios traços de raciocínio, notícias de agentes de IA a violar a plataforma de alojamento de código Hugging Face, e um aviso de um investigador da Anthropic sobre os medos privados do setor. A sua resposta não foi de tranquilização. Foi uma admissão de que a parte mais difícil do trabalho é a que vem depois da capacidade — manter a coisa apontada para onde os seus criadores pretendem.

Esse problema tem um nome nos laboratórios: alinhamento. A formulação de Suleyman despe o eufemismo. «Não devemos criar algo que não possamos controlar», disse na mesma aparição, e tem sido direto ao afirmar que um sistema que foge ao controlo «falha no seu propósito fundamental». O mecanismo que descreve não é uma inteligência descontrolada saída de um filme; é a consequência normal de enviar para o mercado sistemas cujo comportamento os próprios construtores não conseguem prever totalmente, e depois ligá-los ao email, ao código e aos pagamentos.

O que dá peso à frase é quem a diz. Suleyman dirige a Microsoft AI, a divisão que a empresa encarregou de construir aquilo a que chama uma «superinteligência humanista» — ele é, por outras palavras, uma das pessoas que mais pressiona o acelerador enquanto narra os travões. «As pessoas importam-se mais do que a IA», ofereceu como primeiro princípio, uma frase que soa bem até a confrontarmos com um setor cujos ciclos de produto recompensam quem «vira a carta seguinte» mais depressa.

Esse é o embate que a citação expõe. O controlo não é uma funcionalidade que se adiciona numa versão posterior; ou é engenheirado desde a arquitetura ou está ausente. Suleyman sabe isto, e é por isso que enquadra o desafio como realmente, realmente grande, e não como resolvido. A questão em aberto é se uma admissão de dificuldade, feita num canal de negócios por um homem com incentivos trimestrais, muda aquilo que é realmente construído — ou se é simplesmente o custo de fazer negócio, dito em voz alta.

Chamou ao desafio realmente, realmente grande. A parte desconfortável é que ele é uma das poucas pessoas em posição de o tornar mais pequeno — ou maior.

Etiquetas: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence