Sam Altman, líder da OpenAI, na ONU: “A IA deve ser construída para as pessoas, não só para pôr as máquinas a andar mais depressa…”

Sam Altman há anos que desempenha dois papéis em simultâneo: o homem que está a construir a inteligência artificial mais poderosa do mercado e o homem que alerta o mundo para os seus perigos. Perante o Conselho de Segurança das Nações Unidas, o diretor-executivo da OpenAI recorreu a uma frase para manter esses dois papéis separados — e, considerada por si só, é uma boa frase.

«A IA deve ser criada para as pessoas, não apenas para fazer as máquinas funcionar mais depressa por si só.»

Disse-o perante o Conselho de Segurança, em declarações noticiadas pela Analytics Insight, no âmbito de um argumento mais amplo: os sistemas poderosos têm de permanecer sob controlo humano e as regras que os regem devem ser definidas pelos governos, e não apenas pelos laboratórios. A frase traça uma fronteira: de um lado, uma IA criada para as pessoas; do outro, uma IA concebida para acelerar por si só. Dita por quase qualquer pessoa, soaria a um princípio simples. Dita pelo diretor-executivo da empresa que mais tem feito essa engrenagem girar, é também uma afirmação sobre quem tem o direito de decidir onde passa a fronteira.

Altman é uma figura rara: arquiteto e voz de alerta ao mesmo tempo. Nos mesmos palcos em que pede salvaguardas, anuncia sistemas mais capazes do que aqueles que motivaram a ronda anterior de audições. Ao discursar a 23 de setembro, elevou a fasquia do palco — dos painéis de Davos e das salas de audiências do Senado para o Conselho de Segurança —, mas manteve intacto o padrão: cautela nas palavras, aceleração no roteiro. Perante o Conselho, defendeu que os criadores «não devem treinar modelos se não puderem apresentar argumentos extremamente sólidos de que serão capazes de os manter sob controlo humano» e que as decisões mais importantes «não podem ser tomadas apenas por laboratórios em São Francisco».

É aqui que a frase se torna interessante — e que importa analisá-la com atenção. As regras de governação de que Altman fala serão redigidas pelos próprios Estados a que se dirigia; e quem define o que significa «criada para as pessoas» também decide quais os criadores que já cumprem esse critério. Um laboratório de ponta que ajude a escrever o livro de regras não é uma parte neutra. Nada disto torna o alerta vazio. O risco que identifica — sistemas que avançam mais depressa do que as instituições encarregadas de os vigiar e decisões concentradas em poucas mãos — é real; e dizê-lo abertamente no Conselho de Segurança aumenta o custo para todos os que preferiam manter o assunto na vaguidade. Significa apenas que o mensageiro passou a fazer parte da mensagem.

Lida com benevolência, a frase é um princípio ético: manter o ser humano no circuito e tratar a IA como uma ferramenta que amplia a capacidade de agir, em vez de uma máquina que transforma as pessoas nos seus dados de entrada. Lida também como aquilo que é — uma jogada de posicionamento por parte do interveniente mais exposto da indústria —, é uma tentativa de definir os termos das regras que aí vêm, apresentando-se como o adulto na sala. As duas leituras podem ser verdadeiras ao mesmo tempo. É precisamente isso que torna Altman difícil de descartar e difícil de confiar.

A manivela continua a girar enquanto o mundo decide ao serviço de quem está. A sinceridade da frase será medida por uma única coisa: se a OpenAI abranda quando «para as pessoas» e «mais depressa» finalmente apontarem em direções diferentes.

Etiquetas: OpenAI, Sam Altman, artificial intelligence, AI safety, AI governance