Sam Altman, líder da OpenAI, traça três finais para a IA e dois já vinham de 2023

O diretor-executivo da OpenAI, Sam Altman, apresentou à sua equipa um mapa de como poderá terminar a corrida à superinteligência — e o mais revelador é quão pouco há de novo nele. Dos três cenários finais que expôs aos funcionários, dois estão muito próximos de ideias que a própria empresa pôs por escrito há anos. Nenhum chegou a ser concretizado. O terceiro, aquele que chegou às manchetes, foi mencionado apenas para ser descartado.

Por detrás dos rótulos, todas as opções respondem à mesma pergunta: quem controla a capacidade computacional de que dependem os modelos mais avançados. As declarações atribuídas a Altman também explicam por que razão essa questão continua a ser adiada.

O que Sam Altman disse à equipa da OpenAI sobre o futuro da IA

The Information foi o primeiro a noticiar a apresentação interna, citando pessoas familiarizadas com o assunto, e The Decoder, Forbes e Latin Times acompanharam entretanto o caso. O relato baseia-se em fontes anónimas. A primeira opção consiste num organismo internacional inspirado na Agência Internacional de Energia Atómica (AIEA), que imporia normas de segurança aos laboratórios de ponta: inspecionaria sistemas, exigiria auditorias e monitorizaria o uso de capacidade computacional e de energia. Duas pessoas disseram a The Information que Altman pareceu apoiar a proposta.

À segunda opção chamou “plano Demis”, em referência a Demis Hassabis, cofundador da Google DeepMind, que há cerca de uma década sugeriu a criação de uma instituição para a IA nos moldes do CERN. Na versão de Altman, os principais laboratórios fundir-se-iam numa única entidade, ou trabalhariam sob a sua égide, e essa entidade forneceria modelos a países cooperantes.

A terceira opção é o “plano Eliezer”, assim designado em homenagem ao teórico da segurança da IA Eliezer Yudkowsky. Um programador chega primeiro à IA capaz de se aperfeiçoar a si própria e usa o poder económico que daí resulta para privar todos os rivais de capacidade computacional; na expressão que se tornou conhecida, iria “derreter as GPUs de todos os outros”. “Obviamente, acho que essa opção é péssima”, terá dito Altman, acrescentando que a incluíra por uma questão de “exaustividade”.

A OpenAI já tinha posto a maior parte destas opções por escrito em 2023

O organismo de supervisão é a proposta mais antiga da lista. Numa publicação assinada por Altman, pelo presidente da OpenAI, Greg Brockman, e pelo então cientista-chefe Ilya Sutskever, a empresa defendia que o mundo provavelmente “acabaria por precisar de algo semelhante a uma AIEA para os esforços em torno da superinteligência”, uma autoridade capaz de “inspecionar sistemas, exigir auditorias” e restringir a implementação acima de determinado limiar de capacidade ou de computação.

A mesma publicação delineava mais duas vias. Os principais governos, dizia, “poderiam criar um projeto no qual muitos dos esforços atuais passariam a integrar-se”, uma solução muito próxima da fusão que Altman atribui agora a Hassabis. Ou então, “a indústria poderia chegar a um acordo coletivo” para que “o ritmo de crescimento das capacidades da IA na vanguarda se limitasse a uma determinada taxa anual”.

Essa última proposta é um limite de velocidade. Segundo The Decoder, Altman queixou-se internamente de haver poucas propostas viáveis para impor um “limite de velocidade” ao desenvolvimento da IA. A empresa publicou uma. O que nunca criou foi alguém com poder para a fazer cumprir.

Porque é que o organismo de supervisão continua no papel: a OpenAI diz que não pode abrandar

A razão foi apresentada na mesma reunião. Altman terá dito à equipa que os dois primeiros planos exigem uma coordenação intensa e que a OpenAI não pode dar-se ao luxo de ceder terreno neste momento, com a própria empresa e a Anthropic a prepararem-se para entrar em bolsa. Crypto Briefing explicitou a lógica dos investidores: as empresas que se preparam para uma oferta pública reforçam a sua vantagem; não a entregam a um consórcio.

Uma AIEA para a IA também exigiria que Washington e Pequim aceitassem inspetores nos seus laboratórios mais sensíveis. Para já, observa a Forbes, até uma proposta dos EUA para os dois países se notificarem mutuamente sobre incidentes perigosos relacionados com a IA continua a ser um esboço, não um acordo.

O que os laboratórios estão a criar, em vez disso, é uma FINRA, não uma AIEA

O projeto de governação que está efetivamente em curso não corresponde a nenhuma das três opções de Altman. A OpenAI, a Google e a Anthropic estão a trabalhar num grupo de autorregulação, a Standards Authority for Frontier AI, inspirado na FINRA, a entidade privada que supervisiona os corretores norte-americanos. A Latin Times descreve um quadro para testar modelos antes do lançamento, comunicar incidentes e credenciar auditores, sem poderes vinculativos para fazer cumprir as regras; os três laboratórios continuam ainda em desacordo sobre quem deverá testar os novos modelos. Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, defendem que regras deste tipo protegem sobretudo as empresas já estabelecidas, e uma ação judicial por violação das leis da concorrência nos EUA alega já que a coordenação dos laboratórios em matéria de segurança equivale a um cartel.

Também vale a pena olhar de novo para os rótulos. A imagem original de Yudkowsky, “queimar todas as GPUs”, era uma experiência mental sobre a dimensão da ação que um sistema alinhado teria de tomar para travar uma corrida irresponsável; ele escreveu que não era algo que quisesse realmente ver acontecer. O “plano Eliezer” de Altman transforma esse travão de emergência numa vitória monopolista. Segundo o relato de The Decoder sobre a notícia, uma fonte afirmou que a observação foi interpretada como uma provocação a um concorrente, tendo em conta os laços de Yudkowsky à Anthropic.

Segundo The Information, a OpenAI tenciona decidir no prazo de um ano que caminho seguir. O organismo de normas da indústria prevê iniciar atividade no final de 2026 ou no início de 2027.

Até a OpenAI tomar uma decisão, continua a avançar pela única estrada que não constava da lista de Altman: a própria corrida.

Etiquetas: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky