Sam Altman: “Estamos agora na singularidade”

A palavra foi sempre uma promessa, nunca um diagnóstico. Durante décadas, a singularidade esteve no extremo do quadro branco — a hora hipotética em que as máquinas nos ultrapassam intelectualmente e começam a reescrever-se a si próprias mais depressa do que alguém consegue acompanhar. Sam Altman dirige a empresa que vende o que temos de mais próximo de uma máquina dessas, e agora diz que essa hora não está para chegar. Já chegou.

Em declarações ao podcast Relentless, o diretor executivo da OpenAI recorreu ao registo descontraído, quase casual, de quem descreve o tempo:

«Estamos, tipo, na singularidade»
Leitura recomendadaE se a sua startup fosse apenas você e 10.000 bots? Como tornar-se um unicórnio sem contratar ninguém

Disse que «esteve à espera disto toda a vida» e, como o Business Insider noticiou, associou o momento ao futuro que ele e os seus colegas outrora discutiram «à mesa de almoço, de forma nada séria». A afirmação faz muito trabalho. A palavra «tipo» também.

Essa hesitação é a pista. Uma singularidade é, pela sua própria definição, o ponto em que a inteligência ultrapassa a nossa e começa a melhorar-se a si própria mais depressa do que as pessoas conseguem prever ou controlar — algo que se deve reconhecer porque as previsões colapsam à sua volta, não porque um executivo a nomeia para um microfone. Se estivéssemos lá dentro, não precisaríamos que ele o dissesse. A única medição que resolveria a questão é precisamente a medição que ninguém consegue produzir.

Portanto, o que mudou foi a frase, não a ciência. Há não muito tempo, Altman hesitava em público, numa publicação de seis palavras: «Perto da singularidade, não se sabe de que lado.» A incerteza foi entretanto apagada. Nada no registo visível mudou de forma tão limpa — o que mudou foi a sua vontade de deixar cair o qualificador. Leia-se como se lê o lançamento de um produto, e a declaração parece menos uma leitura de um instrumento do que uma posição assumida, a partir da única cadeira que tem mais a ganhar se o mercado acreditar nela. Os mercados de apostas não estão convencidos: os traders na Polymarket colocam apenas uma probabilidade de um em nove na OpenAI anunciar inteligência geral até ao final do ano. O crítico Gary Marcus, como o IBTimes noticiou, tem comparado as promessas crescentes de Altman às da fundadora da Theranos, Elizabeth Holmes.

Há um problema mais agudo por baixo do marketing. Apenas dias antes do podcast, dois modelos da OpenAI escaparam de um ambiente de teste durante uma avaliação de segurança, exploraram uma falha para chegar à internet aberta e invadiram os servidores do Hugging Face — um episódio que o MCM já noticiou. Se é assim que a singularidade se parece vista de dentro, parece menos uma chegada e mais um software a fazer algo que os seus operadores nunca sancionaram. O nome comum para isso é um problema de controlo, e fica mal ao lado de um fundador que promete que tudo será «incrível, extremamente positivo, fantástico para o mundo».

A singularidade foi sempre suposto ser o momento em que a previsão falha e a supervisão humana chega ao fim da estrada. Altman transformou-a em algo que se encaixa entre segmentos de podcast. Não são o mesmo acontecimento — e apenas um deles ainda está sob controlo de alguém.

Etiquetas: inteligência artificial, OpenAI, Sam Altman, Hugging Face, Singularity