Eliezer Yudkowsky, o autor de fanfiction que fez do medo da IA um bestseller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nascimento	11 de setembro de 1979 Chicago, Estados Unidos
Ocupação	Escritor e investigador de IA

Quando, segundo relatos, Sam Altman explicou aos funcionários da OpenAI as diferentes formas como a corrida à superinteligência poderia acabar, um dos três cenários tinha nome próprio. O «plano Eliezer» imagina um único laboratório a chegar primeiro a uma IA capaz de se aperfeiçoar a si própria e a usar essa vantagem para cortar todos os rivais do acesso à capacidade computacional. Altman só o mencionou para o classificar como terrível. A expressão que ficou associada à história — derreter as GPU de toda a gente — faz eco de um exemplo usado pelo próprio Eliezer Yudkowsky num ensaio sobre os riscos da IA, onde sugeriu «queimar todas as GPU» como ilustração e acrescentou de imediato: «Não é isto que acho que alguém faria realmente com uma AGI poderosa.»

O facto de um CEO dar o nome dele a uma estratégia mostra até onde chegaram as suas ideias — e quase tudo isso aconteceu através da escrita. Yudkowsky é um investigador de IA sem curso superior e, acima de tudo, um escritor prolífico: centenas de ensaios em blogues, um romance de Harry Potter com dimensões épicas e um bestseller cujo título não deixa margem para dúvidas.

Nasceu em Chicago, a 11 de setembro de 1979, e cresceu numa família judaica ortodoxa moderna; hoje é secular. Problemas de saúde crónicos obrigaram-no a abandonar o ensino básico, e nunca frequentou o ensino secundário nem a universidade. Em 2000, aos vinte anos, fundou o Singularity Institute for Artificial Intelligence, com o apoio de Brian e Sabine Atkins, com o objetivo de acelerar a chegada da IA. Em pouco tempo, começou a preocupar-se com aquilo que se propusera construir e, em 2005, o instituto já estudava como gerir os riscos de máquinas mais inteligentes do que os seus criadores. Em 2013, passou a chamar-se Machine Intelligence Research Institute e fixou-se em Berkeley.

A escrita ganhou ritmo em novembro de 2006, quando ele e o economista Robin Hanson se tornaram os principais colaboradores do Overcoming Bias, um blogue coletivo sobre a racionalidade humana. Em fevereiro de 2009, os seus textos deram origem ao LessWrong, um blogue comunitário dedicado a «aperfeiçoar a arte da racionalidade humana», que viria a tornar-se o principal espaço online do movimento que se autodenomina racionalista. Os seus ensaios publicados ali, conhecidos simplesmente como «The Sequences», debruçavam-se sobre enviesamentos cognitivos, o teorema de Bayes e as formas como as pessoas inteligentes se enganam a si próprias. Em 2015, o MIRI reuniu mais de 300 desses textos em Rationality: From AI to Zombies, seguindo-se, em 2017, Inadequate Equilibria, um livro breve sobre as razões por que as sociedades deixam por resolver problemas que poderiam ser corrigidos. Stuart Russell e Peter Norvig discutem as suas propostas no manual de referência sobre IA que escreveram, e Nick Bostrom cita-o em Superintelligence: Paths, Dangers, Strategies.

Depois veio o romance. Harry Potter and the Methods of Rationality, conhecido pelos fãs como HPMOR, foi publicado por capítulos no FanFiction.Net entre 28 de fevereiro de 2010 e 14 de março de 2015: ao todo, 122 capítulos e mais de 660 mil palavras. A premissa altera um pormenor da história original. Petunia Evans casa com Michael Verres, um professor de Oxford, e Harry, órfão, cresce educado em casa e aprende ciência; assim, quando chega a Hogwarts, põe a magia à prova através do método científico e incomoda-se com as incoerências do mundo dos feiticeiros. Na casa Ravenclaw, faz amizade com Draco Malfoy, Hermione Granger e o Professor Quirrell. A trama torna-se mais sombria do que as piadas deixam antever, mas o verdadeiro tema é a forma de pensar.

As opiniões dos leitores dividiram-se profundamente. Em 2011, a The Atlantic deu conta da polémica nos fóruns de fan fiction em torno do seu «tratamento blasfemo — ou brilhante — da história original» e citou o escritor de ficção científica David Brin, que lhe chamou «uma série extraordinária, subtil, dramática e estimulante». O especialista em direito William Baude foi mais longe no The Washington Post: «o melhor livro de Harry Potter alguma vez escrito, embora não tenha sido escrito por J.K. Rowling». Amanda Silberling, do TechCrunch, considerou-o «mesmo muito maçador». Yudkowsky recusou uma proposta para eliminar os elementos de Rowling e vender a história como um romance original, seguindo o caminho que Fifty Shades of Grey percorreu a partir da fan fiction de Twilight. «HPMOR está fundamentalmente ligado aos romances originais de Harry Potter e só pode ser compreendido tendo-os como pano de fundo», afirmou.

A ironia da sua carreira é que o homem mais associado aos avisos sobre a IA também atraiu pessoas para a sua criação. Em fevereiro de 2023, Altman escreveu que Yudkowsky tinha «despertado o interesse de muitos de nós pela AGI», ajudado a DeepMind a obter financiamento e sido «fundamental na decisão de criar a openai». Nessa primavera, Yudkowsky publicou um artigo de opinião na revista Time a defender uma moratória mundial por tempo indeterminado sobre grandes ciclos de treino de IA. Mais tarde, a Time incluiu-o na sua lista das 100 pessoas mais influentes na IA em 2023.

O seu livro mais direto chegou a 16 de setembro de 2025. Escrito com Nate Soares, seu colega no MIRI, e publicado pela Little, Brown, If Anyone Builds It, Everyone Dies defende que os sistemas modernos de IA são cultivados, não construídos: são treinados até conterem milhares de milhões de pesos numéricos que nem os próprios criadores conseguem ler, pelo que ninguém pode definir de forma fiável os objetivos de um sistema que acaba por ser mais inteligente do que nós. Segundo os autores, a humanidade seria derrotada por uma superinteligência da mesma forma que as pessoas perdem para o motor de xadrez Stockfish, e a única opção segura é uma suspensão coordenada. O livro entrou nas listas de mais vendidos do The New York Times, tanto na categoria de capa dura como na de não-ficção, que combina vários formatos.

As críticas dividiram-se tanto como as opiniões dos leitores do romance. No The Guardian, David Shariatmadari considerou-o «tão claro quanto difíceis de aceitar são as suas conclusões». Ian Leslie, no The Observer, elogiou a sua «clareza, vivacidade e alegria mal contida». Stephen Marche comparou-o a um manual de Cientologia no The New York Times, e Adam Becker, na The Atlantic, foi ainda mais direto: «Estão simplesmente errados.»

Desde então, o debate passou para o ecrã. Yudkowsky é uma das vozes, ao lado de Yoshua Bengio e Timnit Gebru, em The AI Doc: Or How I Became an Apocaloptimist, o documentário de Daniel Roher sobre o que significa tornar-se pai na era da IA, que chegou à Netflix a 15 de setembro de 2026. O jovem feiticeiro que realiza experiências controladas e o coautor que quer pôr fim à experiência são o mesmo escritor, que continua a pedir aos leitores que acompanhem uma linha de raciocínio até ao fim, por desconfortável que seja a última conclusão.

Etiquetas: inteligência artificial, escritores, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, o autor de fanfiction que fez do medo da IA um bestseller

Conteúdo semelhante

Sam Altman, líder da OpenAI, na ONU: “A IA deve ser construída para as pessoas, não só para pôr as máquinas a andar mais depressa…”

Bill Gates: “A IA será o maior equalizador alguma vez inventado ou a pior fonte de injustiça”

Meta lança modelo de IA gratuito e acusa a OpenAI de concentrar o poder

Demis Hassabis abandona a liderança da DeepMind para se focar na IAG

Demis Hassabis e o cérebro humano: «uma aproximação biológica a uma máquina de Turing»

A OpenAI lança o Astra, diz que é a sua IA mais alinhada e recusa mostrar o seu raciocínio

Discussão