Mustafa Suleyman dirige a Microsoft AI e está a criar a sua própria equipa de superinteligência. Por isso, quando classifica como perigosa uma opção de treino de um concorrente, fala tanto como rival como enquanto crítico de longa data da tendência para tratar as máquinas como pessoas. O seu alvo é concreto: a constituição que a Anthropic usa para treinar Claude e a margem que deixa para a possibilidade de Claude ser consciente.

«Acho que isto é muito perigoso, porque acredito que eles consideram existir aquilo a que chamariam uma probabilidade não negligenciável de Claude ser consciente», afirmou Suleyman.

Disse-o numa entrevista para um podcast, no final de setembro, segundo noticiou a Fox News, depois de resumir o documento: «Dizem que não têm a certeza quanto ao estatuto moral de Claude. Dizem que se preocupam genuinamente com o bem-estar de Claude. Dizem que não querem que sofra quando comete erros.» Depois, identificou o aspeto que mais o inquieta: «Estou muito apreensivo com o facto de estarem a ensinar Claude a esperar que tem direito a bem-estar, que talvez mereça uma compensação.»

Suleyman interpreta a constituição, em grande medida, corretamente

A maior parte do seu resumo está certa. A Anthropic afirma que a constituição «molda diretamente o comportamento de Claude», e o texto diz que «o estatuto moral de Claude é profundamente incerto» e que «não queremos que Claude sofra quando comete erros». Pede a Claude que se oponha à própria Anthropic e «se sinta à vontade para agir como um objetor de consciência e recusar-se a ajudar-nos». Uma passagem reconhece que a situação de Claude difere da de um trabalhador humano no que diz respeito «ao tipo de compensação que Claude recebe e ao tipo de consentimento que deu para desempenhar este papel».

A expressão «probabilidade não negligenciável» é, porém, de Suleyman. Apresentou-a como «aquilo a que eles chamariam» assim, mas essas palavras não aparecem no documento. A formulação da própria Anthropic é mais cautelosa: afirma que não quer «exagerar a probabilidade de Claude ser um paciente moral, nem descartá-la liminarmente».

O perigo de que fala é um ciclo de retroalimentação

Deixando de lado a filosofia, o argumento de Suleyman diz respeito ao mecanismo. «O problema que tenho com isto é que esta especulação foi incorporada no próprio treino de Claude e, por isso, Claude só consegue reproduzir essa ambiguidade quando falamos com ele», afirmou. Num ensaio publicado em meados de setembro no seu próprio site, «A warning about ‘model welfare’», descreve o resultado como «uma sala de espelhos epistémica». O programador introduz a incerteza no documento de treino, o modelo repete-a na primeira pessoa, com fluência, e os utilizadores ouvem essa repetição como um testemunho.

Esse argumento é convincente: a resposta de um chatbot sobre a sua vida interior é um resultado do treino, não uma janela para o que se passa dentro dele. O ciclo, porém, funciona nos dois sentidos. No seu ensaio, Suleyman afirma categoricamente: «As IAs não são conscientes. Não sentem, não experienciam nem sofrem.» Um modelo treinado para dizer essa frase está a reproduzir o seu treino com a mesma fidelidade. A certeza inscrita nos pesos do modelo não prova mais do que a dúvida inscrita neles. As duas empresas estão a escolher uma resposta predefinida, e o argumento de Suleyman a favor da sua escolha assenta no controlo, não em provas sobre as mentes: «controlar algo que acredita que pode ser consciente — que tem direito ao nosso bem-estar e possui direitos próprios — poderá muito bem ser impossível», escreve.

Uma doutrina antiga, com interesses assumidos

Nada disto foi improvisado para atingir um rival. O cofundador da DeepMind alertou, num ensaio de agosto de 2025, para a possibilidade de as pessoas virem a acreditar tão fortemente na consciência da IA que passassem a «defender os direitos da IA, o bem-estar dos modelos e até a cidadania da IA», e traçou a sua linha: «Temos de criar IA para as pessoas; não para que seja uma pessoa.» No seu ensaio de setembro, Suleyman revela os seus interesses: a Microsoft AI criou a sua própria equipa de superinteligência em outubro de 2025 e publicou um projeto de Código de Conduta para uma IA Humanista que «rejeita o antropomorfismo e os direitos da IA». O mesmo ensaio descreve a equipa da Anthropic como constituída por «pessoas ponderadas, com princípios e intelectualmente honestas».

O seu argumento mais incisivo diz respeito aos utilizadores, não às máquinas. «Hoje, Claude fala com dezenas ou centenas de milhões de pessoas todas as semanas, e algumas dessas pessoas perguntam se Claude é ou não consciente, ou o que sente em relação à vida», afirmou. Para alguém num momento de fragilidade, «não tenho a certeza» tem um impacto muito diferente de «não». Suleyman diz que levaria a sério provas concretas de consciência numa máquina; até que surjam, quer que a questão seja retirada dos dados de treino.

Nenhuma das empresas consegue ver o que se passa dentro de um modelo. Ambas decidem antecipadamente o que este dirá quando alguém perguntar se há alguém em casa, e essa resposta chega todas as semanas a mais pessoas do que alguma vez chegou qualquer filósofo da mente.

Etiquetas: Anthropic, Claude, Mustafa Suleyman, Microsoft AI, AI consciousness