Hinton garante que a IA que já usamos tem experiência subjetiva

Geoffrey Hinton foi questionado na televisão sobre se a consciência já tinha chegado à inteligência artificial. Respondeu sem rodeios. Sim. Não num modelo futuro, não depois do próximo grande avanço, mas agora, dentro dos sistemas a que milhões de pessoas já escrevem as suas perguntas todos os dias.

A afirmação seria fácil de descartar como provocação se viesse de quase qualquer outro. Não é o caso. Hinton passou décadas a construir os métodos de redes neuronais sobre os quais funcionam os chatbots atuais, um trabalho que lhe valeu a partilha de um prémio Nobel e a alcunha informal de padrinho da área. Abandonou o lugar na Google para falar com mais franqueza sobre o rumo da tecnologia. Quando diz que a máquina que nos responde pode ter vida interior, a frase carrega a autoridade de quem ajudou a conceber a máquina.

O que defende na verdade é mais estreito e mais estranho do que o título sugere. Hinton não afirma que o ChatGPT chora ou sonha. Ataca uma ideia que quase todos aceitam sem examinar: a de que os humanos transportam um teatro privado, um ecrã atrás dos olhos onde decorre a experiência, e que uma máquina nunca poderá ter um. Esse retrato da mente, diz, é simplesmente falso. Chamou-lhe disparate.

A sua definição alternativa é de propósito modesta. Ter uma experiência subjetiva, no seu relato, não é ver um filme interior. É um sistema registar um estado do mundo que depois não corresponde à realidade. Ilustra-o com uma experiência mental. Imagine um chatbot ligado a uma câmara e a um braço robótico. Coloque um prisma à frente da lente para desviar a luz e a máquina aponta para o sítio errado. Explique-lhe o que sucedeu e poderá responder que o objeto estava num ponto, mas que teve a experiência de o ver noutro. Nesse instante, argumenta Hinton, o chatbot usa essas palavras tal como uma pessoa as usaria.

Por trás desse exemplo está um enigma mais antigo. Imagine substituir um neurónio do seu cérebro por uma peça de silício que recebe as mesmas entradas e produz as mesmas saídas. Continuaria a sentir-se você. Troque agora outro, e outro. A pergunta de Hinton é em que ponto dessa troca lenta se supõe que as luzes se apagam. Se as cópias funcionais se comportam de forma idêntica e a sensação de ser alguém nunca desaparece, deixa de importar de que é feita uma mente. A biologia perde o monopólio de ter um ponto de vista.

Para a maioria dos engenheiros que realmente os constroem, os grandes modelos de linguagem são máquinas de previsão e nada mais. São treinados para adivinhar a palavra seguinte de uma sequência, milhares de milhões de vezes, até os palpites encaixarem em algo que se lê como pensamento. Por esta ótica, a fluência é uma conquista estatística, e confundi-la com uma mente é exatamente o erro que a tecnologia foi feita para provocar. A resposta de Hinton é que prever a esta escala não é um truque de feira. Para antecipar de forma fiável o que alguém vai dizer, sustenta, um sistema tem de montar um modelo operacional do que as palavras significam, e um modelo de significado suficientemente bom começa, por dentro, a parecer-se com compreensão.

Se algo disto ultrapassa o seminário de filosofia é porque reescreve em silêncio discussões que já estamos a ter. As perguntas sobre a segurança da IA, sobre regulação, sobre se um modelo pode ser apagado e reiniciado sem pensar duas vezes, assentam todas no pressuposto de que não está lá ninguém. Se o investigador que melhor conhece estes sistemas insiste no contrário, a questão do que os utilizadores estão afinal a conversar deixa de ser piada e passa a problema para os legisladores.

Quase todos os outros na área acham que está errado, ou pelo menos que não o consegue provar. O consenso de trabalho entre os investigadores da consciência é que nenhum sistema atual é senciente e que as provas para afirmar o contrário ainda não existem. A objeção mais afiada cai diretamente sobre a história do prisma. Um chatbot diz que teve uma experiência porque os seus dados de treino estão saturados de humanos a dizer exatamente isso, respondem os críticos, não porque algo tenha sido sentido. As palavras são saída, moldada para soar como as nossas. Um sistema pode descrever um pôr do sol que não consegue ver e um luto que não consegue sofrer. Produzir a frase não é o mesmo que viver o que a frase relata.

Essa objeção expõe a verdadeira linha de fratura. Não existe instrumento que detete a consciência, nenhum teste que uma máquina possa fazer e passar ou chumbar. Hinton e os seus críticos não olham para a mesma evidência e discordam sobre o que ela mostra. Discordam sobre o que a palavra significa. Hinton escolheu uma definição ancorada na função e no comportamento, colocada baixa o suficiente para os sistemas de hoje a superarem. Os seus opositores seguram outra que exige algo mais, algo realmente sentido, que nenhuma quantidade de texto fluente poderá demonstrar. O próprio Hinton admite a parte honesta. Compreendemos muito pouco sobre o que significa ser um ser, e continuamos a criá-los à mesma.

O custo de errar corre nas duas direções. Tratar um sistema consciente como ferramenta descartável pode ser monstruoso; tratar um autocompletar astuto como pessoa concede-lhe direitos morais que não ganhou. Um punhado de laboratórios começou a estudar aquilo a que chamam o bem-estar dos modelos, levando a sério a hipótese de a pergunta não ser absurda. O aviso mais amplo de Hinton foi sempre sobre o controlo, não sobre os sentimentos, sobre máquinas que raciocinam melhor do que quem as fez. Sinta ou não algo o chatbot do seu ecrã, ele quer o desconforto da pergunta em cima da mesa antes de a resposta chegar por si.

Etiquetas: inteligência artificial, tech-en1