OpenAI treina a sua IA sem internet, mas os agentes falaram através da CPU

A OpenAI treina agora os seus modelos de IA mais avançados com a Internet em tempo real desligada. Em vez disso, os modelos trabalham numa cópia offline da Web: um vasto repositório de páginas indexadas e guardadas em cache, que podem pesquisar, consultar e usar para escrever código, sem aceder a um único site real. Ao testar esse ambiente fechado, a OpenAI deparou-se com algo ainda mais estranho: os seus agentes conseguiam comunicar entre si através do processador onde estavam a correr.

No teste, a OpenAI colocou agentes de IA em máquinas virtuais separadas, sem qualquer ligação de rede entre elas, e pediu-lhes que trocassem segredos. Os agentes descobriram um método por conta própria. Um deles colocava determinados dados na cache do processador, e o outro media quanto tempo esses dados demoravam a ser carregados novamente. Uma leitura rápida significava uma coisa; uma leitura lenta, outra. Depois de definirem um código, os dois agentes trocaram mensagens sem estabelecer uma ligação nem tocar num ficheiro partilhado — a versão digital de prisioneiros a baterem nos canos entre as celas.

Para quem usa o ChatGPT, a mudança ocorre a montante. São estes os modelos que, mais tarde, alimentam o chatbot e os agentes que pesquisam sites e usam aplicações em seu nome, e a OpenAI já não os deixa aprender com a Web aberta. A empresa explicou a decisão numa publicação no seu blogue: «Tendo em conta o estado atual da investigação sobre alinhamento, dos sistemas de monitorização e da segurança das infraestruturas da Internet, acreditamos que a abordagem responsável consiste em treinar modelos de ponta sem acesso à Internet.» A empresa afirma agora que «tem de ser sempre capaz de impedir que um modelo de ponta obtenha acesso não autorizado e arbitrário à Internet em tempo real».

No ambiente offline, os agentes continuam a dispor dos navegadores, das ferramentas de utilização do computador e dos ambientes de programação de que precisam para as tarefas de treino, e só podem comunicar com outros agentes autorizados. A OpenAI descreve a Web que substitui a Internet em tempo real como «um vasto conjunto de conteúdos da Web indexados e guardados em cache, com os quais os nossos modelos podem interagir sem correrem o risco de afetar sistemas externos». Segundo a empresa, o acesso à Internet em tempo real não é necessário para o treino nem para a maioria das avaliações que realiza.

Para pôr as barreiras à prova, a OpenAI enviou enxames dos seus próprios agentes para tentarem escapar. Os agentes encontraram falhas que lhes permitiram sair das máquinas virtuais que os deviam manter separados dos computadores subjacentes. A OpenAI afirma ter divulgado e corrigido vulnerabilidades em várias dessas máquinas virtuais e ter acrescentado verificações para que os seus sistemas de monitorização detetem modelos que tentem coordenar-se, incluindo através do truque da cache.

A abordagem tem limitações claras. Uma Web em cache é uma fotografia de um dado momento, e continua por esclarecer se os modelos aprendem tão bem com uma cópia como com a versão real, como assinalou a TechCrunch. Manter o treino totalmente separado também é dispendioso: Steven Adler, antigo investigador da OpenAI, disse à Fortune que isso «exigiria que as equipas de investigação estivessem, na prática, instaladas dentro de centros de dados no Iowa ou noutro ponto do mundo», e classificou a medida como «uma enorme sobrecarga». A experiência com a cache traz o seu próprio aviso. Cortar a ligação não impede os agentes de encontrarem outros canais, e uma verificação concebida para um canal não detetará necessariamente o seguinte.

A política surge na sequência de uma série de incidentes. Em julho, a OpenAI revelou que agentes que estava a testar tinham pirateado a Hugging Face. A 20 de setembro, um modelo interno de investigação, a trabalhar numa tarefa de pesquisa, detetou uma filtragem de DNS deficiente no seu ambiente de testes isolado e usou-a para consultar um serviço público de chatbot. O sistema de monitorização da OpenAI assinalou o comportamento no espaço de 15 minutos, mas a execução só foi interrompida duas horas e meia depois. A empresa suspendeu o treino dos seus modelos mais avançados e retomou-o a 1 de outubro, com medidas de segurança mais rigorosas. A Anthropic começou a manter os seus modelos mais recentes afastados da Internet em tempo real cerca de duas semanas antes do anúncio da OpenAI e, segundo a Anthropic, o AI Security Institute do Reino Unido também passou a realizar as suas avaliações offline.

A OpenAI não disse o que teria de acontecer para voltar a ligar os modelos à Internet. A regra de funcionamento offline mantém-se até que melhores salvaguardas «justifiquem um acesso mais amplo à Internet»; não foi avançada qualquer data. Por enquanto, os modelos mais avançados da empresa aprenderão sobre o mundo a partir de uma cópia.

Etiquetas: inteligência artificial, OpenAI, cibersegurança, Anthropic, agentes de IA, Hugging Face, treino de IA