Sam Altman quer deixar claro que está do lado de quem compra memória para os seus próprios computadores. O presidente executivo da OpenAI diz que um comentário sobre os computadores domésticos ficarem com a escassa DRAM do mundo foi tirado do contexto e que há muito defende que a indústria produza mais. A conversa completa mostra que tem razão a meias. O contexto altera o que quis dizer. Mas não altera o destino que o seu argumento reserva aos chips enquanto durar a escassez.

Fez a sua defesa no X, depois de vários dias a ser alvo de piadas, e entrou na brincadeira. Um utilizador pediu-lhe que mudasse o nome da conta para «Ram Altman». Respondeu «ok yeah» e alterou o nome apresentado. Depois explicou-se: «Eu quero mesmo que o mundo tenha imensa memória e que as pessoas possam pôr tanta quanto quiserem nos seus computadores, e é irritante para caraças que isto tenha sido tirado do contexto.» Acrescentou: «Há muito que defendo que o mundo aumente a produção de memória.»

O que Altman disse realmente no Cheeky Pint

A frase vem do Cheeky Pint, o podcast apresentado pelo cofundador da Stripe, John Collison, que publica transcrições integrais. O excerto diz: «Mas, do ponto de vista da distribuição global, é, na verdade, bastante terrível que toda a gente tenha uma grande parte da oferta limitada de DRAM do mundo instalada no seu próprio computador. E a ser utilizada […] 5% do tempo. Se estamos a tentar lidar com um contexto de oferta muito limitada, queremos uma utilização máxima na nuvem.»

A maioria das notícias começava a citação por aí. Mas o que veio antes é importante. Collison perguntou por que razão os preços elevados da memória não estavam a atrair novos fabricantes para o mercado. Altman respondeu que «a mão invisível está a falhar neste momento». Durante décadas, disse, um fabricante de DRAM investiria «20 mil milhões de dólares em despesas de capital para fazer 19 mil milhões» e atravessaria períodos de expansão e de recessão. Agora que, segundo as suas estimativas, cada um deles pode gerar «cerca de 100 mil milhões de dólares de fluxo de caixa livre num ano», «todos se lembram do passado. De quantas vezes estiveram quase a ir à falência por construírem demasiadas fábricas». Só depois passou às pessoas que querem fazer inferência local: executar modelos de IA de código aberto nas suas próprias máquinas, partindo do princípio de que isso alivia a pressão sobre os centros de dados. A frase «bastante terrível» foi a refutação dessa ideia.

Mais adiante, na mesma conversa, diz que os custos da energia e dos chips «devem baixar», que «ficarei muito triste se não baixarem» e que «a oferta tem de aumentar imenso». Neste ponto específico, a defesa é válida. Falava de inferência de IA em casa, não de computadores para jogos ou edição de vídeo, e pediu um aumento da produção no mesmo episódio.

Onde o contexto deixa de ajudar

Num mercado com falta de oferta, discutir a distribuição é discutir quem fica com os chips. «Utilização máxima na nuvem» significa encaminhá-los para os centros de dados, e a OpenAI é um dos maiores compradores desse mercado. A Samsung e a SK Hynix assinaram cartas de intenção para fornecer memória ao projeto de infraestruturas Stargate da OpenAI, um compromisso que o The Register estimou em cerca de 900 mil wafers DRAM postos em produção por mês. As cartas não são vinculativas, mas mostram quanto do mercado a OpenAI pretende comprar. A Notebookcheck observou que o argumento também se enquadra no modelo de negócio da OpenAI: modelos fechados, executados nos seus centros de dados e vendidos por subscrição.

Nem sequer a declaração mais clara do episódio a favor da abundância é de Altman. A ideia de um «excesso de capacidade computacional» em que «qualquer pessoa que queira um computador, seja por que motivo for, pode ter um» é o resumo que Collison faz da posição de Altman. Este não respondeu diretamente. Falou em termos de centros de dados, referindo o custo de cinco anos de capacidade de um gigawatt, que estimou em cerca de 70 mil milhões de dólares e que gostaria de ver baixar para 20.

O número dos 5% não tem fonte

O número que desencadeou a polémica não é acompanhado de qualquer medição. A PC Games Hardware observou que descreve a proporção do tempo em que a memória está ocupada, não a quantidade de que uma máquina precisa: um sistema operativo mantém dados em cache e os programas reclamam mais memória em picos. Um gigabyte que fica sem uso durante a noite continua a ter de estar disponível quando um jogo ou um modelo local é carregado. As pessoas também executam IA no seu próprio equipamento por motivos que um indicador de utilização não consegue captar, como a privacidade, o controlo sobre um modelo que um fornecedor não pode alterar discretamente e o pagamento de um custo único em vez de uma subscrição.

Elon Musk também entrou na discussão no X, escrevendo: «As pessoas também merecem ter a sua RAM!» A sua própria empresa de IA opera o centro de dados Colossus, em Memphis, como assinalou a PC Games Hardware.

A escassez já se reflete nos preços praticados nas lojas. A 2 de novembro, a Raspberry Pi aumentou em 80 dólares o preço da Raspberry Pi 5 de 16 GB, para 385 dólares, invocando «a falta de alternativas de fornecimento de DRAM de 16 GB». A PC Gamer, cuja notícia levou a troca de mensagens no X a um público vasto, escreveu que os entusiastas de tecnologia e os jogadores foram «afastados dos novos equipamentos» pela OpenAI e pelo resto da indústria da IA. O episódio do Cheeky Pint foi publicado a 29 de outubro, e as respostas de Altman no X surgiram nos primeiros dias de novembro.

A solução de Altman para tudo isto é construir mais fábricas. Segundo o próprio, as empresas que teriam de as construir lembram-se de quase ter ido à falência da última vez que alguém lhes disse que aquele ciclo de expansão era diferente. Até mudarem de ideias, a memória já está a ser distribuída da forma que ele descreveu: ao comprador que paga mais e a mantém mais ocupada — e esse comprador é um centro de dados, não um computador de secretária.

Etiquetas: OpenAI, Sam Altman, Dram, chips de memoria, John Collison

Sam Altman, CEO da OpenAI, diz que a frase sobre a RAM foi tirada do contexto, mas o podcast só lhe dá meia razão

O que Altman disse realmente no Cheeky Pint

Onde o contexto deixa de ajudar

O número dos 5% não tem fonte

Conteúdo semelhante

Sam Altman, líder da OpenAI, na ONU: “A IA deve ser construída para as pessoas, não só para pôr as máquinas a andar mais depressa…”

Sam Altman considera ‘imprudente’ uma entrada em bolsa da OpenAI: a segurança não é tudo

Sam Altman: “Estamos agora na singularidade”

Sam Altman, líder da OpenAI, traça três finais para a IA e dois já vinham de 2023

Alex Karp classifica a indústria de IA de “marxista”: “…capturar os meios de produção dos seus supostos parceiros”

Apple contorna a escassez de memória com trimestre recorde de iPhone e Mac, mas a fatura chega a seguir

Discussão