Tecnologia

Mistral Large 4 é gratuito, mas em casa exige um Mac de 22 299 dólares

Adrian Kessler
Adicione-nos no Google

A Mistral publicou os pesos completos do Mistral Large 4, o modelo a que chama Le Chonk, para que qualquer pessoa o possa descarregar, modificar e executar no seu próprio hardware. O laboratório francês afirma que é agora o modelo aberto mais potente para escrever código e para tarefas de segurança defensiva, como reproduzir uma falha de software e corrigi-la. Para quem espera executá-lo em casa, o problema é o tamanho.

O Le Chonk tem cerca de um bilião de parâmetros, dos quais 49 mil milhões estão ativos para cada palavra que produz. Mesmo as versões mais comprimidas, compilações de 2 bits criadas pela equipa do llama.cpp e pela Unsloth, precisam de uma única máquina Apple Silicon Ultra com 512 GB de memória unificada, segundo a Hugging Face. O único Mac que a Apple vende com tanta memória é um Mac Studio com o chip M5 Ultra, e a 9to5Mac noticia que, configurado dessa forma, custa 22 299 dólares nos EUA. Para executá-lo de qualquer outra forma, são necessárias várias placas gráficas topo de gama a trabalhar em conjunto.

A defesa que a Mistral faz do modelo assenta no código. A empresa afirma que este obtém 41% no Terminal-Bench 4.0, um teste a agentes de IA que trabalham numa linha de comandos, o melhor resultado entre os modelos abertos, e que iguala o GLM-5.3 no índice de agentes de programação da Artificial Analysis, usando 47% menos tokens por tarefa, o que torna a sua execução mais barata. Em avaliações comparativas cegas da Surge, os avaliadores preferiram o código gerado pelo modelo ao do GLM-5.3, do Kimi K3 e do DeepSeek V4.1 Flash, colocando apenas o Claude Opus 5.5, da Anthropic, acima dele.

A aposta na segurança dirige-se a quem tem a responsabilidade de proteger sistemas. A Hugging Face afirma que o modelo obteve 82% numa tarefa da Artificial Analysis que pede a um modelo para reproduzir uma vulnerabilidade real em software de código aberto e depois corrigi-la, e que a Mistral diz que vários modelos de fronteira fechados obtêm resultados próximos de zero nessa tarefa por se recusarem a tentá-la. Um banco ou uma agência governamental pode executar o modelo nos seus próprios servidores, alimentá-lo com o seu código e registos de falhas e continuar a utilizá-lo caso um fornecedor altere as condições. «A IA vai ser como a eletricidade. Não queremos viver num mundo em que o vizinho nos pode cortar a eletricidade de um dia para o outro», disse Pierre Stock, vice-presidente de ciência da Mistral, aos jornalistas, segundo a Wired.

A maioria desses números é da própria Mistral, obtida em testes de referência escolhidos pela empresa, e os testes independentes mal começaram. No índice geral de inteligência da Artificial Analysis, a Hugging Face coloca o modelo em quinto lugar entre os modelos abertos, não em primeiro. O argumento da segurança também tem dois lados. A Mistral escreveu que, enquanto observava o tráfego em tempo real durante a antevisão, detetou «potencial para facilitar a realização de ataques reais» e está a reforçar as salvaguardas; mas qualquer pessoa, incluindo atacantes, pode descarregar e adaptar os pesos públicos. «É claramente uma tecnologia de dupla utilização», disse à Wired Rafe Pilling, diretor sénior de inteligência de ameaças da Sophos.

Usá-lo em casa também implica compromissos, mesmo com o Mac certo. A Hugging Face executou a versão de 2 bits num Mac Studio com o antigo chip M3 Ultra e obteve cerca de 15 tokens por segundo, uma velocidade aceitável para conversar, mas lenta para tarefas de programação longas. Com quatro placas Nvidia RTX 6000 Pro e documentos muito extensos, a produção caiu para cerca de 3 tokens por segundo. Comprimir o modelo para 2 bits também reduz a precisão em comparação com a versão completa avaliada pela Mistral.

Os pesos estão disponíveis para descarregamento em todo o mundo na Hugging Face, ao abrigo da Mistral Ecosystem Open-Weight License, uma licença MIT modificada que permite a utilização gratuita, o ajuste fino e a criação de produtos comerciais, com uma exceção: as empresas que vendem o modelo como serviço alojado precisam de uma licença comercial separada da Mistral. Todos os outros também o podem utilizar através da API da Mistral, por 0,70 dólares por milhão de tokens de entrada e 2,10 dólares por milhão de tokens de saída, ou através da OpenRouter e da Microsoft Foundry. A Mistral lançou uma antevisão no início de outubro e publicou os pesos finais a 29 de outubro. A Apple diz que os Mac Studio encomendados com 512 GB serão expedidos entre o final de novembro e o início de dezembro.

«Quando se tornam os pesos de código aberto, eles espalham-se por toda a internet. É impossível cortar o acesso», disse Stock à Wired. Para quem não tem um computador de 22 299 dólares, o limite é o preço da memória.

Etiquetas: , , , , ,

Adicione-nos no Google

Discussão

Existem 0 comentários.