OpenAI e Anthropic querem travar a IA — e isso constrói-lhes um fosso

O que é impressionante no entusiasmo súbito em abrandar a inteligência artificial não é que as pessoas que a estão a construir agora queiram travões. É que os travões que descrevem são aqueles que só eles podem confortavelmente pagar. Quando os líderes dos laboratórios de IA mais valiosos concordam, quase em uníssono, que o campo está a avançar depressa demais, o argumento da segurança é real — e também o é o argumento de negócio que está calmamente por baixo.

O gatilho foi uma chamada de Dario Amodei, da Anthropic, para “marcar o ritmo da fronteira”: abrandar a velocidade a que as capacidades dos modelos melhoram, instalar avaliadores independentes dentro dos laboratórios, e levar os principais intervenientes nos países democráticos a concordar com normas de segurança comuns. Ele enquadrou a reação pública contra a IA como, nas suas palavras, uma crise de confiança. Numa curta janela, Sam Altman disse que concordava, e que a OpenAI tinha estado a discutir exatamente isso; Elon Musk ofereceu um endosso de duas palavras, “Dario tem razão.” A cobertura tratou-o como uma consciência atrasada que chegou de uma só vez.

Leia o mesmo plano como analista em vez de oficial de segurança e uma segunda imagem aparece. Revisores externos incorporados, testes de alinhamento certificados, estruturas de risco publicadas e relatórios de incidentes não são apenas salvaguardas; são custos fixos. E custos fixos são a arma competitiva mais fiável que uma grande empresa possui, porque recaem sobre todos igualmente em dólares e sobre ninguém igualmente em dor.

Considere a aritmética. Os maiores fornecedores de infraestrutura de nuvem e IA dos EUA comprometeram-se com algo na ordem dos 660 a 690 mil milhões de dólares em despesas de capital para o próximo ano, com a Amazon sozinha perto dos 200 mil milhões e a Alphabet, Meta e Microsoft cada uma nas centenas de milhares de milhões ou a aproximar-se disso. Contra balanços como estes, um regime de conformidade — uma equipa de avaliadores incorporados, uma estrutura de segurança anual, uma penalidade que a Califórnia limita a um milhão de dólares por violação — é um erro de arredondamento. Para uma startup a tentar alcançar a fronteira, é a pista inteira.

Isto já não é hipotético. O SB 53 da Califórnia já define um “grande desenvolvedor de fronteira” por dois critérios: modelos treinados acima de um limiar de computação muito alto, e mais de meio milhão de milhões de dólares em receita. Essas empresas devem publicar estruturas de segurança e reportar incidentes críticos em prazos apertados. Na Europa, o Artigo 55 do AI Act exige que os fornecedores dos modelos de uso geral mais capazes realizem testes adversariais, mitiguem risco sistémico e reportem incidentes graves. O piso está a ser derramado; a questão é quem é alto o suficiente para ficar em cima dele sem notar.

O sinal mais claro é quem não está a pedir travões. O plano nunca nomeia os seus perdedores naturais, mas são fáceis de identificar: os laboratórios cujo modelo inteiro é dar os pesos — Meta, a Mistral francesa, a DeepSeek chinesa e a Alibaba. Como uma análise dissidente colocou, estes são “os quatro nomes que o ensaio nunca imprime,” os criadores dos modelos gratuitos que um cliente pagante poderia descarregar em vez de alugar uma API. Não se pode certificar o alinhamento de um modelo que qualquer pessoa pode modificar numa tarde, por isso um regime de normas apontado à fronteira atinge mais duramente os pesos abertos. E o campo aberto está a ganhar exatamente os utilizadores que os incumbentes preferiam manter: um modelo aberto chinês, Qwen, conta descargas na casa dos milhares de milhões onde a Llama da Meta conta nas centenas de milhões.

Nada disto é novo. É o movimento mais antigo em qualquer indústria regulada — o interveniente estabelecido dá as boas-vindas ao livro de regras que pode pagar, porque um custo que é trivial nos seus livros é uma parede no de um rival. Os economistas têm um nome simples para isto, captura regulatória, e não requer má-fé. Um argumento de segurança pode ser totalmente sincero e ainda assim funcionar como uma barreira à entrada. Aqui, ambas as coisas são verdade ao mesmo tempo.

Para a Europa, os riscos são mais agudos do que parecem. O único desafiante de fronteira credível do continente, a Mistral, é precisamente um laboratório de pesos abertos, e os seus clientes espanhóis e europeus em geral — as startups a construir produtos com modelos baratos e modificáveis — são os que perdem mais se o piso de conformidade global for escrito à volta de quatro incumbentes americanos. Um livro de regras desenhado em São Francisco e ratificado em Bruxelas pode proteger o público e puxar a escada para cima atrás dos líderes ao mesmo tempo.

Portanto, bem-vindo à viragem da segurança: os riscos são reais e os avaliadores estão atrasados. Mas veja o que vem a seguir. Se as regras finais assentarem exatamente onde os quatro gigantes podem pagar e ninguém mais pequeno pode, o abrandamento não terá marcado o ritmo da fronteira tanto quanto a terá vedado.

Etiquetas: OpenAI, Anthropic, AI regulation, Mistral, open-weight models