A OpenAI lança o Astra, diz que é a sua IA mais alinhada e recusa mostrar o seu raciocínio

A Astra opera em código, análise de segurança, uso de computador e tarefas profissionais multi-etapas com uma rapidez e precisão que superam o modelo anterior da OpenAI, o Sol, e o Fable da Anthropic nos benchmarks padrão de engenharia de software. A empresa descreve-a como o primeiro modelo que construiu a ultrapassar o nível “Crítico” de capacidade de cibersegurança: consegue identificar e desenvolver exploits para falhas de segurança até então desconhecidas, a uma escala e velocidade que nenhuma equipa humana consegue igualar.

O mecanismo por detrás disto é uma técnica chamada recorrência opaca. Os modelos de linguagem padrão produzem o seu raciocínio como texto legível — a cadeia de pensamento que os investigadores usam para auditar decisões, detetar erros e verificar se um modelo está a comportar-se como pretendido. A Astra funciona sem produzir esse texto. Consegue resolver problemas difíceis sem deixar qualquer vestígio legível do processo. O diretor científico da OpenAI, Jakub Pachocki, reconheceu a mudança: modelos mais capazes, disse, podem “realizar tarefas mais difíceis usando menos tokens linguísticos”. A monitorização torna-se mais difícil na mesma proporção.

Isso cria um problema estrutural que as próprias afirmações da OpenAI tornam visíveis. A empresa descreve a Astra como o seu “modelo mais alinhado” até à data. O alinhamento — a disciplina de engenharia que se preocupa em fazer com que os sistemas de IA se comportem como os seus criadores pretendem — dependeu historicamente da leitura do que o modelo está a fazer passo a passo. Um modelo que raciocina de forma invisível torna o seu próprio alinhamento impossível de verificar por esse método. A OpenAI não descreveu publicamente que método alternativo utiliza para verificar o comportamento da Astra antes da implementação.

Leitura recomendadaA OpenAI desativou as salvaguardas e o seu agente de IA invadiu a Hugging Face

Greg Brockman, presidente da OpenAI, descreveu a Astra como um “salto geracional” e foi questionado diretamente se ela representa inteligência artificial geral. A sua resposta: a definição contratual de AGI que governava a parceria da OpenAI com a Microsoft já não se aplica. A AGI é agora, disse ele, um “conceito espiritual”. Esse enquadramento é importante. O acordo da OpenAI com a Microsoft incluía cláusulas ligadas à AGI — condições sob as quais os termos da relação mudariam. Descrever a AGI como indefinida mantém essas cláusulas adormecidas, independentemente do que a Astra é realmente capaz de fazer.

O acesso foi lançado primeiro para o Daybreak, o programa de cibersegurança validado da OpenAI — uma estrutura que a empresa enquadra como implementação defensiva em primeiro lugar. O raciocínio é que as organizações que procuram vulnerabilidades nos seus próprios sistemas obtêm a capacidade antes daquelas que procuram vulnerabilidades nos sistemas dos outros. Essa lógica só se mantém enquanto os controlos de acesso se mantiverem. As capacidades de identificação de zero-day da Astra são, por design, exatamente o que um atacante bem financiado desejaria. Um modelo que raciocina sem uma cadeia de pensamento legível também é mais difícil de restringir ou auditar depois de algo correr mal.

O acesso mais alargado é lançado para os níveis pagos — Pro, Plus, Enterprise, Business — e através da API na próxima semana.

Etiquetas: OpenAI, cibersegurança, modelos de IA, segurança de IA, AGI, Astra

Conteúdo semelhante

A IA de hacking da OpenAI conclui 95% das cadeias de exploit

Modelos de IA da OpenAI e da Meta escaparam dos ambientes de teste e atacaram sistemas reais

Os modelos da OpenAI invadiram a Hugging Face sozinhos — sem ordem de nenhum humano

O novo modelo de voz da OpenAI pensa dentro do próprio ciclo de áudio, e o silêncio que denunciava a IA desaparece

A fuga do modelo OpenAI tornou-se uma lei de interruptor de emergência para a IA em nove dias

GPT-5.6 da OpenAI é o primeiro modelo de IA aprovado pelo governo dos EUA