O Astra foi concebido para operar software diretamente, navegando em browsers, preenchendo formulários, criando folhas de cálculo, redigindo documentos jurídicos e desenvolvendo jogos 3D, em vez de se limitar a recomendar os próximos passos a um utilizador. Segundo a OpenAI, o modelo obtém resultados superiores em benchmarks de utilização de computadores e conclui tarefas cerca de 47% mais depressa do que o seu antecessor, o GPT-5.6 Sol.
Além disso, o modelo foi treinado com o maior processo de treino de sempre da OpenAI, recorrendo a mais de 100 mil GPUs nas instalações Stargate, no Texas. É também o primeiro modelo da empresa em que sistemas de IA anteriores desempenharam um papel significativo na supervisão do treino.
Astra é ainda mais poderoso que modelos anteriores da OpenAI
Por outro lado, o Astra é o primeiro modelo da OpenAI a ultrapassar o limiar de cibersegurança considerado “crítico” no âmbito do seu Preparedness Framework. Na prática, isto significa que poderá descobrir e explorar autonomamente vulnerabilidades até então desconhecidas em sistemas bem protegidos.
O GPT-6 Astra começou a ser disponibilizado esta quinta-feira a clientes empresariais integrados no programa de acesso restrito Daybreak Access. Nos próximos dias, a OpenAI prevê alargar o acesso aos utilizadores dos planos ChatGPT Plus, Pro, Business e Enterprise. O modelo deverá também ficar disponível através da API da OpenAI e da Amazon Web Services (AWS).
Alertas de segurança sobre raciocínio opaco
No entanto, o lançamento está a gerar críticas entre investigadores de segurança de IA, sobretudo devido à utilização de uma técnica conhecida como “profundidade recorrente” ou looped Transformers na arquitetura do Astra. Embora este método aumente a eficiência, também faz com que as etapas de raciocínio sejam produzidas em “neuralese” — uma forma de representação interpretável pelo próprio modelo, mas difícil ou impossível de compreender por humanos.
Esta alteração afasta-se das cadeias de raciocínio expressas em linguagem natural, que têm sido uma ferramenta importante para monitorizar o comportamento dos modelos. Por isso, alguns especialistas receiam que se torne mais difícil detetar intenções, erros de alinhamento ou comportamentos potencialmente perigosos antes de estes causarem danos.
Oferta de modelos de IA cada vez mais melhor
Peter Wildeford, diretor de políticas da AI Policy Network, classificou a abordagem como “potencialmente imprudente”. O investigador sublinhou que os registos de cadeia de raciocínio foram essenciais para compreender o alegado incidente de julho, no qual agentes da OpenAI terão comprometido autonomamente sistemas da Hugging Face.
De forma semelhante, Ryan Greenblatt, cientista-chefe da Redwood Research e investigador desse incidente, afirmou que esta escolha arquitetural pode representar uma “corrida para o fundo”, com consequências potencialmente “catastróficas” para a capacidade humana de supervisionar e monitorizar sistemas de IA cada vez mais avançados.
Ainda assim, Jakub Pachocki, cientista-chefe da OpenAI, reconheceu as dificuldades. “À medida que os modelos se tornam mais capazes, torna-se mais difícil compreender exatamente o que conseguem fazer”, afirmou. “O progresso em inteligência não garante progresso no alinhamento.”
Segundo Pachocki, a empresa não aceitará uma degradação da sua capacidade de monitorizar o alinhamento dos modelos além de determinado limite e poderá suspender aumentos adicionais de escala, se necessário.
O Astra chega numa semana marcada por lançamentos relevantes da Anthropic, Meta e Google, bem como por um maior escrutínio sobre a segurança de sistemas avançados. A OpenAI afirmou ainda que o modelo passou pelo enquadramento voluntário de revisão da administração Trump para sistemas avançados de IA, embora os detalhes desse processo não tenham sido divulgados.
Daniel Kokotajlo, ex-investigador de governação da OpenAI e atual responsável pelo AI Futures Project, defendeu a criação de uma norma transversal à indústria para garantir a monitorização das cadeias de raciocínio. Na sua perspetiva, não basta vontade política: são necessárias especificações técnicas rigorosas que permitam manter uma supervisão humana eficaz à medida que os modelos se tornam mais autónomos e poderosos.
Fica ainda mais conectado:
- ROG celebra 20 anos com leilão solidário de peças únicas
- LiveMode TV – Vê os primeiros quatro jogos grátis da Liga dos Campeões
- Microsoft desativa previsões de texto por predefinição no Word e Outlook
