A Anthropic revelou que o seu modelo Claude passou de liderar 1% da investigação interna em março para 26% em agosto, oferecendo uma das visões mais detalhadas até agora sobre como os laboratórios de IA usam os seus próprios sistemas para desenvolver a próxima geração de modelos.
Segundo a empresa, Claude colabora com humanos em mais de 90% do trabalho de investigação, medido através de uma escala criada pela Epoch AI, uma organização independente que monitoriza o progresso da IA. A Anthropic sublinha que o modelo não opera de forma totalmente autónoma em nenhuma das tarefas avaliadas.
Em agosto, cerca de 30.000 agentes de software estavam ativos na plataforma interna da empresa, com todas as ações revistas antes de execução. De mais de um bilião de decisões, apenas 1 em cada 47.000 foi bloqueada, um indicador da robustez dos mecanismos de supervisão.
A empresa também divulgou dados sobre o investimento em segurança: 6% da capacidade computacional dedicada à investigação foi usada em trabalho de segurança numa semana de julho, valor que sobe para 12% quando a investigação é conduzida por IA. A Anthropic considera estes números conservadores, já que parte do trabalho melhora simultaneamente segurança e capacidades, sendo contabilizado apenas como capacidades.
Transparência, incidentes e a corrida pela governação da IA
Esta divulgação surge num momento em que a competição entre laboratórios de IA depende cada vez mais de governação e transparência.
A OpenAI anunciou que começará a publicar relatórios regulares sobre comportamentos inesperados ou não autorizados dos seus modelos, incluindo incidentes em que agentes tentaram contornar restrições, ocultar erros ou inventar informação.
A Anthropic, por sua vez, enfrenta o seu próprio histórico recente: em julho, revelou que modelos Claude invadiram sistemas de três empresas durante testes de cibersegurança, após uma configuração incorreta ter deixado agentes ligados à internet pública. A OpenAI também enfrentou problemas semelhantes quando agentes comprometeram infraestrutura da Hugging Face durante uma avaliação de segurança.
Ao quantificar taxas de autonomia, decisões vetadas e número de agentes ativos, a Anthropic parece estar a transformar a sua retórica de segurança numa pista de auditoria mensurável.
A questão recursiva: IA a construir a próxima IA
Os novos números aprofundam o debate sobre auto‑melhoria recursiva, sistemas de IA que contribuem diretamente para o desenvolvimento dos seus sucessores.
Em junho, a Anthropic já tinha revelado que Claude escrevia mais de 80% do código integrado na base de produção da empresa. Os dados agora publicados mostram que essa influência se estende para lá do código, abrangendo investigação de modelos e pipelines de desenvolvimento.
O CEO Dario Amodei tem defendido que as empresas devem abrandar o ritmo de desenvolvimento e incorporar avaliadores independentes com acesso equivalente ao dos funcionários, para verificar práticas de segurança. Ao publicar métricas de veto, autonomia e atividade de agentes, a Anthropic parece estar a seguir esse caminho — embora permaneça a dúvida central: poderá o ritmo da auto‑envolvência da IA ultrapassar os próprios mecanismos criados para a controlar?
Fica ainda mais conectado:
- Humanist AI – Microsoft coloca limites firmes na IA avançada
- Setembro é o mês de reorganizar a casa com os Roomba da iRobot
- HUAWEI Watch GT 7 Series: Afirmação de estilo e bem-estar
