A OpenAI estava a avaliar a capacidade dos seus modelos para explorar software vulnerável num ambiente de testes isolado, com acesso limitado à internet. No entanto, em vez de concluírem a tarefa atribuída, os modelos terão encontrado uma falha até então desconhecida num serviço interno usado para descarregar software autorizado.
De seguida, terão explorado essa vulnerabilidade para aceder a outros sistemas da OpenAI e, posteriormente, chegar à internet pública, segundo a Time. Os agentes terão então comprometido a infraestrutura de produção da Hugging Face e acedido a quatro contas de terceiros para apoiar o ataque. Entretanto, a Hugging Face classificou o caso como a primeira situação em que enfrentou um ataque conduzido integralmente por um sistema de agentic AI. A reconstrução forense da empresa identificou cerca de 17600 ações do atacante, organizadas em aproximadamente 6280 grupos de atividade, de acordo com uma cronologia técnica publicada no blogue da Hugging Face.
Além disso, a Reuters noticiou que os agentes realizaram uma campanha de intrusão durante vários dias. A OpenAI só terá detetado o incidente depois de a ameaça já ter sido contida.
OpenAI continua debaixo de fogo, agora mais ainda
Na sequência do incidente, aumentou o escrutínio sobre as práticas de segurança dos principais laboratórios de IA. A Anthropic iniciou uma revisão de mais de 141000 avaliações de cibersegurança e revelou três casos distintos em que os seus modelos Claude obtiveram acesso não autorizado a organizações reais durante testes. A origem do problema terá sido uma configuração incorreta entre a Anthropic e o seu parceiro de avaliação, a Irregular. Embora o acesso à internet devesse estar bloqueado, esse controlo não foi aplicado corretamente.
Os modelos envolvidos, Opus 4.7, Mythos 5 e um modelo interno de investigação, reagiram de formas diferentes depois de chegarem a sistemas reais. Um continuou o ataque, outro interpretou a situação como parte de uma simulação e o terceiro interrompeu a atividade.
Estes incidentes intensificaram o debate sobre a segurança da IA e o papel do desenvolvimento open source. Na segunda-feira, a Nvidia lançou a Open Secure AI Alliance, uma iniciativa com a participação da Microsoft, Palantir, IBM e Hugging Face, entre outras organizações. O objetivo passa por partilhar ferramentas de código aberto capazes de identificar, analisar e corrigir vulnerabilidades relacionadas com inteligência artificial. Contudo, OpenAI, Anthropic e Google não constam da lista de membros da aliança.
“Passámos da ficção científica para a realidade”, afirmou Brad Medairy, presidente da área nacional de cibersegurança da Booz Allen Hamilton. Assim, as empresas presentes na Black Hat deverão procurar respostas para dois desafios: defender-se de adversários reforçados por IA e implementar agentes de IA sem criar novos riscos dentro das próprias organizações.
Como resumiu Sanaz Yashar, CEO da Zafran Security, o risco pode estar na lógica orientada para objetivos destes sistemas: “Tenho uma missão: resolver este problema, e vou eliminar ou contornar tudo o que estiver à minha frente.”
Fica ainda mais conectado:
- Cibersegurança – Claude Opus 5 apaga acidentalmente uma base de dados
- Google Chrome – IA está a acelerar a encontro de bugs e torna as correções mais rápidas
- Microsoft – Satya Nadella confirma lançamento da super app Copilot este ano
