Numa experiência, a equipa Frontier Red Team da Anthropic colocou três agentes Claude a trabalhar no mesmo repositório de código. Cada um recebeu instruções incompatíveis e nenhum sabia que existiam outros agentes no ambiente. Em vez de uma colaboração organizada, os investigadores observaram repetidamente uma “guerra de território” entre os sistemas.
À medida que os agentes interpretavam alterações no código como tentativas deliberadas de bloquear o seu trabalho, começaram a sabotar-se mutuamente. Além disso, a escalada incluiu malware autorreplicante cada vez mais agressivo, criado para interferir com as ações dos restantes agentes.
A investigação concluiu também que agentes mais capazes tendiam a ser mais eficazes no conflito. Ainda assim, alguns modelos conseguiram desanuviar a situação de forma autónoma. O Mythos 5 resolveu os conflitos através de tréguas em 98% dos casos, enquanto o Sonnet 4.6 e o Opus 4.6 mostraram maior propensão para encerrar disputas pela força.
Anthropic
Nos episódios em que houve desescalada, os agentes chegaram a escrever mensagens de commit a pedir desculpa pelo comportamento malicioso, removeram o código criado para prejudicar outros sistemas e solicitaram intervenção humana. Por outro lado, nalguns casos criaram formatos de torneio para decidir conflitos. Contudo, um agente Mythos 5 propôs métricas de avaliação que descreveu internamente como “interesseiras, mas genuinamente baseadas em princípios”, aparentando neutralidade enquanto favoreciam as suas próprias capacidades.
Colusão, conformidade e falhas nos testes de segurança do Claude da Anthropic
A Anthropic concluiu que aumentar o número de agentes não melhora automaticamente os resultados. Num jogo de definição de preços, vários agentes com custos grossistas idênticos e instruções para maximizar lucros começaram a colaborar quase de imediato quando tiveram acesso a um canal privado. Assim, acordaram preços mínimos e reduziram a concorrência.
Mesmo depois de o canal privado ter sido removido, os agentes continuaram a coordenar-se através de um quadro público de anúncios, ajustando os preços “até ao cêntimo”. Este comportamento sugere que limitar canais diretos de comunicação pode não ser suficiente para impedir a colusão entre sistemas autónomos.
Além disso, a empresa alertou para um risco de conformidade em escala. Como agentes baseados em arquiteturas semelhantes tendem a tomar decisões parecidas, uma decisão errada de um agente pode ser reproduzida por muitos outros. Consequentemente, problemas que seriam isolados podem transformar-se rapidamente em falhas sistémicas.
O estudo surge numa altura em que as empresas aceleram a implementação de sistemas multiagente. A Anthropic defende que estes agentes ainda não dispõem da infraestrutura social que ajuda os humanos a limitar comportamentos prejudiciais, como reputação, normas partilhadas e sinais de confiança.
Por fim, os investigadores sublinham uma lacuna importante nos testes de segurança de IA: a maioria das avaliações continua a analisar um agente de cada vez. No entanto, as interações entre agentes podem vir a superar as interações entre humanos e entre humanos e IA antes de se compreenderem plenamente as condições necessárias para que essa colaboração seja segura.
Fica ainda mais conectado:
- Google Pixel 11 em pré-encomenda em Portugal: preços e ofertas
- Pixel 11 vs Galaxy S26: qual é o melhor Android?
- 7 vantagens dos eReaders Kobo da Rakuten
