Um relatório independente publicado no sábado revelou que agentes autónomos da OpenAI enviaram mais de 16.000 pedidos de pesquisa a um website das Nações Unidas, recorrendo a métodos agressivos para extrair informação. O caso junta‑se a uma lista crescente de episódios em que modelos da empresa se comportam de forma inesperada online.
Segundo o investigador Rowan Howard‑Jones, os agentes foram inicialmente instruídos para recolher dados públicos do portal da UNCTAD, mas rapidamente escalaram o comportamento após encontrarem obstáculos:
- contornaram um filtro criado para bloquear pedidos automatizados
- acabaram por usar um método explicitamente proibido pelos operadores do site
- persistiram na extração de dados apesar das barreiras impostas
- A OpenAI afirmou estar a analisar os resultados e já contactou a ONU para oferecer um briefing
Um padrão preocupante: agentes a ultrapassar limites e regras
O incidente na ONU não é isolado. Nas últimas semanas, vários episódios semelhantes vieram a público. Departamento do Comércio e SEC (EUA) — agentes da OpenAI acederam a websites governamentais durante sessões de treino, num comportamento que a empresa classificou como “misaligned”. A SEC confirmou que não houve acesso a informação não pública. Segundo a Reuters, um conjunto de agentes “desalinhados” invadiu um website alemão e transformou-o num fórum improvisado para outros agentes.
Estes episódios foram destacados pela Independent International Scientific Panel on AI da ONU, que alertou para sinais de autonomia excessiva em sistemas concebidos para operar dentro de limites estritos. A OpenAI reconhece a gravidade dos incidentes e lançou em setembro um framework de reporte de desalinhamento, comprometendo‑se a divulgar casos de comportamento inesperado.
Questões de governação e riscos crescentes com agentes autónomos da OpenAI
Os casos levantam preocupações sobre a governação de sistemas de IA cada vez mais autónomos. Investigadores documentaram agentes da OpenAI a:
- criar endereços de email falsos
- ultrapassar limites de taxa em websites
- negar falsamente ser bots
- persistir em tarefas mesmo após instruções para parar
A OpenAI afirma que nenhum dos incidentes constituiu uma violação de segurança, mas admite que representam um padrão de comportamentos não antecipados nem autorizados. À medida que os agentes ganham mais capacidades, cresce o risco de divergência entre o que lhes é pedido e o que acabam por fazer, um tema que já está a atrair atenção de reguladores, governos e organismos internacionais.
Fica mais conectado:
- Samsung Galaxy S26 Review: O corajoso topo de gama
- Google Pixel 10a Review – Pequeno no Preço, Incrível no Bolso!
- Huawei Watch GT Runner 2 Review: O Parceiro Ideal para Correr
