Investigadores desenvolveram uma técnica capaz de extrair vestígios de raciocínio oculto de modelos de inteligência artificial de topo. A descoberta revelou indícios de que, pelo menos, um sistema chinês poderá ter sido treinado através da destilação de conhecimentos obtidos de modelos norte-americanos, embora os autores sublinhem que os resultados não constituem uma prova definitiva.
Cientistas informáticos da Universidade de Tübingen, do Instituto Max Planck, da organização de segurança em IA MATS Research e da empresa de cibersegurança Snyk identificaram uma vulnerabilidade em modelos da OpenAI, Anthropic e Google. Esta falha permite extrair etapas de raciocínio ocultas, ou seja, os processos detalhados que os sistemas usam para resolver problemas complexos.
Extração do raciocínio interno dos modelos de IA
“Todos os principais fornecedores de modelos de fronteira que analisámos apresentam esta vulnerabilidade”, afirmou Alexander Panfilov, cientista informático da Universidade de Tübingen e um dos participantes no estudo. “Isto pode resultar na exposição de dados pessoais e facilitar ataques de destilação de raciocínio em larga escala.”
No artigo científico, os investigadores demonstram que o modelo de pesos abertos Kimi K3, da Moonshot AI, gera respostas “notavelmente semelhantes” aos vestígios de raciocínio ocultos do Claude Opus 4.8 e do GPT 5.6 Sol, em determinados pedidos. Ainda assim, alertam que o trabalho “não pode estabelecer causalmente a ocorrência de destilação”.
Além disso, a equipa concluiu que outros dois modelos de pesos abertos — o DeepSeek, da China, e o Inkling, da empresa norte-americana Thinking Machines — não apresentaram o mesmo nível de semelhança com o raciocínio do Claude Opus.
Falha de segurança reacende debate sobre destilação de IA
Para lá da possível destilação, a técnica expôs uma vulnerabilidade de segurança que poderia ser explorada para recuperar informação sensível, incluindo palavras-passe e chaves de API, a partir do raciocínio interno de um modelo. Os investigadores alertaram a OpenAI, a Anthropic e a Google, e as três empresas alteraram as respetivas APIs para mitigar o problema.
Embora já não seja possível extrair informação privada através deste método, Panfilov indicou que alguns vestígios de raciocínio continuam a poder ser recuperados. Segundo o investigador, eliminar completamente o risco de destilação exigiria uma “reformulação fundamental” da forma como as APIs destas empresas funcionam.
A descoberta surge num contexto de crescente tensão entre empresas norte-americanas e chinesas em torno da destilação de IA. Em fevereiro, a Anthropic e a OpenAI divulgaram evidências de campanhas sistemáticas de destilação atribuídas a empresas chinesas de inteligência artificial.
Mais recentemente, quando a Moonshot AI lançou o Kimi K3, em julho, Michael Kratsios, conselheiro científico da Casa Branca, acusou a empresa de copiar tecnologia da Anthropic. No entanto, especialistas independentes questionaram se o intervalo entre o lançamento público do Claude e a chegada do Kimi K3 ao mercado seria suficiente para sustentar essa acusação.
Assim, a investigação liderada por Panfilov acrescenta uma nova dimensão técnica ao debate. Por um lado, apresenta um método que poderá detetar a destilação em grande escala; por outro, evidencia que as ferramentas de transparência criadas para reforçar a segurança da IA também podem expor os modelos a formas de extração competitiva.
Fica ainda mais conectado:
- Onde assistir à apresentação do Google Pixel 11
- Google Pixel 11 Pro é visto antes da apresentação oficial
- House of the Dragon – Quando estreia a última temporada?
