Notion AI: ataque a fornecedor expôs conversas de clientes com a IA

Se usas o Notion AI no trabalho, este é um bom momento para pensares no que já escreveste nas conversas com a IA. O Notion confirmou que um ataque informático à Fireworks AI, uma empresa que lhe prestava serviços de inteligência artificial, expôs conversas de clientes com o Notion AI. Segundo o boletim de segurança oficial do Notion, publicado a 12 de novembro e atualizado hoje, estão em causa menos de 1% dos espaços de trabalho.

O Notion sublinha que os seus próprios sistemas não foram invadidos. O problema esteve num fornecedor.

O que aconteceu com o Notion AI

O Notion usava a Fireworks para duas coisas: correr modelos de IA de pesos abertos dentro do produto e analisar conversas para a função Insights, que mostra aos administradores como a equipa usa a IA. Foi essa segunda função que ficou exposta. A cronologia publicada pelo Notion é esta:

• 2 de novembro: a Fireworks avisa que atacantes acederam a um pequeno conjunto de dados, inicialmente só dados de teste sintéticos.
• 3 e 4 de novembro: por precaução, o Notion corta a ligação à Fireworks e apaga todos os seus dados nesse sistema.
• 6 a 8 de novembro: a Fireworks admite que podem ter sido acedidos dados de clientes e confirma o conjunto afetado.
• 9 de novembro: o Notion contacta os clientes afetados.
• 11 e 12 de novembro: o Notion revoga as suas chaves de API encontradas nas mensagens expostas e avisa outras empresas cujas chaves também lá apareciam.

Que dados foram expostos

Foram transcrições de conversas com o Notion AI usadas na função Insights. Segundo a página de ajuda do Notion, incluem tudo o que foi escrito pelo utilizador ou gerado pelo modelo na conversa. As notas de reuniões feitas com IA, incluindo áudio e transcrições, não foram afetadas, a não ser que tenham sido coladas numa conversa.

O Notion diz que, na grande maioria dos casos, as conversas não estavam associadas a um utilizador, espaço de trabalho ou empresa. Mas o conteúdo em si pode ser sensível, sobretudo se alguém colou palavras-passe, chaves de API ou dados de clientes no chat.

Há ainda um pormenor que vai interessar às empresas: a Fireworks tinha um compromisso contratual de não guardar dados, mas o Notion descobriu durante a investigação que os dados foram retidos. A empresa diz que vai auditar os fornecedores críticos.

O que deves fazer se usas o Notion

• Vê se recebeste um email: o Notion já contactou os clientes afetados. Se nem tu nem o dono do espaço de trabalho receberam nada, a empresa diz que não precisas de fazer nada para já.
• Revê os dados no próprio Notion: nos espaços afetados, vai à barra lateral, toca em «?» e depois em «Security incident review». Só funciona num browser de computador, não no telemóvel.
• Troca credenciais: se colaste palavras-passe, chaves de API ou outros acessos no Notion AI, muda-os já.
• Trata a informação como exposta: é a recomendação do próprio Notion para quem foi afetado.

Um ataque com motivação financeira

Segundo o TechCrunch, a Fireworks disse que os atacantes entraram através do seu fornecedor de nuvem num sistema de desenvolvimento e levaram dados de faturação e conjuntos de dados de clientes. A empresa acredita que o objetivo era vender acesso a modelos de IA a terceiros. É o segundo incidente na Fireworks em dois meses.

Na minha opinião, este caso mostra bem um risco de que se fala pouco: quando usas uma ferramenta de IA, os teus dados podem passar por várias empresas que nem conheces. Não é a primeira vez que segredos acabam onde não deviam, como vimos nas chaves expostas pelo Claude Code no GitHub. E ataques a fornecedores também já afetaram empresas em Portugal, como no ataque informático ao Intermarché. Regra simples: nunca coles palavras-passe num chat de IA. Se tiveres dúvidas, revê também o que fazer quando um serviço que usas sofre atividade invulgar.