Existe um problema que cresce mais rapidamente do que as ferramentas concebidas para o combater. Os deepfakes – vídeos e áudios fabricados com recurso a inteligência artificial que representam pessoas reais a dizer ou fazer coisas que nunca fizeram – proliferaram a uma velocidade que era impensável há apenas cinco anos.
O YouTube, como a maior plataforma de vídeo do mundo e um dos vetores mais significativos de distribuição deste tipo de conteúdo, anunciou que vai expandir a sua ferramenta de deteção de deepfakes com IA para todos os utilizadores adultos da plataforma. É um passo importante. Mas é suficiente?
De facto, a ferramenta de detecção do YouTube funciona, na sua essência, como um sistema de IA a combater os produtos de outros sistemas de IA – um paradigma que é simultaneamente lógico e profundamente problemático. Lógico, porque a escala do problema exige uma resposta à escala da máquina.
YouTube continua a tentar melhorar segurança online
É impossível rever manualmente a totalidade do conteúdo carregado no YouTube. Problemático, porque os modelos de geração de deepfakes evoluem constantemente, e qualquer ferramenta de deteção está, por definição, a combater a versão anterior do problema – não a versão que será usada amanhã.
Neste sentido, o paradoxo é real e não tem solução técnica simples. A IA que deteta deepfakes e a IA que os cria partem dos mesmos princípios fundamentais de aprendizagem automática. Consequentemente, estamos perante um jogo de gato e rato em que cada avanço defensivo gera, inevitavelmente, um avanço ofensivo correspondente. Todavia, isso não significa que a deteção seja inútil – mesmo uma ferramenta imperfeita que identifica uma fração significativa dos deepfakes tem impacto real na quantidade de conteúdo manipulado que chega à audiência.
O contexto europeu é particularmente relevante nesta análise. O Digital Services Act (DSA) europeu – um dos quadros regulatórios mais ambiciosos sobre plataformas digitais alguma vez aprovados – impõe obrigações específicas às grandes plataformas no que respeita à deteção e remoção de conteúdo ilegal e danoso, incluindo deepfakes que violem direitos de personalidade ou que constituam desinformação.
Mas será suficiente?
Além disso, com eleições regulares em vários países europeus nos próximos anos, o risco de deepfakes de figuras políticas. Isto é, genericamente difundidos para influenciar resultados eleitorais. É uma ameaça que reguladores e plataformas estão a levar cada vez mais a sério.
Para os utilizadores portugueses, a questão tem uma dimensão prática imediata. Os deepfakes já começaram a ser usados em Portugal para criar conteúdo fraudulento. Nomeadamente falsas entrevistas com figuras públicas a promover esquemas de investimento. Igualmente preocupante é a utilização de deepfakes em contextos de assédio e de violência de género, onde vídeos manipulados são usados para humilhar e intimidar vítimas.
Sobretudo, o que esta ferramenta não resolve é a questão da verificação do conteúdo legítimo – saber não apenas que um vídeo é falso, mas garantir que um vídeo real é, de facto, o que diz ser. Neste domínio, iniciativas como a Content Authenticity Initiative (CAI) e as normas C2PA representam uma abordagem complementar que merece mais atenção.
Em suma, a expansão da deteção de deepfakes pelo YouTube é bem-vinda e necessária. Por conseguinte, não pode ser a única resposta. É o piso mínimo de responsabilidade de uma plataforma desta dimensão, não o teto das suas ambições em matéria de autenticidade do conteúdo que distribui.
Fica ainda mais conectado:
- Samsung Galaxy S26 Ultra Review: Rei Android ou Mero Capricho?
- Redes sociais: Snap, YouTube e TikTok unidos em contexto escolar
- Acionistas da SpaceX aprovam divisão de ações antes da IPO
