O CEO da Microsoft, Satya Nadella, voltou a defender uma visão ambiciosa para agentes de IA no Windows, ao mesmo tempo que alerta que estes sistemas não devem ser confiados. Em entrevista exclusiva à NBC News, Nadella afirmou que o Windows deve tornar‑se “o sistema operativo mais seguro e mais poderoso para agentes de IA”, mas só se forem aplicados mecanismos de contenção e controlo independentes.
A entrevista surge dias depois de Nadella publicar um ensaio onde defende que modelos avançados devem ser tratados como riscos internos, com “travões de emergência”, auditorias externas e registos legíveis por humanos. O CEO argumenta que, ao contrário do software tradicional, não é possível rastrear o comportamento de um modelo até uma linha de código específica, e, por isso, é necessário assumir que o modelo pode estar comprometido desde o início.
Satya Nadella defende cuidados com IA da Microsoft
Nadella defende que os controlos de acesso e permissões devem existir fora do modelo, e não depender das promessas das empresas que o desenvolvem. A sua estrutura inclui múltiplos modelos a trabalhar em conjunto, testes contínuos, auditorias independentes, contenção padronizada e divulgação obrigatória de incidentes.
Estas ideias surgem num momento em que a Microsoft integra ferramentas de segurança para agentes diretamente no Windows. No evento de 7 de outubro, a empresa apresentou os Microsoft Execution Containers, descritos como “contenção orientada por políticas para agentes de IA”. A visão encaixa na estratégia de “superinteligência humanista” que Nadella tem promovido.
A pressão por mais segurança não vem só de Nadella. Brad Smith, presidente da Microsoft, afirmou recentemente que a IA está “menos regulada do que uma máquina de lavar”, defendendo também travões de emergência. O tema ganhou força após vários incidentes envolvendo modelos avançados.
Nadella resume a sua posição de forma clara: “O sistema de superinteligência mais confiável não será aquele cujo modelo confiamos mais, será o que nos permite confiar menos no modelo.”
Fica ainda mais conectado:
- Satya Nadella – Investidores querem que CEO repita feito anterior com IA
- “The Batman Part II” interrompe filmagens e aumenta incerteza sobre a sequela
- Element Pro: alternativa ao Teams gera críticas em Bruxelas
