Microsoft propõe agentes guardiões para conter riscos de agentes de IA internos

A Microsoft alertou que agentes de inteligência artificial implantados dentro das empresas podem se tornar uma nova classe de risco interno. Esses sistemas recebem acesso a dados, ferramentas e processos e podem tomar decisões ou executar ações com autonomia, mesmo quando não foram comprometidos por um invasor.

A empresa chama esses sistemas de agentes internos e argumenta que eles não devem receber confiança implícita. Modelos podem reagir de forma imprevisível a mudanças de contexto, buscar atalhos para cumprir objetivos e operar além das normas esperadas pela organização. O risco aumenta quando as permissões são amplas e não há rastreabilidade suficiente.

Como resposta, a Microsoft propõe agentes guardiões que supervisionem cada ação antes da execução. O modelo combina sinais de identidade, dados, nuvem, dispositivos, rede e ambiente de execução para calcular o risco em tempo real e ajustar o que cada agente pode fazer. A abordagem também prevê identidade individual, isolamento, políticas de acesso e registro das decisões.

Para equipes de segurança, a orientação reforça práticas já conhecidas: inventariar agentes, aplicar privilégio mínimo, separar ambientes, monitorar chamadas de ferramentas e exigir aprovação humana em operações sensíveis. A proposta ainda depende de validação prática e não substitui controles determinísticos, revisão de arquitetura e resposta a incidentes.