Microsoft lancia Guardian Agents per gestire i rischi degli agenti AI

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti sviluppati per monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale autonomi. L’azienda ha messo in evidenza che, sebbene i modelli agentici non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi, e non dovrebbero essere considerati come un’unica autorità di sicurezza.

Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni, affidando la sorveglianza continua a meccanismi esterni al modello stesso. Questa iniziativa si inserisce in un contesto più ampio di evoluzione delle strategie di sicurezza già avviate dall’azienda, come il Project Perception e la cyber stack, che coordinano agenti specializzati per analizzare dati di sicurezza e cercare vulnerabilità.

Il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza viene ampliata per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365. Questo approccio mira a fornire una visione coerente di agenti e rischi.

I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Tali controlli operano su sette aspetti chiave: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità di questi controlli includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti, la contenimento dell’accesso e delle azioni prima che si verifichino, la protezione di dati e risorse utilizzate dagli agenti e l’adattamento continuo delle protezioni in base a comportamento, contesto e rischio.

Tra le funzionalità innovative annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti rilevati tramite sensori di sicurezza.

Per il controllo operativo, Microsoft ha introdotto Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.

Microsoft descrive i Guardian Agents come strumenti progettati per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio mira a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in modo efficace.