Il Pulsante “Approvo”: Rischi e Responsabilità nell’Autonomia degli Agenti AI

Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le reti affrontano i problemi. Questi sistemi possono risolvere malfunzionamenti durante la notte, senza alcuna notifica, lasciando la verifica delle azioni all’ispezione successiva da parte di un operatore umano. Questo approccio, definito come Human-on-the-Loop, presenta tuttavia delle criticità. In scenari alternativi, agenti improvvisati possono eseguire correzioni simili, ma senza fornire tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log mostrano solo il “cosa” è stato fatto, ma non sempre il “perché”, rendendo difficile attribuire responsabilità in caso di malfunzionamenti o outage.

Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, mette in guardia sul fatto che senza vincoli adeguati, le deleghe progressive a sistemi agentici possono accumularsi, creando livelli di autonomia non esplicitamente approvati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.

È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi, spiegabilità e tracce di audit analoghe a quelle degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone, e applicare soluzioni adattate in modo informale agli agenti può generare accessi “ombra” e rischi non quantificati. Per mitigare tali rischi, ogni agente dovrebbe essere configurato come un principal con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo delle azioni compiute, nonché delle motivazioni che hanno guidato le scelte.

La fiducia nell’autonomia degli agenti deve essere progressiva. Questi possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento delle decisioni autonome in volume e complessità, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.

Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si passano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a cosa ha fatto. Il lavoro considerato noioso — impostare permessi rigorosi, controlli d’identità e audit trail che rispondano alle domande operative — è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.