In Breve
- Qual è il rischio associato al pulsante 'Approvo'?
- Il rischio è che l'approvazione automatica delle azioni degli agenti AI possa portare a malfunzionamenti senza una chiara attribuzione di responsabilità.
- Come devono essere trattati gli agenti AI?
- Gli agenti AI devono essere considerati come entità con identità, richiedendo credenziali e controlli di governance.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è fondamentale per garantire trasparenza e allineamento con gli obiettivi organizzativi.
Negli ultimi anni, l’adozione di sistemi automatizzati per la gestione delle reti ha portato a una crescente delega di responsabilità agli agenti AI. Questi sistemi, capaci di risolvere problemi senza l’intervento umano, pongono interrogativi cruciali sulla governance e sull’identità degli agenti autonomi. Markus Nispel, CTO EMEA di Extreme Networks, sottolinea come l’assenza di vincoli adeguati possa portare a livelli di autonomia non autorizzati, rendendo difficile attribuire responsabilità in caso di malfunzionamenti.
Secondo recenti ricerche, il 57% dei responsabili IT prevede di ridurre il coinvolgimento umano nei processi decisionali entro un anno, mentre il 79% considera gli agenti AI come ‘utenti’ che necessitano di una gestione delle identità e controlli di governance. Questa evoluzione richiede una riflessione profonda su come trattare gli agenti AI, considerandoli come entità dotate di identità, con credenziali e politiche operative ben definite.
Per garantire un funzionamento sicuro ed efficace, ogni agente deve essere configurato con permessi limitati e tracciabilità delle azioni, simile a quanto avviene per gli operatori umani. Tuttavia, molte infrastrutture di gestione degli accessi sono state progettate per persone, e applicare soluzioni adattate agli agenti può generare rischi non quantificati, come accessi ‘ombra’.
La fiducia nell’autonomia degli agenti deve essere graduale. Gli agenti dovrebbero iniziare in modalità suggerimento, guadagnando capacità operative sulla base di prove e limiti definiti. Con l’aumento della complessità delle decisioni autonome, è fondamentale affiancare la supervisione umana a infrastrutture che integrino identità, enforcement delle policy e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
In contesti multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende difficile ricostruire gli eventi, poiché è necessario comprendere cosa ciascun agente conosceva e quali azioni ha intrapreso. Pertanto, l’implementazione di permessi rigorosi e controlli di identità diventa cruciale per differenziare le soluzioni resilienti da quelle che possono esporre le organizzazioni a rischi latenti.
