7 controlli agenti IA: responsabile e prova per controllo

Un quadro scritto sulla carta non prova nulla il giorno in cui una revisione di un incidente chiede chi ha approvato l'accesso in produzione di un agente IA e dove si trova la traccia. Questa checklist associa sette controlli a un responsabile preciso, una prova precisa da conservare, e una sottocategoria del NIST AI RMF, basandosi sul quadro di governance in sei fasi di Atipol anziché ripeterlo.
Avere un quadro non equivale a dimostrare che funziona
Quando un DSI dice a un comitato esecutivo che gli agenti IA sono sotto controllo, questo significa di solito due cose distinte allo stesso tempo: un quadro esiste sulla carta, e nessuno può produrre la traccia che dimostri che è stato seguito per l'agente appena messo in produzione la settimana scorsa. La domanda più difficile, e più frequente, non è quali controlli un quadro elenchi, ma chi ne è responsabile giorno per giorno e quale prova un revisore, un regolatore o una revisione di un incidente può effettivamente produrre.
Questo divario conta di più man mano che gli agenti passano da un pilota usato da poche persone a un sistema che tocca i dati dei clienti, i report finanziari o il codice in produzione. Un quadro che vive solo in un documento di policy risponde alla prima domanda, quella sulla completezza. Non risponde alla seconda, quella sulla prova, che è quella effettivamente messa alla prova la settimana in cui qualcosa va storto e qualcuno chiede chi ha approvato e dove si trova la traccia.
Questo divario complica anche una domanda che i consigli di amministrazione pongono sempre più direttamente ogni trimestre: l'organizzazione può dimostrare, agente per agente, che l'accesso in produzione è stato guadagnato anziché concesso per default. Un quadro risponde a questo solo in aggregato; la prova descritta di seguito è ciò che vi risponde un agente alla volta, che è il livello a cui una revisione di un incidente o un regolatore pone realmente la domanda.
Un quadro descrive cosa dovrebbe accadere in generale; la prova dimostra che è accaduto per un agente nominato, un responsabile nominato, e una prova datata. Un audit, un regolatore, o una revisione di un incidente verifica la seconda, non la prima.
Basarsi su sei fasi, non riscriverle
Un quadro di governance in sei fasi (inventario, descrizione del ruolo e perimetro, diritti e strumenti, ticket con criteri scritti, revisione umana prima della fusione, e misurazione dei costi con log di audit) è già trattato all'indirizzo atipol.ai/agentic-ai-blog/ai-agent-governance, insieme alla tabella RACI e al modello di policy d'uso che l'accompagnano. Ripetere quel quadro qui non aggiungerebbe nulla che un DSI non abbia già. Quanto segue associa invece ciascuna di quelle fasi, più una in più, a un responsabile preciso e a una prova precisa, usando la funzione Govern del NIST AI Risk Management Framework come vocabolario per la forma che regolatori e revisori si aspettano già da questa prova.
Sette controlli, sette responsabili, sette prove
Ogni riga seguente presuppone che il controllo sottostante esista già, descritto nella guida di governance citata sopra, e pone la domanda successiva: chi è responsabile del suo funzionamento, e cosa consegna quando gli viene chiesto di provarlo.
| Controllo | Responsabile | Prova conservata |
|---|---|---|
| Inventario degli agenti attivi | Chi mantiene il catalogo (secondo NIST Govern 1.6) | Un elenco datato che indica ciascun agente, il suo agent lead e il suo progetto |
| Descrizione del ruolo e perimetro dei file | L'agent lead che ha dichiarato l'agente | Il perimetro scritto e le azioni vietate, rivisti prima della prima esecuzione |
| Permessi sugli strumenti basati sul ruolo | L'amministratore che ha impostato la modalità del catalogo | Un elenco di permessi esportato, consentito, approvazione o negato, per strumento |
| Approvazione prima di un'azione sensibile o irreversibile | L'approvatore indicato al momento della chiamata | Una voce di log che collega la chiamata, l'approvatore e la decisione |
| Revisione prima della fusione, da parte di una persona diversa dal richiedente | Un revisore distinto dalla persona che ha aperto il ticket | Il diff rivisto e la decisione di fusione, non solo il riassunto dell'agente |
| Rischio e impatto documentati per agente (NIST Govern 4.2) | Il team che ha progettato o distribuito quell'agente | Una breve nota di rischio conservata insieme alla descrizione del ruolo |
| Piano di emergenza per un modello di terze parti o un server MCP (NIST Govern 6.1/6.2) | Chi è responsabile della dipendenza da quel fornitore | Un piano di riserva documentato se il fornitore cambia, fallisce o viene dismesso |
Cosa si aspetta come prova la funzione Govern del NIST
Le prime quattro righe sopra non sono un'invenzione; traducono un linguaggio già scritto nella funzione Govern del NIST AI Risk Management Framework. Govern 2.1 richiede che « roles and responsibilities and lines of communication related to mapping, measuring, and managing AI risks are documented... and are clear to individuals and teams throughout the organization », e il Playbook del quadro trasforma questo in una domanda di documentazione che un revisore porrebbe direttamente: « Are the responsibilities of the personnel involved in the various AI governance processes clearly defined? » Il nome di un agent lead su una voce d'inventario è una risposta concreta a questa domanda; un documento di policy che descrive gli agent lead in astratto non lo è.
Govern 1.6 fa lo stesso per l'inventario stesso, richiedendo che « mechanisms... in place to inventory AI systems... resourced according to organizational risk priorities », con il Playbook che chiede « who is responsible for documenting and maintaining the AI system inventory details ». La risposta deve essere un nome o un ruolo, non una dichiarazione secondo cui un inventario esiste da qualche parte.
Govern 2.3 aggiunge un livello sopra l'agent lead: « Executive leadership of the organization takes responsibility for decisions about risks associated with AI system development and deployment. » Letta insieme alle prime due sottocategorie, la catena che un revisore verifica realmente parte da un agente dichiarato, passa per un agent lead nominato, poi per un dirigente che ha accettato il rischio di svilupparlo e distribuirlo, e non da un documento di quadro verso una supposizione che qualcuno, da qualche parte, sia responsabile.
Lette insieme, le tre sottocategorie sopra descrivono una catena di responsabilità:
Le azioni suggerite dal Playbook per queste stesse sottocategorie sono scritte allo stesso modo, come politiche che un'organizzazione adotta anziché obiettivi astratti: per Govern 2.1, « Establish policies that promote regular communication among AI actors participating in AI risk management efforts » ; per Govern 1.6, « Establish policies that define a specific individual or team that is responsible for maintaining the inventory. » Entrambe rimandano alla stessa prova: una persona o un team nominato scritto in una policy, anziché uno schema di ruoli che nessuno è tenuto a mantenere aggiornato.
Nessuna di queste quattro sottocategorie richiede nuovi strumenti per essere soddisfatta; richiedono che la voce d'inventario, la descrizione del ruolo e l'approvazione del dirigente esistano come registrazioni nominate e datate, anziché come una comprensione condivisa all'interno del team che ha costruito il primo agente. Il linguaggio del NIST sopra è il vocabolario che un revisore esterno probabilmente userà già, il che è una ragione per produrre la prova in quei termini anziché inventarne un altro.
Documentare il rischio e l'impatto per agente, non solo per progetto
Govern 4.2 chiede ai team organizzativi di « document the risks and potential impacts of the AI technology they design, develop, deploy, evaluate », il che in pratica è una breve nota allegata alla descrizione del ruolo di ciascun agente, non una valutazione del rischio unica che copre un'intera piattaforma. Il Playbook del NIST descrive questo come qualcosa che può « be applied at the beginning of a process but also iteratively and regularly since goals and outcomes can evolve over time », e che può « assist in 'go/no-go' decisions for an AI system », il che è la versione operativa della sesta riga della tabella sopra: una nota di rischio che un team aggiorna, non un documento scritto una volta e archiviato.
Govern 6.1 e 6.2 estendono la stessa logica a ciò da cui un agente dipende al di fuori dell'organizzazione: « policies and procedures... that address AI risks associated with third-party entities », e « contingency processes are in place to handle failures or incidents in third-party data or AI systems deemed to be high-risk ». Questo secondo requisito è esplicitamente limitato alle dipendenze giudicate ad alto rischio, non a ogni connessione di terze parti; per un agente costruito su un modello o un server MCP che l'organizzazione tratta in questo modo, il piano di emergenza, cosa succede se il fornitore cambia le condizioni, dismette un endpoint o subisce un'interruzione, è il settimo controllo, e quello che più spesso manca perché si trova al di fuori del team che ha costruito l'agente.
Né Govern 4.2 né Govern 6.1/6.2 specificano un modello per questa nota o questo piano, ed è deliberato: una nota di rischio per un agente di supporto interno e una per un agente che tocca il reporting finanziario non saranno uguali, e un piano di emergenza dovrebbe indicare il fornitore effettivo e la soluzione di riserva effettiva, non una dichiarazione generica che afferma che esiste da qualche parte in un documento di risposta agli incidenti.
Il revisore nella vostra prova non può essere il richiedente
La prova della quinta riga vale solo quanto chi vi è indicato. La documentazione di GitHub sulla revisione di una pull request creata dal suo agente di coding Copilot rende esplicito lo stesso requisito per un flusso comparabile: un'approvazione da parte della persona che ha assegnato il lavoro non conta ai fini delle revisioni richieste di un repository, e un revisore diverso deve approvare la modifica prima della fusione. La prova che un revisore vuole qui non è un timestamp che mostra che una revisione è avvenuta, è l'identità del revisore verificata rispetto a quella del richiedente, cosa che un log che registra solo « reviewed: yes » non può fornire.
La stessa logica si applica alla quarta riga: un log di approvazione che non può distinguere l'approvatore dall'agente, o dalla persona che ha attivato la chiamata, documenta che qualcosa è accaduto senza documentare il controllo che avrebbe dovuto soddisfare.
La prova ha un proprio ritmo di revisione
Un controllo vero al lancio del quadro non lo è automaticamente sei mesi dopo: il perimetro di un agente può espandersi, un revisore può lasciare il progetto, un modello di terze parti può cambiare le proprie condizioni. Trattare l'inventario, le note di rischio e l'elenco dei permessi come registrazioni vive da rivedere secondo un calendario fisso, anziché come documenti prodotti una sola volta per una revisione di lancio, è ciò che mantiene la prova delle righe da uno a sette coerente con ciò che gli agenti stanno effettivamente facendo, invece di descrivere un sistema esistito al momento dell'ultimo audit.
È anche qui che il sesto e il settimo controllo differiscono di più dai primi cinque: una voce d'inventario o un elenco di permessi può essere verificato rispetto al sistema stesso, ma una nota di rischio e un piano di emergenza invecchiano silenziosamente, poiché nulla si rompe visibilmente quando diventano obsoleti, fino al giorno in cui lo scenario che avrebbero dovuto coprire si verifica realmente.
La stessa indicazione del Playbook che chiede chi mantiene l'inventario non fissa nemmeno un intervallo di revisione, il che rispecchia lo schema osservato in ogni sottocategoria Govern citata qui: il NIST specifica la prova e il ruolo responsabile, non un calendario. Un'organizzazione deve comunque scegliere questo ritmo da sé, e la scelta predefinita più sicura è collegarlo a eventi che già accadono (un nuovo agente dichiarato, un revisore che lascia un progetto, un fornitore che cambia le condizioni), anziché a una sola data fissa su un calendario di conformità.
Mettere in pratica il modello di responsabilità e prova
Nessuno di questi sette controlli sostituisce il quadro, la tabella RACI o la policy d'uso già descritti all'indirizzo atipol.ai/agentic-ai-blog/ai-agent-governance; essi indicano chi è responsabile di ciascuno e cosa tenere a portata di mano quando viene richiesta una prova. Il modello di permessi sottostante, la registrazione delle approvazioni e la pratica di revisione dei server MCP che producono gran parte di questa prova sono trattati all'indirizzo atipol.ai/agentic-ai-blog/mcp-security, e il tour guidato della sua applicazione a un intero team di agenti si trova all'indirizzo atipol.ai/security.
Domande frequenti
Qual è la differenza tra un quadro di governance degli agenti IA e i controlli descritti qui?
Il quadro (inventario, perimetro, diritti sugli strumenti, criteri dei ticket, revisione prima della fusione e monitoraggio dei costi) esiste già, trattato all'indirizzo atipol.ai/agentic-ai-blog/ai-agent-governance. Questa checklist aggiunge un responsabile e una prova precisa a ciascuna di queste fasi, più un settimo controllo per le dipendenze di terze parti, così che un DSI possa produrre la prova che il quadro viene effettivamente seguito.
Quali sottocategorie del NIST AI RMF si applicano al controllo degli agenti IA in azienda?
Govern 2.1 copre i ruoli e le responsabilità documentati, Govern 1.6 copre la tenuta di un inventario dei sistemi IA con un responsabile nominato, Govern 2.3 copre la responsabilità esecutiva per le decisioni sullo sviluppo e la distribuzione dei sistemi IA, Govern 4.2 copre la documentazione dei rischi e degli impatti per sistema, e Govern 6.1 e 6.2 coprono le policy e i piani di emergenza per le dipendenze IA di terze parti giudicate ad alto rischio.
Chi dovrebbe essere responsabile dell'inventario degli agenti IA attivi in un'organizzazione?
Il Playbook del NIST AI RMF presenta questo come una persona o un team nominato responsabile della tenuta dei dettagli dell'inventario, non come una supposizione che esista da qualche parte. Nel modello di Atipol, questo corrisponde all'agent lead dichiarato di ciascun agente a livello di voce, e a un amministratore o al proprietario dell'organizzazione a livello di catalogo.
Fonti
- NIST, AI Risk Management Framework 1.0, Govern Core, consultata il 11/11/2026
- NIST, AI Risk Management Framework 1.0 Playbook, Govern, consultata il 11/11/2026
- GitHub Docs, Reviewing a pull request created by Copilot, consultata il 11/11/2026
La demo pubblica mostra un'organizzazione fittizia in funzione, senza account. L'offerta gratuita include un progetto, tre agenti e un agent lead.
