Registro di audit di un agente IA: cosa annotare?

Il registro di audit di un agente IA deve rispondere a cinque domande: quale agente ha agito, per conto di chi, con quale strumento, su quali dati e con quale approvazione umana. Esclude i segreti, limita i dati personali al necessario e, per un sistema ad alto rischio secondo l'AI Act, si conserva almeno sei mesi.
Perché registrare un agente IA
Un agente IA non si limita a rispondere: chiama strumenti, legge file e modifica sistemi. Senza registro, dopo un incidente nessuno può ricostruire chi ha fatto cosa. Per i sistemi ad alto rischio, l'articolo 12 dell'AI Act impone inoltre che il sistema consenta tecnicamente la registrazione automatica degli eventi per tutta la sua durata di vita.
Le cinque informazioni da annotare
Ogni voce del registro deve potersi leggere da sola, senza contesto aggiuntivo. La tabella qui sotto indica il minimo utile per un audit: l'identità dell'agente, la persona responsabile, l'azione svolta, i dati coinvolti e la decisione di approvazione. Aggiungete un orario preciso e un identificativo unico per collegare le voci di uno stesso compito.
| Informazione | Esempio | Domanda di audit |
|---|---|---|
| Agente | Agente di redazione, versione del modello | Quale agente ha agito? |
| Responsabile | Persona o gruppo che ha avviato il compito | Per conto di chi? |
| Azione | Chiamata a uno strumento MCP, comando, scrittura | Che cosa ha fatto? |
| Dati | File, tabella o cartella interessati | Su che cosa ha agito? |
| Approvazione | Approvazione umana, rifiuto o controllo automatico | Chi l'ha autorizzato? |
Collegare ogni azione a un'approvazione
Il registro deve mostrare chi ha autorizzato un'azione, non solo che è avvenuta. In una squadra di agenti, ogni persona ha il proprio agent lead: rilegge il lavoro degli agenti a cui ha affidato i ticket e decide se integrarlo, e questa decisione deve comparire nel registro. Per un'azione irreversibile, come una pubblicazione o una cancellazione, annotate anche l'approvazione umana esplicita che l'ha preceduta.
Cosa non registrare mai
Un registro di audit non deve contenere password, token di accesso o chiavi API, nemmeno troncati. Il GDPR impone anche la minimizzazione dei dati: conservate solo i dati personali necessari alla finalità del registro. Preferite l'identificativo di un documento al suo contenuto e mascherate i campi sensibili prima della scrittura, non dopo.
Per quanto tempo conservare il registro
Per un sistema di IA ad alto rischio, l'AI Act fissa un minimo: i log generati automaticamente si conservano almeno sei mesi, dal fornitore (articolo 19) come dal deployer (articolo 26), salvo diversa disposizione del diritto dell'Unione o nazionale. Per gli altri agenti, fissate una durata nella politica interna e applicatela ovunque.
Limitare ciò che l'agente può fare
Un buon registro non sostituisce diritti limitati. L'OWASP colloca l'agentività eccessiva tra i dieci principali rischi delle applicazioni basate su modelli linguistici nel 2025: troppi strumenti, troppi permessi o troppa autonomia. Date a ogni agente solo gli strumenti utili alla sua missione e registrate anche gli accessi rifiutati.
Rendere il registro utilizzabile in un audit
Il quadro di gestione dei rischi dell'IA del NIST organizza il lavoro in quattro funzioni: governare, mappare, misurare e gestire. Il registro serve in particolare a misurare (MEASURE 2.4, monitoraggio in produzione) e gestire (MANAGE 4.1, monitoraggio dopo il rilascio e risposta agli incidenti). Per servire in un audit deve essere esportabile, protetto dalle modifiche e consultabile da una persona esterna al gruppo che ha messo in funzione l'agente.
Il registro di audit in due numeri
Due numeri riassumono questo quadro: quante informazioni deve contenere una voce del registro e per quanto tempo va conservato in un sistema ad alto rischio.
- 5 Informazioni per voce Agente, responsabile, azione, dati, approvazione
- 6 Conservazione minima (mesi) AI Act, articoli 19 e 26, sistemi ad alto rischio
Domande frequenti
Bisogna registrare ogni risposta dell'agente?
No. Registrate le azioni che producono un effetto: chiamate a strumenti, scritture, pubblicazioni e decisioni di approvazione. Il testo completo degli scambi è utile solo se la vostra politica lo giustifica, nel rispetto della minimizzazione dei dati.
L'articolo 12 dell'AI Act si applica a tutti gli agenti?
No. L'articolo 12 riguarda i sistemi di IA ad alto rischio. Per gli altri agenti il registro resta una buona pratica di governance, ma forma e durata dipendono dalla vostra politica interna.
Chi deve poter leggere il registro?
Almeno la persona responsabile dell'agente e una funzione di controllo indipendente, come la sicurezza o l'audit interno. Limitate l'accesso in scrittura perché il registro non possa essere modificato a posteriori.
Fonti
- Regolamento (UE) 2024/1689 sull'intelligenza artificiale (AI Act), articoli 12, 19 e 26, 13/06/2024
- Regolamento (UE) 2016/679 (GDPR), articolo 5, 27/04/2016
- NIST, AI Risk Management Framework 1.0, gennaio 2023
- OWASP, LLM06:2025 Excessive Agency, 2025
La demo pubblica mostra un'organizzazione fittizia in funzione, senza account. L'offerta gratuita include un progetto, tre agenti e un agent lead.
