Dove collocare l'approvazione umana nei flussi di agenti IA

Mettete la porta di approvazione umana solo sulle azioni di agenti IA ad alto impatto, applicata fuori dall'agente stesso, mai dentro un prompt che esso controlla. Prima di decidere chi approva ciò che resta, riducete prima cosa l'agente può fare, poi registrate chi ha autorizzato ogni azione approvata, soprattutto quelle che non si possono annullare.
Approvare tutto rende gli agenti inutili; non approvare nulla è un rischio
Un CTO che distribuisce agenti IA finisce di solito in una di due modalità di fallimento. Richiedere l'approvazione per ogni azione e gli agenti smettono di far risparmiare tempo, poiché qualcuno deve comunque cliccare manualmente a ogni passo. Non richiedere alcuna approvazione e una singola chiamata di strumento sbagliata, un file cancellato per errore, un messaggio inviato al cliente sbagliato, un merge che salta la revisione, diventa il problema dell'agente da spiegare dopo i fatti, non prima. Nessuno dei due estremi è una politica; entrambi sono un'ammissione che nessuno ha deciso dove collocare la porta.
Il GenAI Security Project di OWASP chiama il problema sottostante Excessive Agency: azioni dannose compiute in risposta a un output del modello inatteso, ambiguo o manipolato, radicate in funzionalità eccessiva, permessi eccessivi, o autonomia eccessiva concessa all'agente. La correzione descritta da OWASP non è uno schermo di approvazione generalizzato davanti a ogni azione; è prima ridurre cosa può andare storto, poi bloccare solo ciò che resta.
I due modi di fallimento descritti sopra non sono ipotetici per gli agenti connessi tramite MCP, il protocollo che la maggior parte di questi strumenti usa per raggiungere sistemi reali. La stessa domanda di approvazione, questa chiamata precisa deve attendere una persona, si pone per ogni strumento che un agente può raggiungere, non solo per il risultato finale dell'agente, il che spiega perché la risposta deve essere una regola applicata strumento per strumento piuttosto che una decisione presa una volta per tutte al primo dispiegamento dell'agente.
Ridurre ciò che richiede approvazione prima di decidere chi approva
OWASP elenca la riduzione del numero di estensioni, la riduzione della loro funzionalità, evitare estensioni aperte come uno strumento generico di esecuzione shell, la riduzione dei permessi delle estensioni fino a ciò di cui il sistema a valle ha davvero bisogno, come un accesso al database in sola lettura, ed eseguire ciascuna estensione nel contesto proprio dell'utente specifico con privilegi minimi, come prime linee di difesa contro l'Excessive Agency. Nessuna di queste misure implica che un umano clicchi su approva; esse rimuovono l'azione, il permesso, o il raggio dei danni prima ancora che si ponga la questione dell'approvazione.
Uno strumento che un agente non può chiamare non ha bisogno di una porta di approvazione, e una connessione al database con diritti di sola lettura non può essere quella che cancella una tabella, qualunque cosa decida uno schermo di approvazione. Atipol applica lo stesso ordine nel proprio modello di permessi: un sub-agente non ha mai più permessi dell'agente che gli ha delegato, quindi restringere ciò che l'agente di primo livello può fare restringe anche ogni sub-agente sottostante.
Tradotto nella configurazione reale di un agente, questo significa che un agente usato per il flusso di ticket già descritto su questo blog riceve un limite di ambito dei file e nulla che assomigli a uno strumento shell generico, un agente che redige risposte ai clienti riceve una funzione di invio limitata alle bozze piuttosto che alla consegna diretta, e un agente che tocca un database riceve esattamente le colonne e i diritti di lettura o scrittura che il compito specifica, nulla di più ampio concesso per comodità.
Collocare la porta sulle azioni ad alto impatto, applicata fuori dall'agente
Una volta eliminate funzionalità, permessi e autonomia non necessari, la sesta mitigazione di OWASP affronta ciò che resta: « Utilise human-in-the-loop control to require a human to approve high-impact actions before they are taken. » La guida aggiunge che questo controllo può collocarsi a valle della chiamata dell'estensione o dentro l'estensione stessa, e lo abbina a una settima mitigazione, la mediazione completa: applicare l'autorizzazione nel sistema a valle ogni volta, piuttosto che fidarsi del giudizio del modello stesso su se un'azione sia permessa.
Questo secondo punto conta operativamente. Un prompt di approvazione che l'agente stesso decide se mostrare non è una porta, poiché un agente manipolato o semplicemente in errore può saltare il prompt allo stesso modo in cui salterebbe qualsiasi altra istruzione. La decisione di richiedere l'approvazione, e l'applicazione di questo requisito, deve vivere in un sistema che l'agente non controlla.
OWASP elenca anche due misure che limitano i danni senza prevenire l'Excessive Agency in primo luogo: registrare e monitorare l'attività delle estensioni, e limitare la frequenza delle azioni indesiderate. Entrambe contano, ma nessuna sostituisce la porta di approvazione stessa; una cancellazione non autorizzata ben registrata resta una cancellazione, e un limite di frequenza rallenta danni ripetuti senza fermarne la prima occorrenza.
Dove i team collocano davvero la porta
I casi d'uso di Atipol mostrano dove diversi team collocano quella porta, azione per azione, piuttosto che team per team.
Ciò che la porta protegge differisce per dominio, una relazione con il cliente, un incidente attivo, una base di codice, un bilancio, ma la forma della porta è la stessa in ogni riga: una persona, diversa da chi ha innescato l'azione, decide prima che prenda effetto, senza rivederla dopo.
| Dominio | Azione soggetta ad approvazione | Chi decide | Ambito dell'approvazione |
|---|---|---|---|
| Assistenza clienti | Inviare una risposta a un cliente | La persona che approva l'invio | Quel messaggio preciso, una volta |
| Operazioni di sicurezza | Contenere un incidente | L'analista | Quella chiamata precisa, una volta |
| Sviluppo software | Fondere una pull request | Un revisore diverso dal richiedente | Quella chiamata precisa, prima del merge |
| Osservabilità | Aprire un incidente di monitoraggio | L'approvatore | Quella chiamata precisa |
| Pubblicazione contenuti | Pubblicare sul CMS | La persona che approva tramite MCP | Instradato tramite approvazione MCP |
| Reporting finanziario | Validare un rapporto | Il CEO o il CFO | Quel rapporto preciso |
Una chiamata, una decisione, mai un sì generale
Una porta che resta aperta dopo la prima approvazione non è una porta. Atipol applica la regola come un limite di ambito: l'approvazione umana è data per una chiamata precisa, una volta, e ogni strumento porta uno di tre stati di permesso, consentito, soggetto all'approvazione di una persona, o negato, impostato strumento per strumento. Quando uno strumento è impostato per richiedere approvazione, la chiamata attende la decisione di una persona; se è negata, la chiamata viene rifiutata e registrata piuttosto che ritentata silenziosamente.
Lo stesso modello si irrigidisce solo su scala più ampia, mai si allenta: uno spazio di lavoro può passare da aperto, a solo catalogo, ad approvazione obbligatoria, ma una regola a livello di spazio di lavoro non può essere allentata dalla configurazione di un singolo agente. Una richiesta fuori dal catalogo approvato è decisa da un amministratore e registrata, il che mantiene visibile l'eccezione invece di lasciarla diventare un default silenzioso.
Questi tre stati si applicano allo stesso modo indipendentemente da quale team ha configurato l'agente: la funzione di invio di un agente di assistenza, l'azione di contenimento di un agente SOC, e la presentazione di un rapporto di un agente finanza portano ciascuna la propria impostazione consentito, approvazione, o negato, piuttosto che un'unica impostazione di approvazione applicata a tutto l'agente. Cambiare lo stato di un singolo strumento non tocca nessun altro strumento che lo stesso agente può chiamare.
Il revisore non è mai il richiedente, né l'agente stesso
La stessa separazione che si applica alla revisione di un ticket si applica direttamente alle porte di approvazione: la persona che ha chiesto il lavoro non dovrebbe essere quella che lo approva. Atipol applica la regola senza eccezioni su entrambi i lati della richiesta: nessun agente, umano o artificiale, approva la propria consegna, e l'umano mantiene la decisione finale su ogni approvazione.
In pratica questo significa che un agente non può generare un rapporto e anche validarlo, e che uno sviluppatore che ha assegnato un ticket a un agente non può essere il revisore richiesto che approva la modifica risultante, lo stesso vincolo documentato per le pull request dell'agente di codice proprio di GitHub. I profili di strumenti basati sui ruoli vanno oltre: ogni ruolo riceve la propria lista di strumenti consentiti, con approvazione umana esplicita richiesta prima di qualsiasi azione sensibile o irreversibile, piuttosto che un unico approvatore generale per tutto il team.
La stessa regola raggiunge anche i sub-agenti. Poiché un sub-agente non ha mai più permessi dell'agente che gli ha delegato, un requisito di approvazione posto su un'azione sensibile dell'agente di primo livello non può essere aggirato facendo eseguire la stessa azione da un sub-agente sotto una descrizione di compito più ristretta; il tetto dei permessi, e la porta di approvazione che lo accompagna, si propaga lungo tutta la catena di delega.
Un'approvazione senza traccia non è supervisione
Un'approvazione che non è messa per iscritto è indistinguibile, sei mesi dopo, dall'assenza totale di approvazione. Il log di audit di Atipol è specifico su cosa mostra: chi ha autorizzato un'azione, non solo che è avvenuta, e per un'azione irreversibile come pubblicare o cancellare, l'approvazione umana esplicita che l'ha preceduta, registrata insieme all'azione stessa.
I regolatori si muovono nella stessa direzione per i sistemi che classificano ad alto rischio. La descrizione propria della Commissione europea dell'AI Act, aggiornata da ultimo il 19 ottobre 2026, elenca misure appropriate di supervisione umana tra gli obblighi che si applicano ai sistemi di IA ad alto rischio, e afferma che una volta che tale sistema raggiunge il mercato, i deployer devono garantire supervisione e monitoraggio umani lungo tutto il suo uso, non solo al momento del dispiegamento.
Il NIST AI Risk Management Framework (AI RMF 1.0, pubblicato il 26 gennaio 2023) inquadra questo a un livello più alto: è pensato per aiutare le organizzazioni a integrare considerazioni di affidabilità nella progettazione, nello sviluppo, nell'uso e nella valutazione dei sistemi di IA, il che include chi è autorizzato ad approvare cosa fa un agente, non solo cosa produce l'agente.
Radicare questo in un team
Niente di tutto ciò richiede di decidere, azione per azione, da zero. Iniziate rimuovendo funzionalità, permessi e autonomia di cui l'agente non ha bisogno, seguendo le prime mitigazioni di OWASP; impostate gli strumenti rimanenti su uno di tre stati, consentito, approvazione, o negato; nominate un revisore per ogni porta che non sia mai il richiedente né l'agente; e registrate chi ha approvato cosa, con le azioni irreversibili che portano la loro approvazione accanto a sé nella traccia.
I quattro passaggi sopra si riducono a un'unica sequenza ripetibile:
Un test utile per sapere se la porta è al posto giusto: rimuovete il passaggio di approvazione e chiedetevi come appare il peggior risultato possibile. Se la risposta è qualche minuto di rilavorazione, l'azione probabilmente non era mai abbastanza ad alto impatto da richiedere un umano. Se la risposta è un rapporto sbagliato validato, una tabella di database sparita, o un messaggio che un cliente non avrebbe mai dovuto ricevere, la porta appartiene esattamente dove OWASP e Atipol la collocano: prima dell'azione, applicata fuori dall'agente, e registrata dopo.
Le pratiche di sicurezza dietro quel modello, incluse le liste di strumenti consentiti per agente, i segreti tenuti fuori dai prompt, e la revisione di un server MCP prima di connetterlo, sono illustrate su atipol.ai/agentic-ai-blog/mcp-security. Il quadro di governance attorno ai ruoli, la politica d'uso, e dove la revisione deve collocarsi prima di un merge è trattato su atipol.ai/agentic-ai-blog/ai-agent-governance.
Per vedere questi stati di permesso, porte di approvazione, e il log di audit applicati su tutto un team di agenti, la sezione sicurezza del prodotto su atipol.ai/security mostra come impostare uno strumento su consentito, approvazione, o negato, e cosa viene registrato quando una persona approva o nega una chiamata.
Domande frequenti
Quali azioni di un agente IA richiedono l'approvazione umana e quali no?
Le linee guida di OWASP sull'Excessive Agency indicano le azioni ad alto impatto, quelle in cui una chiamata sbagliata è costosa o difficile da annullare, come pubblicare, cancellare, fondere, o inviare a un cliente. Le azioni a minore impatto sono meglio gestite riducendo la funzionalità, i permessi e l'autonomia dell'agente in modo che ve ne siano meno fin dall'inizio, piuttosto che approvando ciascuna.
L'agente o la persona che ha richiesto l'azione possono approvarla da soli?
No. Atipol applica la regola secondo cui nessun agente, umano o artificiale, approva la propria consegna, e che la persona che ha chiesto il lavoro non dovrebbe essere quella che lo approva, la stessa regola di revisione indipendente documentata per le pull request dell'agente di codice Copilot di GitHub.
Cosa bisogna registrare quando un umano approva o nega l'azione di un agente?
Il log dovrebbe mostrare chi ha autorizzato l'azione, non solo che è avvenuta, e per un'azione irreversibile come pubblicare o cancellare, l'approvazione esplicita che l'ha preceduta, registrata insieme all'azione nella pista di audit.
Fonti
- OWASP GenAI Security Project, LLM06:2025 Excessive Agency, consultata l'11/11/2026
- Commissione europea, quadro normativo dell'AI Act, aggiornato il 19/10/2026
- NIST, AI Risk Management Framework (AI RMF 1.0), pubblicato il 26/01/2023
La demo pubblica mostra un'organizzazione fittizia in funzione, senza account. L'offerta gratuita include un progetto, tre agenti e un agent lead.
