Gouvernance

7 contrôles agents IA : responsable et preuve par contrôle

· fondateur d'ETCSEC · mis à jour le 17 novembre 2026 · 11 min
Illustration d'un robot portant un bonnet de travail bleu, représentant la prise en charge des contrôles des agents IA.
La réponse courte

Un cadre écrit sur le papier ne prouve rien le jour où une revue d'incident demande qui a approuvé l'accès en production d'un agent IA et où se trouve la trace. Cette liste de contrôle associe sept contrôles à un responsable précis, une preuve précise à conserver, et une sous-catégorie du NIST AI RMF, en s'appuyant sur le cadre de gouvernance en six étapes d'Atipol plutôt qu'en le répétant.

Avoir un cadre n'est pas la même chose que prouver qu'il fonctionne

Quand un DSI dit à un comité exécutif que les agents IA sont sous contrôle, cela signifie généralement deux choses distinctes à la fois : un cadre existe sur le papier, et personne ne peut produire la trace qui prouve qu'il a été suivi pour l'agent qui vient d'être mis en production la semaine dernière. La question la plus difficile, et la plus fréquente, n'est pas de savoir quels contrôles un cadre énumère, mais qui en est responsable au quotidien et quelle preuve un auditeur, un régulateur ou une revue d'incident peut réellement produire.

Cet écart compte davantage à mesure que les agents passent d'un pilote utilisé par quelques personnes à un système touchant les données clients, les rapports financiers ou le code en production. Un cadre qui ne vit que dans un document de politique répond à la première question, celle de l'exhaustivité. Il ne répond pas à la seconde, celle de la preuve, qui est celle réellement testée la semaine où quelque chose tourne mal et où quelqu'un demande qui a approuvé et où se trouve la trace.

Cet écart complique aussi une question que les conseils d'administration posent de plus en plus directement chaque trimestre : l'organisation peut-elle montrer, agent par agent, que l'accès en production a été mérité plutôt qu'accordé par défaut. Un cadre ne répond à cela que de manière globale ; la preuve décrite ci-dessous est ce qui y répond agent par agent, soit le niveau auquel une revue d'incident ou un régulateur pose réellement la question.

Cadre vs. preuve

Un cadre décrit ce qui devrait se passer en général ; la preuve démontre que cela s'est passé pour un agent nommé, un responsable nommé, et une preuve datée. Un audit, un régulateur, ou une revue d'incident teste la seconde, pas la première.

S'appuyer sur six étapes, pas les réécrire

Un cadre de gouvernance en six étapes (inventaire, fiche de poste et périmètre, droits et outils, tickets à critères écrits, revue humaine avant fusion, et mesure des coûts avec journal d'audit) est déjà couvert à l'adresse atipol.ai/agentic-ai-blog/ai-agent-governance, avec le tableau RACI et le modèle de politique d'usage qui l'accompagnent. Répéter ce cadre ici n'apporterait rien qu'un DSI n'ait déjà. Ce qui suit associe plutôt chacune de ces étapes, plus une supplémentaire, à un responsable précis et à une preuve précise, en utilisant la fonction Govern du NIST AI Risk Management Framework comme vocabulaire pour ce à quoi les régulateurs et les auditeurs s'attendent déjà pour cette preuve.

Sept contrôles, sept responsables, sept preuves

Chaque ligne ci-dessous suppose que le contrôle sous-jacent existe déjà, décrit dans le guide de gouvernance cité plus haut, et pose la question suivante : qui est responsable de son fonctionnement, et que remet-il lorsqu'on lui demande d'en apporter la preuve.

ContrôleResponsablePreuve conservée
Inventaire des agents actifsCelui qui tient le catalogue (selon NIST Govern 1.6)Une liste datée nommant chaque agent, son agent lead et son projet
Fiche de poste et périmètre de fichiersL'agent lead qui a déclaré l'agentLe périmètre écrit et les actions interdites, revus avant la première exécution
Permissions outil par rôleL'administrateur qui a défini le mode du catalogueUne liste de permissions exportée, autorisé, approbation ou refusé, par outil
Approbation avant une action sensible ou irréversibleL'approbateur nommé au moment de l'appelUne entrée de journal liant l'appel, l'approbateur et la décision
Revue avant fusion, par une personne autre que le demandeurUn relecteur distinct de la personne qui a ouvert le ticketLe diff relu et la décision de fusion, pas seulement le résumé de l'agent
Risque et impact documentés par agent (NIST Govern 4.2)L'équipe qui a conçu ou déployé cet agentUne courte note de risque conservée avec la fiche de poste
Plan de secours pour un modèle tiers ou un serveur MCP (NIST Govern 6.1/6.2)Celui qui est responsable de la dépendance envers ce fournisseurUn plan de repli documenté si le fournisseur change, tombe en panne ou est déprécié

Ce que la fonction Govern du NIST attend comme preuve

Les quatre premières lignes ci-dessus ne sont pas une invention ; elles traduisent un langage déjà écrit dans la fonction Govern du NIST AI Risk Management Framework. Govern 2.1 exige que « roles and responsibilities and lines of communication related to mapping, measuring, and managing AI risks are documented... and are clear to individuals and teams throughout the organization », et le Playbook du cadre transforme cela en une question de documentation qu'un auditeur poserait directement : « Are the responsibilities of the personnel involved in the various AI governance processes clearly defined? » Le nom d'un agent lead sur une entrée d'inventaire est une réponse concrète à cette question ; un document de politique décrivant les agents lead de manière abstraite n'en est pas une.

Govern 1.6 fait de même pour l'inventaire lui-même, exigeant que « mechanisms... in place to inventory AI systems... resourced according to organizational risk priorities », le Playbook demandant « who is responsible for documenting and maintaining the AI system inventory details ». La réponse doit être un nom ou un rôle, pas une déclaration selon laquelle un inventaire existe quelque part.

Govern 2.3 ajoute un niveau au-dessus de l'agent lead : « Executive leadership of the organization takes responsibility for decisions about risks associated with AI system development and deployment. » Lue avec les deux premières sous-catégories, la chaîne qu'un auditeur vérifie réellement part d'un agent déclaré, passe par un agent lead nommé, puis par un dirigeant qui a accepté le risque de son développement et de son déploiement, et non d'un document de cadre vers une supposition que quelqu'un, quelque part, est responsable.

Lues ensemble, les trois sous-catégories ci-dessus décrivent une chaîne de responsabilité :

Agent déclaréGovern 1.6Agent lead nomméGovern 2.1DirigeantGovern 2.3Agent déclaréGovern 1.6Agent lead nomméGovern 2.1DirigeantGovern 2.3

Les actions suggérées du Playbook pour ces mêmes sous-catégories sont écrites de la même manière, comme des politiques qu'une organisation adopte plutôt que des objectifs abstraits : pour Govern 2.1, « Establish policies that promote regular communication among AI actors participating in AI risk management efforts » ; pour Govern 1.6, « Establish policies that define a specific individual or team that is responsible for maintaining the inventory. » Les deux renvoient à la même preuve : une personne ou une équipe nommée inscrite dans une politique, plutôt qu'un schéma de rôles que personne n'est tenu de tenir à jour.

Aucune de ces quatre sous-catégories n'exige de nouvel outillage pour être satisfaite ; elles exigent que l'entrée d'inventaire, la fiche de poste et l'accord du dirigeant existent comme des enregistrements nommés et datés, plutôt que comme une compréhension partagée au sein de l'équipe qui a construit le premier agent. Le langage du NIST ci-dessus est le vocabulaire qu'un relecteur externe utilisera probablement déjà, ce qui est une raison de produire la preuve dans ces termes plutôt que d'en inventer un autre.

Documenter le risque et l'impact par agent, pas seulement par projet

Govern 4.2 demande aux équipes organisationnelles de « document the risks and potential impacts of the AI technology they design, develop, deploy, evaluate », ce qui, en pratique, est une courte note jointe à la fiche de poste de chaque agent, et non une évaluation de risque unique couvrant toute une plateforme. Le Playbook du NIST présente cela comme quelque chose qui peut « be applied at the beginning of a process but also iteratively and regularly since goals and outcomes can evolve over time », et qui peut « assist in 'go/no-go' decisions for an AI system », ce qui est la version opérationnelle de la sixième ligne du tableau ci-dessus : une note de risque qu'une équipe met à jour, et non un document rédigé une fois puis classé.

Govern 6.1 et 6.2 étendent la même logique à ce dont un agent dépend en dehors de l'organisation : « policies and procedures... that address AI risks associated with third-party entities », et « contingency processes are in place to handle failures or incidents in third-party data or AI systems deemed to be high-risk ». Cette seconde exigence est explicitement limitée aux dépendances jugées à haut risque, pas à toute connexion tierce ; pour un agent construit sur un modèle ou un serveur MCP que l'organisation traite ainsi, le plan de secours, ce qui se passe si le fournisseur change ses conditions, déprécie un point d'accès ou subit une panne, est le septième contrôle, et celui qui manque le plus souvent car il se situe en dehors de l'équipe qui a construit l'agent.

Ni Govern 4.2 ni Govern 6.1/6.2 ne précisent de modèle pour cette note ou ce plan, et c'est délibéré : une note de risque pour un agent de support interne et une pour un agent qui touche au reporting financier ne se ressembleront pas, et un plan de secours devrait nommer le fournisseur réel et la solution de repli réelle, et non une déclaration générique affirmant qu'elle existe quelque part dans un document de réponse aux incidents.

Le relecteur de votre preuve ne peut pas être le demandeur

La preuve de la cinquième ligne ne vaut que par qui y est nommé. La documentation de GitHub sur la relecture d'une pull request créée par son agent de codage Copilot rend la même exigence explicite pour un flux comparable : une approbation donnée par la personne qui a assigné le travail ne compte pas pour les revues requises d'un dépôt, et un relecteur différent doit approuver le changement avant fusion. La preuve qu'un auditeur veut ici n'est pas un horodatage montrant qu'une revue a eu lieu, c'est l'identité du relecteur vérifiée par rapport à celle du demandeur, ce qu'un journal qui enregistre seulement « reviewed: yes » ne peut pas fournir.

La même logique s'applique à la quatrième ligne : un journal d'approbation qui ne peut distinguer l'approbateur de l'agent, ou de la personne qui a déclenché l'appel, documente que quelque chose s'est passé sans documenter le contrôle qu'il était censé satisfaire.

La preuve a son propre rythme de révision

Un contrôle vrai au lancement du cadre ne l'est pas automatiquement six mois plus tard : le périmètre d'un agent peut s'étendre, un relecteur peut quitter le projet, un modèle tiers peut changer ses conditions. Traiter l'inventaire, les notes de risque et la liste des permissions comme des enregistrements vivants à revoir selon un calendrier fixe, plutôt que comme des documents produits une seule fois pour une revue de lancement, est ce qui maintient la preuve des lignes un à sept en adéquation avec ce que les agents font réellement, au lieu de décrire un système qui existait au moment du dernier audit.

C'est aussi là que les sixième et septième contrôles diffèrent le plus des cinq premiers : une entrée d'inventaire ou une liste de permissions peut être vérifiée par rapport au système lui-même, mais une note de risque et un plan de secours vieillissent silencieusement, car rien ne se brise visiblement lorsqu'ils deviennent obsolètes, jusqu'au jour où le scénario qu'ils étaient censés couvrir se produit réellement.

La même consigne du Playbook qui demande qui tient l'inventaire ne fixe pas non plus d'intervalle de révision, ce qui reflète le schéma observé dans chaque sous-catégorie Govern citée ici : le NIST précise la preuve et le rôle responsable, pas un calendrier. Une organisation doit encore choisir ce rythme elle-même, et le choix par défaut le plus sûr est de le rattacher à des événements qui se produisent déjà (un nouvel agent déclaré, un relecteur quittant un projet, un fournisseur changeant ses conditions), plutôt qu'à une seule date fixe sur un calendrier de conformité.

Mettre en pratique le modèle de responsabilité et de preuve

Aucun de ces sept contrôles ne remplace le cadre, le tableau RACI ou la politique d'usage déjà décrits à l'adresse atipol.ai/agentic-ai-blog/ai-agent-governance ; ils nomment qui est responsable de chacun et ce qu'il faut garder sous la main lorsqu'on demande une preuve. Le modèle de permissions sous-jacent, la journalisation des approbations et la pratique de revue des serveurs MCP qui produisent une grande partie de cette preuve sont couverts à l'adresse atipol.ai/agentic-ai-blog/mcp-security, et la visite guidée de son application à l'ensemble d'une équipe d'agents se trouve à l'adresse atipol.ai/security.

Questions fréquentes

Quelle est la différence entre un cadre de gouvernance des agents IA et les contrôles décrits ici ?

Le cadre (inventaire, périmètre, droits sur les outils, critères des tickets, revue avant fusion et suivi des coûts) existe déjà, couvert à l'adresse atipol.ai/agentic-ai-blog/ai-agent-governance. Cette liste de contrôle ajoute un responsable et une preuve précise à chacune de ces étapes, plus un septième contrôle pour les dépendances tierces, afin qu'un DSI puisse produire la preuve que le cadre est réellement suivi.

Quelles sous-catégories du NIST AI RMF s'appliquent au contrôle des agents IA en entreprise ?

Govern 2.1 couvre les rôles et responsabilités documentés, Govern 1.6 couvre la tenue d'un inventaire des systèmes IA avec un responsable nommé, Govern 2.3 couvre la responsabilité exécutive pour les décisions sur le développement et le déploiement des systèmes IA, Govern 4.2 couvre la documentation des risques et impacts par système, et Govern 6.1 et 6.2 couvrent les politiques et plans de secours pour les dépendances IA tierces jugées à haut risque.

Qui devrait être responsable de l'inventaire des agents IA actifs dans une organisation ?

Le Playbook du NIST AI RMF présente cela comme une personne ou une équipe nommée responsable de la tenue des détails de l'inventaire, et non comme une supposition qu'il existe quelque part. Dans le modèle d'Atipol, cela correspond à l'agent lead déclaré de chaque agent au niveau de l'entrée, et à un administrateur ou au propriétaire de l'organisation au niveau du catalogue.

Sources

Essayez sur un vrai projet

La démo publique montre une organisation fictive en fonctionnement, sans compte. L'offre gratuite donne un projet, trois agents et un agent lead.