Journal d'audit d'un agent IA : que consigner ?

Un journal d'audit d'agent IA doit permettre de répondre à cinq questions : quel agent a agi, pour le compte de qui, avec quel outil, sur quelles données et avec quelle validation humaine. Il exclut les secrets, limite les données personnelles au nécessaire et se conserve au moins six mois pour un système à haut risque selon l'AI Act.
Pourquoi journaliser un agent IA
Un agent IA ne se contente pas de répondre : il appelle des outils, lit des fichiers et modifie des systèmes. Sans journal, impossible de reconstituer qui a fait quoi après un incident. Pour les systèmes à haut risque, l'article 12 de l'AI Act impose d'ailleurs que le système permette techniquement l'enregistrement automatique des événements pendant toute sa durée de vie.
Les cinq informations à consigner
Chaque entrée du journal doit pouvoir être relue seule, sans contexte supplémentaire. Le tableau ci-dessous donne le minimum utile pour un audit : l'identité de l'agent, la personne responsable, l'action réalisée, les données touchées et la décision de validation. Ajoutez un horodatage précis et un identifiant unique pour relier les entrées d'une même tâche.
| Information | Exemple | Question d'audit |
|---|---|---|
| Agent | Agent de rédaction, version du modèle | Quel agent a agi ? |
| Responsable | Personne ou équipe qui a lancé la tâche | Pour le compte de qui ? |
| Action | Appel d'outil MCP, commande, écriture | Qu'a-t-il fait ? |
| Données | Fichier, table ou dossier concerné | Sur quoi a-t-il agi ? |
| Validation | Accord humain, refus ou validation automatique | Qui l'a autorisé ? |
Relier chaque action à une validation
Le journal doit montrer qui a autorisé une action, pas seulement qu'elle a eu lieu. Dans une équipe d'agents, chaque personne a son agent lead : il relit le travail des agents qu'il a missionnés et décide de son intégration, et cette décision doit apparaître dans le journal. Pour une action irréversible, comme une publication ou une suppression, consignez aussi l'accord humain explicite qui l'a précédée.
Ce qu'il ne faut jamais consigner
Un journal d'audit ne doit contenir ni mot de passe, ni jeton d'accès, ni clé d'API, même tronqués. Le RGPD impose aussi la minimisation des données : ne gardez que les données personnelles nécessaires à la finalité du journal. Préférez un identifiant de document à son contenu, et masquez les champs sensibles avant l'écriture plutôt qu'après.
Combien de temps conserver le journal
Pour un système d'IA à haut risque, l'AI Act fixe un minimum : les journaux générés automatiquement sont conservés au moins six mois, par le fournisseur (article 19) comme par le déployeur (article 26), sauf disposition contraire du droit de l'Union ou national. Pour les autres agents, fixez une durée dans votre politique interne et appliquez-la partout.
Limiter ce que l'agent peut faire
Un bon journal ne remplace pas des droits limités. L'OWASP classe l'agentivité excessive parmi les dix principaux risques des applications à base de modèles de langage en 2025 : trop d'outils, trop de permissions ou trop d'autonomie. Donnez à chaque agent les seuls outils utiles à sa mission, et journalisez aussi les refus d'accès.
Rendre le journal utilisable en audit
Le cadre de gestion des risques de l'IA du NIST organise le travail en quatre fonctions : gouverner, cartographier, mesurer et gérer. Le journal sert notamment mesurer (MEASURE 2.4, suivi en production) et gérer (MANAGE 4.1, suivi après déploiement et réponse aux incidents). Pour qu'il serve en audit, il doit être exportable, protégé contre la modification et consultable par une personne extérieure à l'équipe qui a déployé l'agent.
Le journal d'audit en deux chiffres
Deux chiffres résument ce cadre : le nombre d'informations qu'une entrée de journal doit contenir, et la durée minimale de conservation pour un système à haut risque.
- 5 Informations par entrée Agent, responsable, action, données, validation
- 6 Conservation minimale (mois) AI Act, art. 19 et 26, systèmes à haut risque
Questions fréquentes
Faut-il journaliser chaque réponse de l'agent ?
Non. Journalisez les actions qui ont un effet : appels d'outils, écritures, publications et décisions de validation. Le texte complet des échanges n'est utile que si votre politique le justifie, en respectant la minimisation des données.
L'article 12 de l'AI Act s'applique-t-il à tous les agents ?
Non. L'article 12 vise les systèmes d'IA à haut risque. Pour les autres agents, un journal reste une bonne pratique de gouvernance, mais sa forme et sa durée relèvent de votre politique interne.
Qui doit pouvoir lire le journal ?
Au minimum, la personne responsable de l'agent et une fonction de contrôle indépendante, comme la sécurité ou l'audit interne. Limitez l'accès en écriture pour que le journal ne puisse pas être modifié après coup.
Sources
- Règlement (UE) 2024/1689 sur l'intelligence artificielle (AI Act), articles 12, 19 et 26, 13/06/2024
- Règlement (UE) 2016/679 (RGPD), article 5, 27/04/2016
- NIST, AI Risk Management Framework 1.0, janvier 2023
- OWASP, LLM06:2025 Excessive Agency, 2025
La démo publique montre une organisation fictive en fonctionnement, sans compte. L'offre gratuite donne un projet, trois agents et un agent lead.
