Checklist AI Act pour agents IA : articles 12 et 14

Avant de vous inquiéter de la journalisation de l'article 12 ou du contrôle humain de l'article 14, vérifiez une chose : la tâche de cet agent IA entre-t-elle dans l'un des huit domaines de l'annexe III de l'AI Act ? Seuls ces agents font face aux obligations légales précises des deux articles ; gardez les mêmes contrôles comme bonne pratique pour les autres.
Un agent IA n'est pas automatiquement un système d'IA à haut risque
Un DSI chargé de montrer que les agents IA de l'entreprise respectent l'AI Act part en général de la mauvaise question : quel article s'applique à chaque agent. La plupart des obligations techniques précises du règlement, dont l'article 12 sur la conservation des enregistrements et l'article 14 sur le contrôle humain, s'appliquent pleinement seulement aux systèmes d'IA que le règlement classe à haut risque. Un agent interne qui rédige des notes de version ou trie des tickets de support n'entre pas automatiquement dans cette catégorie, et traiter chaque agent comme s'il y entrait entraîne soit un effort de conformité gaspillé, soit, pire, une fausse impression que des contrôles sans rapport couvrent l'obligation réelle.
L'article 6 de l'AI Act fixe deux voies vers le statut à haut risque. La première couvre les systèmes d'IA qui sont eux-mêmes, ou qui sont un composant de sécurité d'un produit déjà soumis à une évaluation de conformité par un tiers au titre de la législation d'harmonisation de l'UE listée à l'Annexe I. La seconde est plus pertinente pour la plupart des équipes logicielles : « AI systems referred to in Annex III shall be considered to be high-risk. » Un agent IA n'entre dans cette seconde voie que si la tâche qu'il effectue tombe dans l'un des domaines listés de l'Annexe III, pas parce qu'il est agentique, autonome, ou construit sur un grand modèle de langage.
L'article 6(3) ajoute un filtre même à l'intérieur de l'Annexe III : un système listé n'est pas à haut risque s'il ne présente pas un risque significatif d'atteinte à la santé, à la sécurité ou aux droits fondamentaux, par exemple parce qu'il effectue une tâche procédurale étroite ou ne fait qu'améliorer le résultat d'une activité humaine déjà achevée. Ce filtre a sa propre limite stricte : un système de l'Annexe III « shall always be considered to be high-risk where the AI system performs profiling of natural persons », sans exception de tâche étroite disponible.
Pour un DSI qui construit un inventaire, la séquence pratique consiste à lister à quoi chaque agent sert réellement, pas quel modèle ou framework il utilise, à vérifier cet usage par rapport aux huit domaines de l'Annexe III, à appliquer le filtre de l'article 6(3) et son exception de profilage quand un domaine listé est concerné, et seulement ensuite à décider lesquelles des exigences précises des articles 12 et 14 constituent une obligation légale pour cet agent plutôt qu'une bonne pratique volontaire empruntée aux deux mêmes articles.
Cette même séquence en quatre étapes se suit plus facilement en schéma qu'en paragraphe :
Listez ce que fait réellement l'agent, vérifiez-le par rapport aux huit domaines de l'Annexe III de l'AI Act, appliquez le filtre de l'article 6(3) et son exception de profilage, et seulement alors traitez la journalisation de l'article 12 et le contrôle de l'article 14 comme une obligation légale plutôt qu'une bonne pratique.
Où un flux agentique tombe réellement dans l'Annexe III
L'Annexe III liste huit domaines, formulés sur l'AI Act Service Desk de la Commission européenne comme : la biométrie, lorsque son usage est permis par le droit de l'Union ou national applicable ; les infrastructures critiques ; l'éducation et la formation professionnelle ; l'emploi, la gestion des travailleurs et l'accès au travail indépendant ; l'accès et la jouissance de services et prestations essentiels privés et publics ; les activités répressives, lorsque permises par le droit de l'Union ou national applicable ; la gestion de la migration, de l'asile et du contrôle aux frontières, lorsque permise par le droit de l'Union ou national applicable ; et l'administration de la justice et des processus démocratiques.
Un agent qui trie des tickets de support internes, rédige des textes marketing, ou relit une pull request ne tombe dans aucun de ces huit domaines à première vue. Un agent qui présélectionne des candidats, note une demande de prêt ou de prestation, ou alimente une décision répressive ou de contrôle aux frontières, si, ce qui explique pourquoi la même question, dans quel domaine de l'Annexe III, s'il en existe un, la tâche de cet agent tombe-t-elle, doit être posée agent par agent plutôt que tranchée une fois pour toute une flotte.
L'article 6(4) impose une trace écrite sur ce jugement : un fournisseur qui conclut qu'un système de l'Annexe III n'est pas à haut risque doit documenter cette évaluation avant de le mettre sur le marché ou en service, ce qui signifie que la décision de périmètre elle-même, pas seulement les contrôles qui en résultent, est quelque chose qu'un DSI doit pouvoir produire lors d'un audit.
Les obligations se répartissent nettement selon cette même limite :
| Dans l'Annexe III (haut risque) | Hors Annexe III | |
|---|---|---|
| Journalisation automatique de l'article 12 | Obligation légale | Bonne pratique seulement |
| Contrôle humain de l'article 14 | Obligation légale | Bonne pratique seulement |
| Documentation de classification de l'article 6(4) | Exigée avant mise sur le marché ou en service | Non exigée |
Les articles 12 et 14, traduits en contrôles d'agent
Une fois confirmé que la tâche d'un agent tombe dans l'Annexe III, ou qu'une équipe décide d'appliquer la même discipline comme bonne pratique dans tous les cas, les articles 12 et 14 se traduisent en une courte liste de contrôles concrets plutôt qu'en un bloc de texte juridique.
Aucun de ces contrôles n'exige de deviner ce que les régulateurs accepteront plus tard : chaque ligne correspond à un texte déjà publié sur l'AI Act Service Desk propre de la Commission européenne, pas à une bonne pratique de sécurité générique rebaptisée pour la conformité, ce qui fait la différence entre un contrôle qui tient en audit et un contrôle qui sonne simplement comme lié à l'article qu'il est censé satisfaire.
| Exigence de l'AI Act | Ce que cela signifie pour un agent | Contrôle qui la satisfait |
|---|---|---|
| Journalisation automatique sur la durée de vie du système (article 12) | Chaque appel d'outil que fait l'agent nécessite un enregistrement persistant et spontané | Chaque appel est journalisé et relié à un agent, un ticket et un résultat |
| Journaux assez traçables pour le risque et la surveillance post-commercialisation (article 12) | Le journal doit montrer qui a autorisé une action, pas seulement qu'elle a eu lieu | Le journal enregistre l'approbation explicite accordée ou refusée pour chaque appel |
| Contrôle humain effectif pendant l'utilisation (article 14(1)) | Une personne supervise l'exécution, pas seulement un résumé après coup | L'approbation humaine est exigée avant qu'un appel précis ne s'exécute, pas après |
| Comprendre les capacités et les limites, éviter la confiance excessive (article 14(4)(a)(b)) | Le superviseur doit savoir ce que l'agent peut et ne peut pas faire, et ne pas valider son résultat sans examen | La relecture couvre le résultat réel, jamais seulement le résumé que l'agent en donne |
| Passer outre ou écarter le résultat (article 14(4)(d)) | Une personne peut décider de ne pas utiliser le résultat de l'agent dans un cas précis | Chaque outil porte l'un de trois états, autorisé, approbation, ou refusé |
| Interrompre ou arrêter le système (article 14(4)(e)) | Quelqu'un doit pouvoir arrêter l'agent en cours d'exécution, en toute sécurité | Une exécution peut être arrêtée, son identité révoquée, ou un outil retiré, sans toucher aux autres agents |
Ce qui tombe hors de l'Annexe III mérite quand même la même discipline
Rien dans le raisonnement ci-dessus ne supprime l'intérêt opérationnel de la journalisation et de la relecture humaine pour les agents hors Annexe III. Un agent qui fusionne du code, envoie un message client, ou publie du contenu peut toujours causer des dégâts qu'un journal aurait rendus traçables et qu'une porte d'approbation aurait arrêtés, indépendamment de l'article juridique applicable. La distinction que trace l'article 6 est de savoir quels contrôles sont une obligation contraignante appuyée par une classification documentée, et lesquels sont un choix qu'une équipe fait parce que le risque est réel même là où le règlement n'impose pas le contrôle.
L'article 14(4)(c) ajoute une attente de plus pour le superviseur d'un système à haut risque : être capable d'interpréter correctement le résultat du système en utilisant les outils d'interprétation mis à disposition, ce qui ne fonctionne que si le résultat vu par le relecteur est le résultat réel de l'appel, pas une paraphrase que l'agent a écrite sur son propre travail.
C'est aussi là qu'une discipline de relecture de tickets déjà décrite sur ce blog s'applique sans aucune classification AI Act attachée : un relecteur autre que le demandeur qui vérifie la livraison réelle, et un journal de qui a approuvé quoi, c'est la même forme de contrôle, que l'agent en question touche un jour une tâche de l'Annexe III ou non.
Un journal conservé pour un agent hors Annexe III garde aussi la décision de classification honnête dans le temps. Si un agent support reçoit plus tard une fonctionnalité qui touche, disons, l'accès à un service public essentiel, l'historique opérationnel montre déjà ce que faisait l'agent avant et après ce changement, ce qui est le même type de preuve que l'article 6(4) demande à un fournisseur de produire pour un système de l'Annexe III jugé non à haut risque, appliqué ici à un système qui a basculé dans l'Annexe III plutôt qu'à un système qui y était dès le départ.
Calibrer ce qui est journalisé sur la tâche, pas sur un modèle fixe
L'article 12 ne fixe pas un format de journalisation unique pour tous les systèmes ; il exige un niveau de traçabilité adapté à la finalité prévue du système. Le seul minimum concret que fixe le règlement est plus étroit que les flux agentiques en général : pour les systèmes d'identification biométrique à distance listés à l'Annexe III, point 1(a), les journaux doivent au minimum capturer l'heure de début et de fin de chaque usage, la base de données consultée, les données ayant produit une correspondance, et qui a vérifié le résultat. La plupart des flux agentiques auront besoin de leur propre équivalent proportionné, pas de cette liste précise.
Cette calibration joue dans les deux sens. Un agent support dont la pire action possible est une réponse mal formulée n'a pas besoin de la même profondeur de journalisation qu'un agent qui alimente une décision dans l'un des huit domaines de l'Annexe III, et appliquer à chaque agent le minimum de l'identification biométrique enregistrerait un détail que la tâche n'a jamais produit au départ, sans rendre le journal plus utile pour le risque que l'agent porte réellement.
Calendrier : quand ces obligations commencent à s'appliquer
Les obligations les plus strictes ne s'appliquent pas immédiatement. La description propre de la Commission européenne de l'AI Act liste le 2 décembre 2027 comme la date à laquelle les obligations strictes pour les systèmes d'IA à haut risque commencent, ce qui donne à un DSI un horizon de planification plutôt qu'une échéance immédiate pour les systèmes de l'Annexe III identifiés aujourd'hui. La conformité aux articles 12 et 14 pour un agent nouvellement classifié reste utile à construire avant cette date, puisque ajouter après coup la journalisation et une interface de supervision à un agent déjà en production est plus lent que de concevoir les deux dès le départ.
Une classification faite aujourd'hui n'est pas non plus nécessairement permanente : si un agent est redéployé vers un nouveau domaine de tâche, ou qu'une tâche existante est étendue vers l'un des huit domaines de l'Annexe III, l'évaluation de l'article 6 doit être refaite pour ce nouvel usage, pas héritée du rôle d'origine non à haut risque de l'agent.
Ce jalon de décembre 2027 s'inscrit dans un calendrier d'application plus large pour l'ensemble de l'AI Act :
Mis en graphique, ces cinq mêmes jalons montrent à quel point les échéances sont réellement espacées :
Commission européenne, cadre réglementaire de l'AI Act, mise à jour 19/10/2026
| Jalon | Applicable à partir du | Mois après l'entrée en vigueur |
|---|---|---|
| Pratiques interdites et littératie IA | 2 février 2025 | 6 |
| Modèles GPAI et règles de gouvernance | 2 août 2025 | 12 |
| Applicabilité générale | 2 août 2026 | 24 |
| Systèmes à haut risque, Annexe III | 2 décembre 2027 | 40 |
| Systèmes à haut risque, Annexe I | 2 août 2028 | 48 |
Intégrer cela dans un audit de conformité
La note de classification exigée par l'article 6(4), le journal par appel qu'attend l'article 12, et la trace d'approbation humaine qu'implique l'article 14 sont exactement le type de preuve qu'un auditeur demande des mois après coup, pas au moment où un système a été construit. Le cas d'usage audit de conformité d'Atipol couvre la collecte de cette preuve avec des agents en lecture seule, de sorte qu'une personne relit chaque contrôle et que le journal d'audit lui-même enregistre le contrôle humain derrière cette relecture, sur atipol.ai/use-cases/compliance-audit.
Pour les parties du tableau de conformité d'un agent que cette checklist ne couvre pas, comment le RGPD et l'AI Act interagissent sur tout le cycle de vie d'un agent, ou qui paie quand un modèle d'IA à usage général s'avère lui-même non conforme, voir atipol.ai/agentic-ai-blog/agentic-ai-gdpr-ai-act et atipol.ai/agentic-ai-blog/ai-act-sanctions-gpai.
Garder cette preuve à jour compte autant que la collecter une fois : la tâche d'un agent, et avec elle son exposition à l'Annexe III, peut changer plus vite qu'un cycle annuel de revue de conformité, ce qui est une raison de plus pour que le journal et la trace d'approbation décrits ci-dessus tournent en continu plutôt que d'être reconstitués de mémoire quand un auditeur les demande.
Questions fréquentes
L'article 12 de l'AI Act exige-t-il une journalisation pour chaque agent IA, ou seulement les agents à haut risque ?
Seuls les systèmes d'IA classés à haut risque au titre de l'article 6, principalement les huit domaines listés à l'Annexe III comme l'emploi, les services essentiels, ou les activités répressives, sont légalement tenus de satisfaire l'exigence de journalisation automatique de l'article 12. Un agent dont la tâche tombe hors de ces domaines peut quand même journaliser chaque appel comme bonne pratique, de la même façon que l'article 12 est souvent mis en œuvre, mais l'article lui-même ne fait pas de cette journalisation une obligation légale pour cet agent.
Que doit pouvoir faire le superviseur humain d'un agent IA au titre de l'article 14 ?
L'article 14(4) liste cinq choses qu'un superviseur doit pouvoir faire : comprendre les capacités et les limites du système, éviter de trop s'appuyer sur son résultat, interpréter correctement ce résultat en utilisant les outils mis à disposition, décider de ne pas utiliser le système ou de passer outre son résultat dans une situation précise, et interrompre ou arrêter le système pour qu'il s'arrête en toute sécurité. L'article 14(1) exige aussi que le système lui-même soit conçu pour qu'une personne puisse le superviser tout au long de son usage, pas seulement le relire après coup.
Si un agent IA n'est pas à haut risque au titre de l'AI Act, une entreprise doit-elle quand même le documenter ?
Oui, pour un système situé dans l'un des huit domaines de l'Annexe III qu'un fournisseur juge non à haut risque au titre du filtre de l'article 6(3) : l'article 6(4) exige de documenter cette évaluation avant que le système ne soit mis sur le marché ou en service. Pour un agent qui ne tombe jamais dans l'Annexe III dès le départ, l'AI Act n'impose pas cette obligation de documentation précise, bien que garder une trace de pourquoi un agent a été jugé hors périmètre reste une preuve utile pour un audit.
Sources
- Commission européenne, AI Act Service Desk, article 6, texte consolidé au 27/07/2026
- Commission européenne, AI Act Service Desk, Annexe III, consultée le 11/11/2026
- Commission européenne, AI Act Service Desk, article 12, texte consolidé au 27/07/2026
- Commission européenne, AI Act Service Desk, article 14, texte consolidé au 27/07/2026
- Commission européenne, cadre réglementaire de l'AI Act, mise à jour 19/10/2026
La démo publique montre une organisation fictive en fonctionnement, sans compte. L'offre gratuite donne un projet, trois agents et un agent lead.
