AI Act

AI-Act-Checkliste für KI-Agenten: Artikel 12 und 14

· Gründer von ETCSEC · aktualisiert am 17. November 2026 · 10 Min.
Illustration eines Atipol-Roboters mit blauer Arbeitsmütze, der AI-Act-Compliance-Aufgaben sortiert.
Die kurze Antwort

Bevor Sie sich um die Protokollierung nach Artikel 12 oder die menschliche Aufsicht nach Artikel 14 sorgen, prüfen Sie eines: Fällt die Aufgabe dieses KI-Agenten in einen der acht Bereiche von Anhang III des AI Act? Nur Agenten in diesem Geltungsbereich unterliegen den konkreten rechtlichen Pflichten der beiden Artikel; ordnen Sie für diese Agenten die automatische Ereignisprotokollierung Artikel 12 und einen funktionierenden Stopp- und Übersteuerungsmechanismus Artikel 14 zu, und behalten Sie dieselben Kontrollen als gute Praxis für den Rest bei.

Ein KI-Agent ist nicht automatisch ein KI-System mit hohem Risiko

Ein DSI, der zeigen soll, dass die KI-Agenten des Unternehmens den AI Act einhalten, beginnt meist mit der falschen Frage: welcher Artikel für jeden Agenten gilt. Die meisten konkreten technischen Pflichten der Verordnung, einschließlich Artikel 12 zur Aufzeichnungspflicht und Artikel 14 zur menschlichen Aufsicht, gelten vollständig nur für KI-Systeme, die die Verordnung als hochriskant einstuft. Ein interner Agent, der Release-Notes entwirft oder Support-Tickets sortiert, fällt nicht automatisch in diese Kategorie, und jeden Agenten so zu behandeln, als wäre das der Fall, führt entweder zu verschwendetem Compliance-Aufwand oder, schlimmer, zu dem falschen Eindruck, dass unzusammenhängende Kontrollen die eigentliche Pflicht abdecken.

Artikel 6 des AI Act legt zwei Wege zum Hochrisikostatus fest. Der erste betrifft KI-Systeme, die selbst, oder als Sicherheitsbauteil, Teil eines Produkts sind, das bereits einer Konformitätsbewertung durch Dritte nach der in Anhang I gelisteten EU-Harmonisierungsgesetzgebung unterliegt. Der zweite ist für die meisten Software-Teams relevanter: „AI systems referred to in Annex III shall be considered to be high-risk.“ Ein KI-Agent gelangt nur über diesen zweiten Weg in diese Kategorie, wenn die Aufgabe, die er ausführt, in einen der gelisteten Bereiche von Anhang III fällt, nicht weil er agentisch, autonom, oder auf einem großen Sprachmodell aufgebaut ist.

Artikel 6(3) fügt sogar innerhalb von Anhang III einen Filter hinzu: Ein gelistetes System ist nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, etwa weil es eine eng begrenzte verfahrenstechnische Aufgabe ausführt oder nur das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert. Dieser Filter hat seine eigene harte Grenze: Ein System aus Anhang III „shall always be considered to be high-risk where the AI system performs profiling of natural persons“, ohne verfügbare Ausnahme für eng begrenzte Aufgaben.

Für einen DSI, der ein Inventar erstellt, besteht die praktische Abfolge darin, aufzulisten, wofür jeder Agent tatsächlich genutzt wird, nicht welches Modell oder Framework er nutzt, diese Nutzung gegen die acht Bereiche von Anhang III zu prüfen, den Filter aus Artikel 6(3) und seine Profiling-Ausnahme anzuwenden, wo ein gelisteter Bereich betroffen ist, und erst dann zu entscheiden, welche der konkreten Anforderungen aus Artikel 12 und 14 für diesen Agenten eine rechtliche Pflicht sind statt einer freiwilligen guten Praxis, die denselben beiden Artikeln entlehnt ist.

Dieselbe vierstufige Abfolge lässt sich als Diagramm leichter nachvollziehen als als Absatz:

Aufgabe desAgentenauflistennicht Modelloder FrameworkAnhang IIIprüfenacht gelisteteBereicheFilter 6(3)anwendenProfiling bleibthochriskantPflicht odergute PraxisArtikel 12 und14Aufgabe des Agenten auflistennicht Modell oder FrameworkAnhang III prüfenacht gelistete BereicheFilter 6(3) anwendenProfiling bleibt hochriskantPflicht oder gute PraxisArtikel 12 und 14
Der Geltungstest, in einem Durchgang

Listen Sie auf, was die Aufgabe des Agenten tatsächlich ist, prüfen Sie sie gegen die acht Bereiche von Anhang III des AI Act, wenden Sie den Filter aus Artikel 6(3) und seine Profiling-Ausnahme an, und behandeln Sie erst dann die Protokollierung nach Artikel 12 und die Aufsicht nach Artikel 14 als rechtliche Pflicht statt als gute Praxis.

Wo ein agentenbasierter Workflow tatsächlich in Anhang III landet

Anhang III listet acht Bereiche auf, formuliert auf dem AI Act Service Desk der Europäischen Kommission als: Biometrie, soweit ihre Nutzung nach relevantem Unions- oder nationalem Recht zulässig ist; kritische Infrastrukturen; Bildung und Berufsbildung; Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit; Zugang zu und Nutzung von wesentlichen privaten und öffentlichen Diensten und Leistungen; Strafverfolgung, soweit nach relevantem Unions- oder nationalem Recht zulässig; Migration, Asyl und Grenzkontrollmanagement, soweit zulässig nach relevantem Unions- oder nationalem Recht; und Rechtspflege und demokratische Prozesse.

Ein Agent, der interne Support-Tickets sortiert, Marketingtexte entwirft, oder eine Pull Request prüft, fällt auf den ersten Blick in keinen dieser acht Bereiche. Ein Agent, der Bewerber vorsortiert, einen Kredit- oder Leistungsantrag bewertet, oder eine Entscheidung zur Strafverfolgung oder Grenzkontrolle beeinflusst, hingegen schon, weshalb dieselbe Frage, in welchen Bereich von Anhang III, falls überhaupt, die Aufgabe dieses Agenten fällt, agentenweise gestellt werden muss, statt einmal für eine ganze Flotte beantwortet zu werden.

Artikel 6(4) legt für diese Einschätzung eine Nachweispflicht fest: Ein Anbieter, der zu dem Schluss kommt, dass ein System aus Anhang III nicht hochriskant ist, muss diese Bewertung dokumentieren, bevor er es in Verkehr bringt oder in Betrieb nimmt, was bedeutet, dass die Geltungsbereichsentscheidung selbst, nicht nur die daraus folgenden Kontrollen, etwas ist, das ein DSI bei einem Audit vorlegen können muss.

Die Pflichten teilen sich entlang genau dieser Grenze klar auf:

Innerhalb von Anhang III (hohes Risiko)Außerhalb von Anhang III
Automatische Protokollierung nach Artikel 12 Rechtliche Pflicht Nur gute Praxis
Menschliche Aufsicht nach Artikel 14 Rechtliche Pflicht Nur gute Praxis
Klassifizierungsdokumentation nach Artikel 6(4) Vor Inverkehrbringen oder Inbetriebnahme erforderlich Nicht erforderlich

Artikel 12 und 14, übersetzt in Agentenkontrollen

Sobald bestätigt ist, dass die Aufgabe eines Agenten in Anhang III fällt, oder ein Team sich entscheidet, dieselbe Disziplin ohnehin als gute Praxis anzuwenden, übersetzen sich Artikel 12 und 14 in eine kurze Liste konkreter Kontrollen statt in einen Block Gesetzestext.

Keine dieser Kontrollen erfordert, zu erraten, was Regulierungsbehörden später akzeptieren werden: Jede Zeile entspricht einem Wortlaut, der bereits auf dem eigenen AI Act Service Desk der Europäischen Kommission veröffentlicht ist, nicht einer generischen Sicherheits-Best-Practice, die für die Compliance umetikettiert wurde, was den Unterschied ausmacht zwischen einer Kontrolle, die einem Audit standhält, und einer, die nur so klingt, als hätte sie mit dem Artikel zu tun, den sie erfüllen soll.

AI-Act-AnforderungWas es für einen Agenten bedeutetKontrolle, die sie erfüllt
Automatische Protokollierung über die gesamte Lebensdauer des Systems (Artikel 12)Jeder Tool-Aufruf des Agenten braucht eine dauerhafte, unaufgeforderte AufzeichnungJeder Aufruf wird protokolliert und mit einem Agenten, einem Ticket und einem Ergebnis verknüpft
Protokolle, die für Risiko und Marktüberwachung nach dem Inverkehrbringen ausreichend nachvollziehbar sind (Artikel 12)Das Protokoll muss zeigen, wer eine Aktion autorisiert hat, nicht nur, dass sie stattfandDas Protokoll verzeichnet die ausdrücklich erteilte oder verweigerte Genehmigung für jeden Aufruf
Wirksame menschliche Aufsicht während der Nutzung (Artikel 14(1))Eine Person überwacht den Ablauf, nicht nur eine nachträgliche ZusammenfassungDie menschliche Genehmigung wird vor der Ausführung eines bestimmten Aufrufs verlangt, nicht danach
Fähigkeiten und Grenzen verstehen, übermäßiges Vertrauen vermeiden (Artikel 14(4)(a)(b))Die Aufsichtsperson muss wissen, was der Agent kann und nicht kann, und sein Ergebnis nicht blind abnickenDie Prüfung erfasst das tatsächliche Ergebnis, nie nur die eigene Zusammenfassung des Agenten dazu
Das Ergebnis übersteuern oder verwerfen (Artikel 14(4)(d))Eine Person kann entscheiden, das Ergebnis des Agenten in einem bestimmten Fall nicht zu nutzenJedes Tool trägt einen von drei Zuständen, erlaubt, genehmigungspflichtig, oder verweigert
Das System unterbrechen oder anhalten (Artikel 14(4)(e))Jemand muss den Agenten mitten im Lauf sicher stoppen könnenEin Lauf kann gestoppt, seine Identität widerrufen, oder ein Tool entfernt werden, ohne andere Agenten zu berühren

Was außerhalb von Anhang III fällt, verdient dieselbe Disziplin trotzdem

Nichts an der obigen Argumentation beseitigt den operativen Grund für Protokollierung und menschliche Prüfung bei Agenten außerhalb von Anhang III. Ein Agent, der Code mergt, eine Kundennachricht sendet, oder Inhalte veröffentlicht, kann weiterhin Schaden anrichten, den ein Protokoll nachvollziehbar gemacht und ein Genehmigungs-Gate verhindert hätte, unabhängig davon, welcher Rechtsartikel gilt. Der Unterschied, den Artikel 6 zieht, ist, welche Kontrollen eine verbindliche, durch eine dokumentierte Klassifizierung gestützte Pflicht sind, und welche eine Entscheidung sind, die ein Team trifft, weil das Risiko real ist, selbst wo die Verordnung die Kontrolle nicht vorschreibt.

Artikel 14(4)(c) fügt eine weitere Erwartung an die Aufsichtsperson eines Hochrisikosystems hinzu: in der Lage zu sein, das Ergebnis des Systems mithilfe der bereitgestellten Interpretationswerkzeuge korrekt zu interpretieren, was nur funktioniert, wenn das Ergebnis, das ein Prüfer sieht, das tatsächliche Ergebnis des Aufrufs ist, nicht eine Paraphrase, die der Agent über seine eigene Arbeit geschrieben hat.

Hier greift auch eine auf diesem Blog bereits beschriebene Disziplin der Ticket-Prüfung, ganz ohne jede AI-Act-Klassifizierung: Ein anderer Prüfer als der Anfordernde, der die tatsächliche Lieferung prüft, und ein Protokoll, wer was genehmigt hat, ist dieselbe Form von Kontrolle, egal ob der betreffende Agent jemals eine Aufgabe aus Anhang III berührt oder nicht.

Ein für einen Agenten außerhalb von Anhang III geführtes Protokoll hält außerdem die Klassifizierungsentscheidung mit der Zeit ehrlich. Erhält ein Support-Agent später eine Funktion, die etwa den Zugang zu einer wesentlichen öffentlichen Dienstleistung berührt, zeigt die operative Historie bereits, was der Agent vor und nach dieser Änderung getan hat, was derselbe Nachweis ist, den Artikel 6(4) von einem Anbieter für ein als nicht hochriskant eingestuftes System aus Anhang III verlangt, hier angewendet auf ein System, das in Anhang III hineingewandert ist, statt eines, das von Anfang an dort war.

Das Protokollierte an die Aufgabe anpassen, nicht an eine feste Vorlage

Artikel 12 legt kein einheitliches Protokollierungsformat für jedes System fest; er verlangt ein dem beabsichtigten Zweck des Systems angemessenes Maß an Nachvollziehbarkeit. Das einzige konkrete Minimum, das die Verordnung festlegt, ist enger gefasst als agentenbasierte Workflows im Allgemeinen: Für die in Anhang III, Punkt 1(a), gelisteten Systeme zur biometrischen Fernidentifizierung müssen Protokolle mindestens Beginn- und Endzeit jeder Nutzung, die geprüfte Datenbank, die Daten, die einen Treffer ergaben, und wer das Ergebnis verifiziert hat, erfassen. Die meisten agentenbasierten Workflows brauchen ihr eigenes angemessenes Äquivalent, nicht diese spezifische Liste.

Diese Anpassung wirkt in beide Richtungen. Ein Support-Agent, dessen schlimmstmögliche Aktion eine schlecht formulierte Antwort ist, braucht nicht dieselbe Protokollierungstiefe wie ein Agent, der eine Entscheidung in einem der acht Bereiche von Anhang III speist, und jeden Agenten auf das Minimum der biometrischen Identifizierung zu setzen, würde Details aufzeichnen, die die Aufgabe von vornherein nie hervorgebracht hat, ohne das Protokoll für das tatsächlich vom Agenten getragene Risiko nützlicher zu machen.

Zeitplan: Wann diese Pflichten greifen

Die strengsten Pflichten gelten nicht sofort. Die eigene Beschreibung des AI Act durch die Europäische Kommission nennt den 2. Dezember 2027 als Datum, an dem die strengen Pflichten für KI-Systeme mit hohem Risiko beginnen, was einem DSI einen Planungshorizont gibt statt einer unmittelbaren Frist für heute identifizierte Systeme aus Anhang III. Die Einhaltung von Artikel 12 und 14 für einen neu klassifizierten Agenten lohnt sich trotzdem, schon vor diesem Datum aufzubauen, da das nachträgliche Einbauen von Protokollierung und einer Aufsichtsschnittstelle in einen bereits produktiven Agenten langsamer ist, als beides von Anfang an zu entwerfen.

Eine heute getroffene Klassifizierung ist auch nicht zwangsläufig dauerhaft: Wird ein Agent in einen neuen Aufgabenbereich verlagert, oder eine bestehende Aufgabe auf einen der acht Bereiche von Anhang III ausgeweitet, muss die Bewertung nach Artikel 6 für diese neue Nutzung neu durchgeführt werden, nicht von der ursprünglichen, nicht hochriskanten Rolle des Agenten übernommen werden.

Dieser Meilenstein im Dezember 2027 liegt innerhalb eines längeren Einführungszeitplans für den gesamten AI Act:

Als Diagramm zeigen dieselben fünf Meilensteine, wie weit die Fristen tatsächlich auseinanderliegen:

Verbote, KI-KompetenzVerbote, KI-KompetenzMonate nach Inkrafttreten : 6 Monate6 MonateGPAI-ModelleGPAI-ModelleMonate nach Inkrafttreten : 12 Monate12 MonateAllgemeine GeltungAllgemeine GeltungMonate nach Inkrafttreten : 24 Monate24 MonateHochrisiko, Anhang IIIHochrisiko, Anhang IIIMonate nach Inkrafttreten : 40 Monate40 MonateHochrisiko, Anhang IHochrisiko, Anhang IMonate nach Inkrafttreten : 48 Monate48 Monate

Europäische Kommission, Rechtsrahmen für den AI Act, aktualisiert am 19/10/2026

MeilensteinAnwendbar abMonate nach Inkrafttreten
Verbotene Praktiken & KI-Kompetenz2. Februar 20256
GPAI-Modelle & Governance-Regeln2. August 202512
Allgemeine Anwendbarkeit2. August 202624
Hochrisikosysteme, Anhang III2. Dezember 202740
Hochrisikosysteme, Anhang I2. August 202848

Das in ein Compliance-Audit einbauen

Das von Artikel 6(4) verlangte Klassifizierungsmemo, das von Artikel 12 erwartete Protokoll pro Aufruf, und die von Artikel 14 implizierte Aufzeichnung der menschlichen Genehmigung sind genau die Art von Nachweis, die ein Prüfer Monate im Nachhinein verlangt, nicht in dem Moment, in dem ein System gebaut wurde. Atipols Anwendungsfall für Compliance-Audits deckt das Sammeln dieses Nachweises mit Agenten im Nur-Lese-Modus ab, sodass eine Person jede Kontrolle prüft und das Audit-Protokoll selbst die menschliche Aufsicht hinter dieser Prüfung festhält, unter atipol.ai/use-cases/compliance-audit.

Für die Teile des Compliance-Bilds eines Agenten, die diese Checkliste nicht abdeckt, wie die DSGVO und der AI Act über den gesamten Lebenszyklus eines Agenten hinweg zusammenwirken, oder wer zahlt, wenn sich ein KI-Modell für allgemeine Zwecke selbst als nicht konform erweist, siehe atipol.ai/agentic-ai-blog/agentic-ai-gdpr-ai-act und atipol.ai/agentic-ai-blog/ai-act-sanctions-gpai.

Diesen Nachweis aktuell zu halten, zählt ebenso sehr wie ihn einmal zu sammeln: Die Aufgabe eines Agenten, und damit seine Anhang-III-Exposition, kann sich schneller ändern als ein jährlicher Compliance-Überprüfungszyklus, was ein weiterer Grund ist, warum das oben beschriebene Protokoll und die Genehmigungsaufzeichnung durchgehend laufen müssen, statt aus dem Gedächtnis rekonstruiert zu werden, wenn ein Prüfer danach fragt.

Häufige Fragen

Verlangt Artikel 12 des AI Act eine Protokollierung für jeden KI-Agenten, oder nur für hochriskante?

Nur KI-Systeme, die nach Artikel 6 als hochriskant eingestuft sind, hauptsächlich die acht in Anhang III gelisteten Bereiche wie Beschäftigung, wesentliche Dienstleistungen, oder Strafverfolgung, sind rechtlich verpflichtet, die Anforderung der automatischen Protokollierung aus Artikel 12 zu erfüllen. Ein Agent, dessen Aufgabe außerhalb dieser Bereiche liegt, kann trotzdem jeden Aufruf als gute Praxis protokollieren, so wie Artikel 12 oft umgesetzt wird, aber der Artikel selbst macht diese Protokollierung für diesen Agenten nicht zu einer rechtlichen Pflicht.

Was muss die menschliche Aufsichtsperson eines KI-Agenten nach Artikel 14 können?

Artikel 14(4) listet fünf Dinge auf, die eine Aufsichtsperson können muss: die Fähigkeiten und Grenzen des Systems verstehen, übermäßiges Vertrauen auf sein Ergebnis vermeiden, dieses Ergebnis mithilfe der bereitgestellten Werkzeuge korrekt interpretieren, entscheiden, das System in einer bestimmten Situation nicht zu nutzen oder sein Ergebnis zu übersteuern, und das System unterbrechen oder anhalten, damit es sicher zum Stillstand kommt. Artikel 14(1) verlangt zudem, dass das System selbst so gebaut ist, dass eine Person es während seiner gesamten Nutzung beaufsichtigen kann, nicht nur es im Nachhinein prüfen.

Muss ein Unternehmen es dokumentieren, wenn ein KI-Agent nach dem AI Act nicht hochriskant ist?

Ja, für ein System innerhalb eines der acht Bereiche von Anhang III, das ein Anbieter nach dem Filter von Artikel 6(3) als nicht hochriskant einstuft: Artikel 6(4) verlangt, diese Bewertung zu dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Für einen Agenten, der von vornherein nie in Anhang III fällt, schreibt der AI Act diese spezifische Dokumentationspflicht nicht vor, auch wenn eine Aufzeichnung, warum ein Agent als außerhalb des Geltungsbereichs eingestuft wurde, weiterhin ein nützlicher Nachweis für ein Audit bleibt.

Quellen

Testen Sie es an einem echten Projekt

Die öffentliche Demo zeigt eine fiktive Organisation im laufenden Betrieb, ohne Konto. Der kostenlose Tarif umfasst ein Projekt, drei Agenten und einen Agent Lead.