Gouvernance

7 KI-Agenten-Kontrollen: Verantwortung und Nachweis

· Gründer von ETCSEC · aktualisiert am 17. November 2026 · 9 Min.
Illustration eines Roboters mit blauer Arbeitsmütze, die die Verantwortung für KI-Agenten-Kontrollen darstellt.
Die kurze Antwort

Ein Rahmenwerk auf dem Papier beweist nichts an dem Tag, an dem eine Vorfallsprüfung fragt, wer den Produktionszugriff eines KI-Agenten genehmigt hat und wo der Nachweis dafür ist. Diese Checkliste ordnet sieben Kontrollen jeweils einem konkreten Verantwortlichen, einem konkreten aufzubewahrenden Nachweis und einer NIST-AI-RMF-Unterkategorie zu, und baut dabei auf dem sechsstufigen Governance-Rahmenwerk von Atipol auf, statt es zu wiederholen.

Ein Rahmenwerk zu haben ist nicht dasselbe wie zu beweisen, dass es funktioniert

Wenn ein DSI einem Führungsgremium sagt, dass KI-Agenten unter Kontrolle sind, bedeutet das üblicherweise zwei verschiedene Dinge gleichzeitig: Ein Rahmenwerk existiert auf dem Papier, und niemand kann den Nachweis erbringen, dass es für den Agenten befolgt wurde, der letzte Woche gerade in Produktion gegangen ist. Die schwierigere, häufigere Frage ist nicht, welche Kontrollen ein Rahmenwerk auflistet, sondern wer täglich dafür verantwortlich ist und welchen Nachweis ein Prüfer, ein Regulierer oder eine Vorfallsprüfung tatsächlich vorlegen kann.

Diese Lücke wird wichtiger, je mehr Agenten von einem Pilotprojekt, das nur wenige Personen nutzen, zu einem System werden, das Kundendaten, Finanzberichte oder Produktionscode berührt. Ein Rahmenwerk, das nur in einem Richtliniendokument existiert, beantwortet die erste Frage, die nach der Vollständigkeit. Es beantwortet nicht die zweite, die nach dem Nachweis, die tatsächlich in der Woche geprüft wird, in der etwas schiefgeht und jemand fragt, wer es genehmigt hat und wo der Nachweis ist.

Diese Lücke erschwert auch eine Frage, die Aufsichtsräte jedes Quartal direkter stellen: Kann die Organisation Agent für Agent zeigen, dass der Produktionszugriff verdient und nicht standardmäßig gewährt wurde. Ein Rahmenwerk beantwortet das nur insgesamt; der unten beschriebene Nachweis ist das, was es Agent für Agent beantwortet, also auf der Ebene, auf der eine Vorfallsprüfung oder ein Regulierer die Frage tatsächlich stellt.

Rahmenwerk vs. Nachweis

Ein Rahmenwerk beschreibt, was allgemein passieren sollte; ein Nachweis belegt, dass es für einen benannten Agenten, einen benannten Verantwortlichen und einen datierten Beleg tatsächlich geschehen ist. Ein Audit, ein Regulierer oder eine Vorfallsprüfung testet Letzteres, nicht Ersteres.

Auf sechs Schritten aufbauen, sie nicht neu schreiben

Ein sechsstufiges Governance-Rahmenwerk (Inventar, Stellenbeschreibung und Umfang, Rechte und Werkzeuge, Tickets mit schriftlichen Kriterien, menschliche Prüfung vor dem Merge und Kostenmessung mit Audit-Log) wird bereits unter atipol.ai/agentic-ai-blog/ai-agent-governance behandelt, zusammen mit der RACI-Tabelle und der Beispiel-Nutzungsrichtlinie, die dazugehören. Dieses Rahmenwerk hier zu wiederholen, würde einem DSI nichts hinzufügen, was er nicht bereits hat. Was folgt, ordnet stattdessen jedem dieser Schritte, plus einem weiteren, einen konkreten Verantwortlichen und einen konkreten Nachweis zu, wobei die Govern-Funktion des NIST AI Risk Management Framework als Vokabular dafür dient, wie dieser Nachweis nach Ansicht von Regulierern und Prüfern bereits aussehen sollte.

Sieben Kontrollen, sieben Verantwortliche, sieben Nachweise

Jede Zeile unten setzt voraus, dass die zugrunde liegende Kontrolle bereits existiert, beschrieben im oben verlinkten Governance-Leitfaden, und stellt die nächste Frage: Wer ist dafür verantwortlich, dass sie funktioniert, und was legt er vor, wenn er den Nachweis erbringen soll.

KontrolleVerantwortlichAufbewahrter Nachweis
Inventar aktiver AgentenWer den Katalog pflegt (gemäß NIST Govern 1.6)Eine datierte Liste, die jeden Agenten, seinen Agent Lead und sein Projekt nennt
Stellenbeschreibung und DateiumfangDer Agent Lead, der den Agenten deklariert hatDer schriftliche Umfang und die verbotenen Aktionen, geprüft vor dem ersten Lauf
Rollenbasierte WerkzeugberechtigungenDer Administrator, der den Katalogmodus festgelegt hatEine exportierte Berechtigungsliste, erlaubt, Genehmigung oder verweigert, pro Werkzeug
Genehmigung vor sensiblen oder irreversiblen AktionenDer zum Zeitpunkt des Aufrufs benannte GenehmigerEin Protokolleintrag, der den Aufruf, den Genehmiger und die Entscheidung verknüpft
Prüfung vor dem Merge, durch jemand anderen als den AnfragendenEin Prüfer, der sich von der Person unterscheidet, die das Ticket eröffnet hatDer geprüfte Diff und die Merge-Entscheidung, nicht nur die Zusammenfassung des Agenten
Risiko und Auswirkung pro Agent dokumentiert (NIST Govern 4.2)Das Team, das diesen Agenten entworfen oder bereitgestellt hatEine kurze Risikonotiz, zusammen mit der Stellenbeschreibung aufbewahrt
Notfallplan für ein Drittanbietermodell oder einen MCP-Server (NIST Govern 6.1/6.2)Wer für die Abhängigkeit von diesem Anbieter verantwortlich istEin dokumentierter Ausweichplan, falls der Anbieter sich ändert, ausfällt oder abgekündigt wird

Was die Govern-Funktion des NIST als Nachweis erwartet

Die ersten vier Zeilen oben sind keine Erfindung; sie übersetzen eine Sprache, die bereits in der Govern-Funktion des NIST AI Risk Management Framework steht. Govern 2.1 verlangt, dass « roles and responsibilities and lines of communication related to mapping, measuring, and managing AI risks are documented... and are clear to individuals and teams throughout the organization », und das eigene Playbook des Rahmenwerks macht daraus eine Dokumentationsfrage, die ein Prüfer direkt stellen würde: « Are the responsibilities of the personnel involved in the various AI governance processes clearly defined? » Der Name eines Agent Lead auf einem Inventareintrag ist eine konkrete Antwort auf diese Frage; ein Richtliniendokument, das Agent Leads abstrakt beschreibt, ist es nicht.

Govern 1.6 tut dasselbe für das Inventar selbst und verlangt « mechanisms... in place to inventory AI systems... resourced according to organizational risk priorities », wobei das Playbook fragt « who is responsible for documenting and maintaining the AI system inventory details ». Die Antwort muss ein Name oder eine Rolle sein, keine Aussage, dass irgendwo ein Inventar existiert.

Govern 2.3 fügt eine Ebene über dem Agent Lead hinzu: « Executive leadership of the organization takes responsibility for decisions about risks associated with AI system development and deployment. » Zusammen mit den ersten beiden Unterkategorien gelesen, verläuft die Kette, die ein Prüfer tatsächlich kontrolliert, von einem deklarierten Agenten über einen benannten Agent Lead zu einer Führungskraft, die das Risiko seiner Entwicklung und Bereitstellung akzeptiert hat, nicht von einem Rahmenwerk-Dokument zu einer Annahme, dass irgendjemand irgendwo verantwortlich ist.

Zusammen gelesen beschreiben die drei obigen Unterkategorien eine Verantwortungskette:

Deklarierter AgentGovern 1.6Benannter Agent LeadGovern 2.1FührungskraftGovern 2.3Deklarierter AgentGovern 1.6Benannter Agent LeadGovern 2.1FührungskraftGovern 2.3

Die vom Playbook vorgeschlagenen Maßnahmen für dieselben Unterkategorien sind auf die gleiche Weise formuliert, als Richtlinien, die eine Organisation übernimmt, statt als abstrakte Ziele: für Govern 2.1, « Establish policies that promote regular communication among AI actors participating in AI risk management efforts » ; für Govern 1.6, « Establish policies that define a specific individual or team that is responsible for maintaining the inventory. » Beide verweisen auf denselben Nachweis: eine benannte Person oder ein Team, schriftlich in einer Richtlinie festgehalten, statt eines Rollendiagramms, das niemand aktuell halten muss.

Keine dieser vier Unterkategorien erfordert neue Werkzeuge, um erfüllt zu werden; sie verlangen, dass der Inventareintrag, die Stellenbeschreibung und die Freigabe der Führung als benannte, datierte Aufzeichnungen existieren, statt als gemeinsames Verständnis innerhalb des Teams, das den ersten Agenten gebaut hat. Die obige NIST-Sprache ist das Vokabular, das ein externer Prüfer wahrscheinlich bereits verwenden wird, was ein Grund ist, den Nachweis in diesen Begriffen zu erbringen, statt einen anderen zu erfinden.

Risiko und Auswirkung pro Agent dokumentieren, nicht nur pro Projekt

Govern 4.2 verlangt von organisatorischen Teams, « document the risks and potential impacts of the AI technology they design, develop, deploy, evaluate », was in der Praxis eine kurze, an die Stellenbeschreibung jedes Agenten angehängte Notiz ist, keine einzelne Risikobewertung für eine ganze Plattform. Das NIST-Playbook beschreibt dies als etwas, das « be applied at the beginning of a process but also iteratively and regularly since goals and outcomes can evolve over time » werden kann und das « assist in 'go/no-go' decisions for an AI system » kann, was die operative Version der sechsten Zeile der obigen Tabelle ist: eine Risikonotiz, die ein Team aktualisiert, kein einmal geschriebenes und abgelegtes Dokument.

Govern 6.1 und 6.2 weiten dieselbe Logik auf das aus, wovon ein Agent außerhalb der Organisation abhängt: « policies and procedures... that address AI risks associated with third-party entities », und « contingency processes are in place to handle failures or incidents in third-party data or AI systems deemed to be high-risk ». Diese zweite Anforderung ist ausdrücklich auf als hochriskant eingestufte Abhängigkeiten beschränkt, nicht auf jede Drittanbieterverbindung; für einen Agenten, der auf einem Modell oder einem MCP-Server aufbaut, den die Organisation so einstuft, ist der Notfallplan, was passiert, wenn der Anbieter die Bedingungen ändert, einen Endpunkt abkündigt oder einen Ausfall hat, die siebte Kontrolle, und diejenige, die am häufigsten fehlt, weil sie außerhalb des Teams liegt, das den Agenten gebaut hat.

Weder Govern 4.2 noch Govern 6.1/6.2 geben eine Vorlage für diese Notiz oder diesen Plan vor, und das ist Absicht: Eine Risikonotiz für einen internen Support-Agenten und eine für einen Agenten, der Finanzberichte berührt, werden nicht gleich aussehen, und ein Notfallplan sollte den tatsächlichen Anbieter und die tatsächliche Ausweichlösung nennen, keine allgemeine Aussage, dass irgendwo in einem Vorfallreaktionsdokument eine existiert.

Der Prüfer Ihres Nachweises darf nicht der Anfragende sein

Der Nachweis der fünften Zeile ist nur so gut wie die darin benannte Person. Die eigene Dokumentation von GitHub zur Prüfung eines von seinem Copilot-Coding-Agenten erstellten Pull Requests macht dieselbe Anforderung für einen vergleichbaren Ablauf explizit: Eine Genehmigung durch die Person, die die Arbeit zugewiesen hat, zählt nicht zu den erforderlichen Prüfungen eines Repositorys, und ein anderer Prüfer muss die Änderung vor dem Merge genehmigen. Der Nachweis, den ein Prüfer hier will, ist kein Zeitstempel, der zeigt, dass eine Prüfung stattgefunden hat, sondern die Identität des Prüfers, abgeglichen mit der des Anfragenden, was ein Protokoll, das nur « reviewed: yes » vermerkt, nicht liefern kann.

Dasselbe gilt für die vierte Zeile: Ein Genehmigungsprotokoll, das den Genehmiger nicht vom Agenten oder von der Person unterscheiden kann, die den Aufruf ausgelöst hat, dokumentiert, dass etwas passiert ist, ohne die Kontrolle zu dokumentieren, die es erfüllen sollte.

Der Nachweis hat seinen eigenen Prüfrhythmus

Eine Kontrolle, die beim Start des Rahmenwerks zutraf, trifft sechs Monate später nicht automatisch noch zu: Der Umfang eines Agenten kann sich ausweiten, ein Prüfer kann das Projekt verlassen, ein Drittanbietermodell kann seine Bedingungen ändern. Das Inventar, die Risikonotizen und die Berechtigungsliste als lebende Aufzeichnungen zu behandeln, die nach einem festen Zeitplan überprüft werden, statt als einmal für eine Launch-Prüfung erstellte Dokumente, hält den Nachweis in den Zeilen eins bis sieben mit dem in Einklang, was die Agenten tatsächlich tun, statt ein System zu beschreiben, das zum Zeitpunkt des letzten Audits existierte.

Hier unterscheiden sich auch die sechste und siebte Kontrolle am meisten von den ersten fünf: Ein Inventareintrag oder eine Berechtigungsliste kann gegen das System selbst geprüft werden, aber eine Risikonotiz und ein Notfallplan veralten lautlos, da nichts sichtbar zerbricht, wenn sie veralten, bis zu dem Tag, an dem das Szenario, das sie abdecken sollten, tatsächlich eintritt.

Dieselbe Playbook-Vorgabe, die fragt, wer das Inventar pflegt, legt ebenfalls kein Prüfintervall fest, was dem Muster entspricht, das in jeder hier zitierten Govern-Unterkategorie zu beobachten ist: NIST legt den Nachweis und die verantwortliche Rolle fest, keinen Kalender. Eine Organisation muss diesen Rhythmus dennoch selbst wählen, und die sicherste Standardwahl ist, ihn an bereits eintretende Ereignisse zu knüpfen, einen neu deklarierten Agenten, einen Prüfer, der ein Projekt verlässt, einen Anbieter, der die Bedingungen ändert, statt an ein einziges festes Datum in einem Compliance-Kalender.

Das Verantwortungs- und Nachweismodell in die Praxis umsetzen

Keine dieser sieben Kontrollen ersetzt das Rahmenwerk, die RACI-Tabelle oder die bereits unter atipol.ai/agentic-ai-blog/ai-agent-governance beschriebene Nutzungsrichtlinie; sie benennen, wer für jede verantwortlich ist und was man bereithalten sollte, wenn jemand nach einem Nachweis fragt. Das zugrunde liegende Berechtigungsmodell, die Genehmigungsprotokollierung und die Prüfpraxis für MCP-Server, die einen Großteil dieses Nachweises liefern, werden unter atipol.ai/agentic-ai-blog/mcp-security behandelt, und die geführte Tour durch die Anwendung all dessen auf ein ganzes Agententeam findet sich unter atipol.ai/security.

Häufige Fragen

Was ist der Unterschied zwischen einem Governance-Rahmenwerk für KI-Agenten und den hier beschriebenen Kontrollen?

Das Rahmenwerk, Inventar, Umfang, Werkzeugrechte, Ticketkriterien, Prüfung vor dem Merge und Kostenverfolgung, existiert bereits und wird unter atipol.ai/agentic-ai-blog/ai-agent-governance behandelt. Diese Checkliste fügt jedem dieser Schritte einen Verantwortlichen und einen konkreten Nachweis hinzu, plus eine siebte Kontrolle für Drittanbieterabhängigkeiten, damit ein DSI nachweisen kann, dass das Rahmenwerk tatsächlich befolgt wird.

Welche NIST-AI-RMF-Unterkategorien gelten für die Kontrolle von KI-Agenten im Unternehmen?

Govern 2.1 deckt dokumentierte Rollen und Verantwortlichkeiten ab, Govern 1.6 deckt die Führung eines KI-System-Inventars mit einem benannten Verantwortlichen ab, Govern 2.3 deckt die Führungsverantwortung für Entscheidungen zu Entwicklung und Bereitstellung von KI-Systemen ab, Govern 4.2 deckt die Dokumentation von Risiken und Auswirkungen pro System ab, und Govern 6.1 und 6.2 decken Richtlinien und Notfallpläne für als hochriskant eingestufte KI-Abhängigkeiten von Drittanbietern ab.

Wer sollte für das Inventar der in einer Organisation laufenden KI-Agenten verantwortlich sein?

Das Playbook des NIST AI RMF stellt dies als eine benannte Person oder ein benanntes Team dar, das für die Pflege der Inventardetails verantwortlich ist, nicht als Annahme, dass es irgendwo existiert. Im Modell von Atipol entspricht das dem deklarierten Agent Lead jedes Agenten auf Eintragsebene und einem Administrator oder Organisationsinhaber auf Katalogebene.

Quellen

Testen Sie es an einem echten Projekt

Die öffentliche Demo zeigt eine fiktive Organisation im laufenden Betrieb, ohne Konto. Der kostenlose Tarif umfasst ein Projekt, drei Agenten und einen Agent Lead.