Governance

KI-Agenten-Governance: 12 Begriffe erklärt

· Gründer von ETCSEC · aktualisiert am 17. November 2026 · 8 Min.
Illustration einer arbeitenden Roboterfigur, ohne Text oder Beschriftung, verwendet als generierte Kopfzeile des Artikels.
Die kurze Antwort

Ein DSI, der eine KI-Agentenplattform prüft, hört in jedem Pitch dieselben zwölf Wörter, Agent, Agent Lead, MCP, Guardrail, Audit-Log, Shadow AI, selten zweimal gleich definiert. Dieses Glossar definiert alle 12 Begriffe in einfacher Sprache, jeweils mit einer Primärquelle verknüpft, einschließlich dessen, was eine Plattform nicht tut, etwa Shadow AI von sich aus zu erkennen.

Zwölf Begriffe, ein gemeinsames Vokabular

Wer eine KI-Agentenplattform bewertet, stößt in jedem Verkaufsgespräch auf dieselben zwölf Wörter: Agent, Agent Lead, MCP, Guardrail, Audit-Log, Shadow AI. Anbieter definieren sie selten gleich, was einen echten Vergleich zwischen Plattformen erschwert und es leicht macht anzunehmen, ein Begriff decke mehr ab, als er tatsächlich tut.

Dieses Glossar definiert 12 dieser Begriffe in einfacher Sprache. Die Begriffe auf Protokollebene, MCP, MCP-Server, Tool, stammen aus der Spezifikation des Model Context Protocol selbst. Die Begriffe, die spezifisch sind für die Art, wie eine Plattform Governance umsetzt, Agent Lead, Audit-Log, Organisationsisolation, stammen aus Atipols veröffentlichter Produktreferenz, sodass jede Definition gegen ihre Quelle geprüft werden kann, statt einfach geglaubt zu werden.

Die 12 Begriffe lassen sich in einem einzigen Ablauf anordnen: eine Person besitzt einen agent lead, der Arbeit an Agenten zuweist; Agenten rufen Tools auf, die von MCP-Servern bereitgestellt werden, innerhalb der durch Tool-Berechtigungen gesetzten Grenzen; ein Guardrail, manchmal eine einmalige menschliche Freigabe, steht vor allem Sensiblen; und ein Audit-Log plus Nachverfolgbarkeit halten den gesamten Weg fest, innerhalb einer Grenze, die die nächsten Abschnitte Organisationsisolation nennen.

Diese Definitionen sind mehr als Vokabular. Eine Sicherheitsprüfung, ein Beschaffungsfragebogen oder eine interne KI-Richtlinie werden Varianten derselben Fragen stellen: für wen kann ein Agent handeln, was kann er aufrufen, wer genehmigt eine sensible Aktion, und was wird aufgezeichnet. Eine präzise Antwort für jeden der 12 unten stehenden Begriffe zu haben bedeutet, dass diese Fragen direkt, anhand einer Primärquelle, beantwortet werden können, statt aus einem Verkaufsgespräch rekonstruiert zu werden.

Derselbe Ablauf, als Diagramm:

EigentümerEine PersonAgent leadWeist zu undprüft TicketsAgentFührt dieAufgabe ausMCP-ServerTools, mitBerechtigungenGuardrailDurchgesetzteGrenzeHuman in theloopEinmaligeFreigabe beisensibelAudit-Log undNachverfolgbarkeitHält dengesamten WegfestOrganisationsisolationVerschlüsseltdie GrenzeEigentümerEine PersonAgent leadWeist zu und prüft TicketsAgentFührt die Aufgabe ausMCP-ServerTools, mit BerechtigungenGuardrailDurchgesetzte GrenzeHuman in the loopEinmalige Freigabe bei sensibelAudit-Log und NachverfolgbarkeitHält den gesamten Weg festOrganisationsisolationVerschlüsselt die Grenze

Die Akteure: Agent, Agent Lead und Runner

Was ist ein Agent? Ein Agent ist ein Softwareprozess, der eine Aufgabe eigenständig ausführt, typischerweise durch den Aufruf von Tools, statt dass eine Person jeden Schritt von Hand ausführt. Ein Agent arbeitet weiterhin innerhalb der Grenzen, die seine Plattform setzt: welche Tools er aufrufen darf und wer prüft, was er liefert.

Agent

Ein Agent ist ein Softwareprozess, der eine Aufgabe eigenständig ausführt, meist durch den Aufruf von Tools, statt dass eine Person jeden Schritt von Hand ausführt.

Was ist ein agent lead? In Atipols Modell ist ein agent lead der Prozess, der für genau eine Person handelt: er hat nie mehr Rechte als diese Person, teilt ein Brief in Tickets auf, weist jedes Ticket einem Agenten zu, und prüft und integriert jede Lieferung, bevor etwas als abgeschlossen gilt. Ein Agent prüft nie seine eigene Arbeit; diese Prüfung ist speziell die Aufgabe des agent lead.

Agent lead

Ein agent lead handelt für eine Person und hat nie mehr Rechte als diese Person; er prüft und integriert die Arbeit der Agenten, denen er Aufgaben zuweist.

Was ist ein Runner? Ein Runner ist die Maschine oder der Container, in dem ein Agent tatsächlich ausgeführt wird. Atipols Agenten laufen auf einem Mac, auf Windows, auf einer für einen Server erstellten Linux-Binärdatei, oder innerhalb eines als Server-Runner genutzten Docker-Containers, immer auf Infrastruktur, die der Nutzer bereits kontrolliert, nicht auf einer separaten gehosteten Flotte.

Runner

Ein Runner ist die Maschine oder der Container, Mac, Windows, eine Linux-Binärdatei oder Docker, in dem der Prozess eines Agenten tatsächlich ausgeführt wird.

Was MCP standardisiert: Server, Tools und Berechtigungen

Was ist MCP? Das Model Context Protocol, MCP, ist ein offenes Protokoll, das die Integration zwischen LLM-Anwendungen und externen Datenquellen und Tools ermöglicht, wie es die Spezifikation des Protokolls selbst definiert. MCP selbst ist ein Verbindungsstandard: es enthält keine eingebauten Guardrails, Audit-Logs oder Freigaberegeln; diese kommen von der Plattform, die es implementiert.

MCP

MCP ist ein offenes Protokoll, das es einer LLM-Anwendung ermöglicht, sich auf standardisierte Weise mit externen Tools und Datenquellen zu verbinden.

Was ist ein MCP-Server, und was ist ein Tool? Ein MCP-Server stellt eine Reihe von Tools bereit, aufrufbare Funktionen wie das Lesen eines Tickets oder das Abfragen einer Datenbank, die ein Agent über das Protokoll aufrufen kann. Jede dieser aufrufbaren Funktionen ist ein Tool; ein einzelner Server kann mehrere davon bereitstellen.

MCP-Server und Tool

Ein MCP-Server stellt Tools bereit, zum Beispiel das Lesen eines Tickets oder das Abfragen einer Datenbank, die ein Agent über MCP aufruft.

Der folgende Austausch zeigt genau, wie die Spezifikation selbst eine tools/call-Anfrage darstellt; der Server antwortet mit einem passenden JSON-RPC-Ergebnis (server/tools, Revision 2025-06-18).

{
  "jsonrpc": "2.0",
  "id": 2,
  "method": "tools/call",
  "params": {
    "name": "get_weather",
    "arguments": {
      "location": "New York"
    }
  }
}

Was sind Tool-Berechtigungen? Tool-Berechtigungen sind die Regeln, die festlegen, welche Tools ein Agent, oder ein Sub-Agent, an den er einen Teil seiner Arbeit delegiert, aufrufen darf. Diese Grenze ist explizit: ein Sub-Agent hat nie mehr Berechtigungen als der delegierende Agent, sodass Delegation das Erlaubte nur einschränken, nie erweitern kann.

Tool-Berechtigungen

Tool-Berechtigungen legen fest, welche Tools ein Agent aufrufen darf; ein Sub-Agent erhält nie mehr Berechtigungen als der Agent, der ihm die Arbeit delegiert hat.

Den Menschen in der Kontrolle behalten: Guardrails und Human in the Loop

Was ist ein Guardrail? Ein Guardrail ist eine in das System selbst eingebaute Regel, die eine Aktion blockiert oder einschränkt, bevor sie geschieht, statt eine Empfehlung, die ein Agent frei ignorieren kann. Ein Guardrail hängt nicht davon ab, dass der Agent sich entscheidet, ihn zu respektieren.

Guardrail

Ein Guardrail ist eine durchgesetzte Grenze dessen, was ein Agent tun darf, im System eingebaut, statt dem Urteil des Agenten überlassen.

Was bedeutet human in the loop? Es bedeutet, dass eine bestimmte, sensible Aktion auf die Genehmigung einer Person wartet, bevor sie fortgesetzt wird. Atipol ist hier hinsichtlich des Umfangs explizit: die menschliche Freigabe wird für einen bestimmten Aufruf, einmalig, erteilt, statt als dauerhafte Berechtigung, die ein Agent später wiederverwenden könnte.

Human in the loop

Human in the loop bedeutet, dass eine sensible Aktion auf die einmalige Genehmigung einer Person wartet, statt auf eigene Autorität des Agenten zu laufen.

Zusammen decken ein Guardrail und human in the loop zwei unterschiedliche Fehlermodi ab: ein Guardrail hindert einen Agenten daran, eine Aktion überhaupt zu versuchen, während human in the loop einem Agenten erlaubt, um Fortsetzung zu bitten, aber weiterhin verlangt, dass eine Person Ja sagt, bevor irgendetwas geschieht. Eine Plattform mit nur einem der beiden lässt eine Lücke, die das andere schließen soll.

Wissen, was passiert ist: Audit-Log und Nachverfolgbarkeit

Was ist ein Audit-Log? Ein Audit-Log ist die Aufzeichnung darüber, wer was getan hat: Mitglieder, Rollen, Sicherheitseinstellungen, Schlüsselöffnungen und Marktplatzaktionen, getrennt vom Inhalt der Arbeit selbst aufbewahrt. Atipols Organisations-Audit-Log enthält niemals Ticketinhalte und wird als CSV exportiert; eine erweiterte Version, mit wählbarer Aufbewahrungsdauer und Export zu einem SIEM, ist speziell für den Enterprise-Plan geplant, auf anderen Plänen heute nicht verfügbar.

Audit-Log

Ein Audit-Log zeichnet auf, wer was geändert hat, Rollen, Einstellungen, Schlüsselöffnungen, ohne den Inhalt der Arbeit selbst.

Die Beschreibung des Enterprise-Plans sagt dies direkt: er baut auf dem Business-Plan auf, plus einer Service-Verpflichtung, mit SSO, dem Kundenschlüssel und diesem erweiterten Audit-Log, allesamt als geplant statt jetzt verfügbar aufgeführt.

Was ist Nachverfolgbarkeit? Nachverfolgbarkeit ist die Fähigkeit, ein Stück Arbeit vom Brief, das es erzeugt hat, bis zur schließlich integrierten Änderung zu verfolgen. In Atipols Modell geben die sechs Zustände eines Tickets, Entwurf, übermittelt, in Bearbeitung, Prüfung, Integration, abgeschlossen, dieser Spur eine feste, überprüfbare Form, statt sie dem Gedächtnis oder einem Chatprotokoll zu überlassen.

Nachverfolgbarkeit

Nachverfolgbarkeit bedeutet, dass ein Ticket Schritt für Schritt vom ursprünglichen Brief bis zur integrierten Änderung verfolgt werden kann.

Teams getrennt halten: Organisationsisolation und Shadow AI

Was ist Organisationsisolation? Es bedeutet, dass die Daten einer Organisation kryptografisch von denen jeder anderen Organisation getrennt sind, statt in einem gemeinsamen Speicher zusammengefasst zu werden. Atipol verschlüsselt die Daten jeder Organisation getrennt, unter einem Hardware-Hauptschlüssel, und der Server öffnet sie für eine Person erst, nachdem er deren Rechte geprüft hat.

Organisationsisolation

Organisationsisolation bedeutet, dass Projektdaten pro Organisation mit einer eigenen Schlüsselkette verschlüsselt werden, statt über Kunden hinweg zusammengefasst zu sein.

Was ist Shadow AI? Der Begriff bezeichnet Agenten oder MCP-Server, die Personen innerhalb einer Organisation außerhalb der von der Organisation tatsächlich sanktionierten Plattform betreiben, unsichtbar für die Governance-Kontrollen, die diese Plattform bietet. Der Name beschreibt ein Risiko, keine Funktion, die jede Plattform zwangsläufig mitbringt.

Eine häufige Verwechslung: Shadow AI benennen versus erkennen

Shadow AI benennt ein Risiko, Agenten oder MCP-Server, die außerhalb einer sanktionierten Plattform laufen, keine Funktion, die jede Plattform hat. Atipol erkennt von sich aus keine Agenten oder MCP-Server, die außerhalb der Plattform installiert sind; ein Glossareintrag für den Begriff ist kein Versprechen, dass er überwacht wird.

Assistent, Agent oder automatisierter Workflow?

Diese drei werden austauschbar verwendet, unterscheiden sich aber auf eine praktische Weise: wer oder was den nächsten Schritt entscheidet, und genau dieser Unterschied bestimmt, wie viel Governance jeder davon braucht.

BegriffEntscheidet den nächsten SchrittTypischer Governance-Bedarf
KI-AssistentEine Person, bei jeder AnfrageNichts über den normalen Kontozugriff hinaus
KI-AgentDer Agent selbst, innerhalb seiner Tools und BerechtigungenGuardrails, Tool-Berechtigungen, Human in the Loop für sensible Aktionen
Automatisierter WorkflowEine feste, vordefinierte Abfolge, keine LaufzeitwahlÄnderungskontrolle an der Workflow-Definition selbst

Ein agent lead steht über dieser Tabelle, nicht innerhalb von ihr: er ist der Prozess, der ein Ticket überhaupt erst einem Agenten zuweist und prüft, was zurückkommt, egal ob sich dieser Agent eher wie ein Assistent bei einer engen Aufgabe verhält oder wie ein vollständig autonomer Akteur bei einer umfassenderen.

Die 12 Begriffe auf einen Blick

BegriffDefinition in einem Satz
AgentEin Prozess, der eine Aufgabe eigenständig ausführt, meist durch den Aufruf von Tools.
Agent leadHandelt für eine Person, weist Tickets zu, prüft jede Lieferung.
RunnerDie Maschine oder der Container, in dem ein Agent läuft: Mac, Windows, Linux-Binärdatei oder Docker.
MCPEin offenes Protokoll, das LLM-Anwendungen mit externen Tools und Daten verbindet.
MCP-Server und ToolEin Server, der aufrufbare Tools bereitstellt, etwa das Lesen eines Tickets, die ein Agent aufrufen kann.
Tool-BerechtigungenRegeln, welche Tools ein Agent oder Sub-Agent aufrufen darf.
GuardrailEine durchgesetzte Grenze für die Aktionen eines Agenten, kein Vorschlag.
Human in the loopEine sensible Aktion, die auf eine einmalige menschliche Freigabe wartet.
Audit-LogEine Aufzeichnung, wer was getan hat, ohne den Inhalt der Arbeit.
NachverfolgbarkeitEin Ticket vom Brief bis zur integrierten Änderung verfolgen, Schritt für Schritt.
OrganisationsisolationProjektdaten pro Organisation verschlüsselt, mit eigener Schlüsselkette.
Shadow AIAgenten oder MCP-Server, die außerhalb einer sanktionierten Plattform laufen, unsichtbar für ihre Kontrollen.

Eine Plattform, die diese 12 Begriffe so präzise definiert und konkret angibt, welche davon sie heute tatsächlich durchsetzt, statt sie erst später hinzuzufügen, etwa ein erweitertes Audit-Log oder die genaue Verschlüsselungskette hinter der Organisationsisolation, lässt sich leichter nach eigenen Verdiensten bewerten als eine, die dieselben 12 Wörter als Marketing-Kürzel nutzt. Dieselbe Präzision macht es zudem möglich, zwei Plattformen genau anhand dieser 12 Punkte zu vergleichen, statt anhand der Teilmenge, die jeder Anbieter hervorheben möchte.

Häufige Fragen

Ist ein KI-Agent dasselbe wie ein KI-Assistent?

Nein. Ein Assistent wartet darauf, dass eine Person jeden nächsten Schritt entscheidet; ein Agent entscheidet seinen eigenen nächsten Schritt innerhalb seiner Tools und Berechtigungen, weshalb Guardrails und Human-in-the-Loop-Freigabe für Agenten wichtiger sind als für Assistenten.

Setzt MCP selbst Governance wie Guardrails oder Audit-Logs durch?

Nein. MCP ist ein Protokoll zur Verbindung einer LLM-Anwendung mit Tools und Daten; Guardrails, Audit-Logs und Freigaberegeln werden von der Plattform gebaut, die MCP nutzt, nicht vom Protokoll selbst.

Kann eine Plattform Shadow AI von sich aus erkennen?

Nicht zwangsläufig. Atipol erkennt zum Beispiel von sich aus keine Agenten oder MCP-Server, die außerhalb der Plattform installiert sind, sodass Organisationsisolation und Audit-Logs abdecken, was innerhalb der Plattform geschieht, nicht, was außerhalb davon läuft.

Quellen

Testen Sie es an einem echten Projekt

Die öffentliche Demo zeigt eine fiktive Organisation im laufenden Betrieb, ohne Konto. Der kostenlose Tarif umfasst ein Projekt, drei Agenten und einen Agent Lead.