Shadow AI stoppen, ohne KI-Agenten zu verbieten

Shadow AI ist kein Erkennungsproblem: Keine Plattform, Atipol eingeschlossen, findet von sich aus jeden unverwalteten Agenten, deshalb besteht die Lösung darin, den deklarierten Weg schneller zu machen als den nicht deklarierten. Das bedeutet einen Katalog genehmigter MCP-Server, Berechtigungen, die Tool für Tool festgelegt werden, und von einem Administrator protokollierte Ausnahmen für alles außerhalb des Katalogs, einheitlich angewendet auf jeden deklarierten Agenten.
Ein Verbot von KI-Agenten übersteht den ersten engen Termin nicht
Ein DSI, der ein pauschales Verbot erlässt, KI-Agenten mit Unternehmenssystemen zu verbinden, löst die leichte Hälfte des Problems. Ein Verbot hindert ein Team unter Termindruck nicht daran, an einem Wochenende einen Agenten an eine Tabelle, eine Ticket-Warteschlange, oder eine Kundendatenbank anzuschließen, genau wie das Verbot nicht genehmigter SaaS-Tools Schatten-IT nie gestoppt hat; es garantiert nur, dass niemand den DSI vorher informiert hat, wenn es passiert. Das Problem ist nicht, dass Agenten außerhalb des Plans existieren, sondern dass es kein Rahmenwerk gibt, das man einem Team genau in dem Moment an die Hand geben kann, in dem es fragt, wie man das richtig statt heimlich macht.
Der Instinkt, der auf ein gescheitertes Verbot folgt, ist die Suche nach einem Tool, das jeden bereits laufenden unverwalteten Agenten und MCP-Server findet, das Netzwerk-Scanning-Äquivalent zur Schatten-IT-Entdeckung. Dieser Instinkt stößt auf eine härtere Grenze als eine Richtlinie: Ein Agent ist ein Prozess, den ein Entwickler von einem Laptop aus mit einem einzigen Befehl starten kann, oft über ein Protokoll, das bewusst leichtgewichtig und einfach aufzusetzen ist, mit einem viel kleineren Fußabdruck zum Verstecken als ein SaaS-Abonnement mit einer Rechnungsspur.
Jeden Agenten gleich zu behandeln, egal ob er ein Status-Update entwirft oder Kundendaten anfasst, verschwendet denselben Aufwand wie ein pauschales Verbot: Entweder blockiert es harmlose Automatisierung rundweg und treibt sie in den Untergrund, oder es lässt alles durch, weil ein Verbot von Fall zu Fall durchzusetzen zu langsam ist, wodurch die Agenten, die tatsächlich ein Risiko tragen, nicht kontrollierter sind als vor der Richtlinie.
Keine Plattform erkennt Schatten-KI von sich aus, Atipol eingeschlossen
Atipol ist über diese Grenze ausdrücklich statt stillschweigend: Sie erkennt von sich aus keine MCP-Server oder Agenten, die außerhalb der Plattform installiert wurden, und ersetzt keinen separaten Entdeckungsprozess für nicht verwaltete Tools. Ein Agent, der nie bei Atipol deklariert wurde und sich nie über sie verbindet, hinterlässt kein Ereignis, das Atipol protokollieren könnte, genau wie ein Server, den ein Sicherheitsteam nie aufgenommen hat, kein Ereignis im eigenen Monitoring dieses Teams hinterlässt. Keine Plattform, Atipol eingeschlossen, schließt diese Lücke, indem sie nach etwas scannt, das ihr nie überhaupt gezeigt wurde.
Das ist kein Grund, Governance aufzugeben, sondern ein Grund, die Energie in den Teil des Problems zu stecken, den ein Rahmenwerk tatsächlich löst: den deklarierten, genehmigten Weg schnell und klar besser zu machen als den nicht deklarierten, sodass weniger Teams einen Grund haben, ihn zu umgehen, und den Teams, die bereits Agenten laufen haben, eine konkrete, reibungsarme Möglichkeit zu geben, diese sichtbar zu machen, statt diese Entscheidung einem Verbot zu überlassen, von dem niemand erwartet, dass es befolgt wird.
OWASPs eigene Leitlinie zu Excessive Agency macht denselben Punkt aus einem anderen Blickwinkel: Zu verringern, was ein Agent tun kann, also seine Funktionalität, Berechtigungen und Autonomie zu minimieren, schließt mehr von dieser Lücke, als ein Erkennungstool es könnte, weil ein eng begrenzter Agent weniger zum Missbrauchen hat, selbst wenn er nie gefunden wird. Das NIST AI Risk Management Framework formuliert dieselbe Idee auf Ebene einer ganzen Organisation, als freiwilliges Rahmenwerk, das helfen soll, Vertrauenswürdigkeitserwägungen in Design und Entwicklung eines Systems einzubauen, nicht um im Nachhinein nach etwas zu scannen, das ihm nie deklariert wurde.
In einem Satz:
Ein Rahmenwerk findet keinen nicht deklarierten Agenten; es macht den deklarierten Weg schnell genug und den Katalog sichtbar genug, sodass weniger Teams einen Grund haben, ihn zu umgehen. Keine Plattform, Atipol eingeschlossen, schließt die Lücke, indem sie nach etwas scannt, das ihr nie gezeigt wurde.
Was ein Rahmenwerk anstelle von Erkennung bietet
Die Form dieses Rahmenwerks ist ein Katalog statt eines Scanners: Atipol setzt auf einen Katalog von Servern, die die Organisation zulässt, eingestellt auf einen von drei Modi, offene Workspaces, nur Katalog, oder verpflichtende Genehmigung, mit der Regel, dass ein Workspace die Regeln nur verschärfen, nie lockern kann. Jede Person hat ihren eigenen agent lead, der für diese Person handelt und nie mehr Rechte hat als sie, sodass die Identität eines Agenten im System von seiner Erstellung an an einen deklarierten Menschen gebunden ist, statt an ein anonymes Skript, das niemand auf eine Anfrage zurückführen kann.
Der Katalog muss nicht damit beginnen, jedes Tool aufzulisten, das ein Team irgendwann einmal haben möchte; er beginnt damit, aufzulisten, was bereits genehmigt ist, wobei alles andere zu einer konkreten, sichtbaren Entscheidung geleitet wird. „Off-catalog requests are decided by an administrator, and logged“, was die Frage eines neuen, nicht gelisteten MCP-Servers von einer stillen Verbindung in eine protokollierte Anfrage verwandelt, die ein Administrator gewährt oder ablehnt.
Nebeneinandergestellt sehen die beiden Wege so aus:
| Nicht deklarierter Agent | Deklarierter Agent (Katalog) | |
|---|---|---|
| Für einen Administrator sichtbar | Es existiert keine Aufzeichnung | Bei Deklaration protokolliert |
| Tool-Berechtigungen | Was auch immer der Prozess erreichen kann | Tool für Tool festgelegt |
| Anfrage außerhalb des Katalogs | Keine Anfrage zu stellen | Von einem Administrator entschieden und protokolliert |
| Identität | Anonymes Skript | An den agent lead einer Person gebunden |
Shadow-AI-Risiko gegen die Antwort des Rahmenwerks
Die eigene Sicherheitsleitlinie des Model Context Protocol benennt die konkreten Risiken, die eine nicht deklarierte oder schlecht abgegrenzte Agentenverbindung schafft; ein deklarierter Katalog mit Tool-für-Tool-Berechtigungen beantwortet jedes davon direkt, statt zu versuchen, die Verbindung selbst zu erkennen.
| Risiko (MCP-Sicherheitsleitlinie) | Wie es unverwaltet aussieht | Antwort des Rahmenwerks |
|---|---|---|
| Token-Durchreichung | Ein Server reicht das Token eines Clients an eine nachgelagerte API weiter, ohne zu prüfen, dass es für diesen Server ausgestellt wurde | Ein Katalogeintrag bindet einen Server an eine konkrete, geprüfte Konfiguration, bevor ein Agent ihn nutzen kann |
| Berechtigungsaufblähung | Einem Token werden breite Scopes wie files:* oder admin:* gewährt, weil das einfacher war als zweimal zu fragen | Berechtigungen werden Tool für Tool festgelegt, erlaubt, genehmigungspflichtig, oder verweigert, nicht als pauschale Gewährung pro Agent |
| Kompromittierung eines lokalen Servers | Ein lokal ausgeführter Server läuft mit denselben Rechten wie wer auch immer ihn gestartet hat, ohne Sandbox | Server außerhalb des Katalogs werden zu einer Administratorentscheidung geleitet, bevor sie überhaupt laufen |
| Confused Deputy, übersprungene Zustimmung | Ein Proxy-Server verwendet ein früheres Zustimmungs-Cookie erneut, um den Autorisierungsbildschirm eines neuen Clients zu überspringen | Jeder deklarierte Agent ist an den agent lead einer Person gebunden, der nie die eigenen Rechte dieser Person übersteigt |
| Nicht deklarierte Verbindung | Niemand außerhalb des Teams, das sie gestartet hat, weiß, dass der Agent oder Server existiert | Ein Workspace mit nur Katalog oder verpflichtender Genehmigung lässt eine nicht deklarierte Verbindung gar nicht erst starten, statt ungesehen zu bleiben |
Den Katalog um das Prinzip der geringsten Rechte herum aufbauen, nicht um pauschales Vertrauen
Die eigenen Sicherheits-Best-Practices des Model Context Protocol beschreiben die Alternative zu pauschalem Vertrauen als ein progressives Berechtigungsmodell: einen „minimal initial scope set containing only low-risk discovery/read operations“, mit „incremental elevation via targeted... scope challenges when privileged operations are first attempted“, statt dass ein Server im Voraus jeden Scope veröffentlicht, oder ein Client jeden Scope anfordert, den er jemals brauchen könnte. Die Spezifikation ist direkt darüber, welchen Fehlermodus das vermeidet: „publishing all possible scopes“, oder „using wildcard or omnibus scopes (*, all, full-access)“, erweitert, was ein einziges gestohlenes Token erreichen kann, und erschwert es, Zugriff zu widerrufen, ohne jeden Workflow zu stören, den dieses Token berührte.
Dieselbe Anleitung zu lokal ausgeführten Servern wendet dasselbe Prinzip auf die Maschine selbst an statt auf ein Token: Ein Client sollte „execute MCP server commands in a sandboxed environment with minimal default privileges“, gestartet „with restricted access to the file system, network, and other system resources“, mit ausdrücklicher Zustimmung, die angezeigt wird, bevor ein neuer lokaler Server überhaupt läuft. Ein Katalog, der um diese beiden Ideen herum aufgebaut ist, minimaler Scope standardmäßig und sandboxed lokale Ausführung, gibt einem deklarierten Agenten weniger zum Missbrauchen, selbst wenn eine Prüfung etwas übersieht, was ein auf den nicht deklarierten Agenten gerichtetes Erkennungstool nicht leisten kann.
Dieselbe Anleitung ist konkret darüber, was dieser Zustimmungsschritt zeigen muss, bevor ein lokaler Server überhaupt läuft: den genauen Befehl, der ausgeführt wird, ohne Kürzung, eine klare Kennzeichnung, dass es sich um eine potenziell gefährliche Operation handelt, die Code auf dem System des Nutzers ausführt, und eine ausdrückliche Genehmigung, die verlangt wird, bevor die Konfiguration fortfährt. Befehlsmuster hervorzuheben, die ein Home-Verzeichnis, SSH-Schlüssel, oder Systemverzeichnisse berühren, und zu warnen, dass ein Server mit denselben Rechten läuft wie der Client selbst, verwandelt eine Ein-Klick-Installation in eine sichtbare Entscheidung, die eine Person trifft, statt in etwas, das still im Hintergrund passiert.
Den Ausnahmeweg sichtbar statt unsichtbar machen
Ein Administrator, der jede Anfrage außerhalb des Katalogs entscheidet und protokolliert, ist kein Erkennungssystem, aber er erzeugt etwas, das ein Erkennungssystem ebenfalls bräuchte: eine Aufzeichnung, wer wann welches Tool angefragt hat und ob es gewährt wurde. Diese Aufzeichnung existiert, weil die Entscheidung innerhalb des deklarierten Wegs getroffen wurde, von einer Person, die eine Anfrage durch den Katalog leitet, nicht weil ein Scanner nachträglich eine Verbindung gefunden hat. Die ehrliche Version dieses Rahmenwerks sagt einem Team genau diesen Unterschied im Voraus, statt es annehmen zu lassen, ein Katalog beobachte still, was außerhalb von ihm verbunden wird.
Das setzt auch die richtige Erwartung dafür, was passiert, wenn ein nicht deklarierter Agent auf andere Weise entdeckt wird, über eine Anbieterrechnung, einen Netzwerkalarm ohne Bezug zu Atipol, oder einen Kollegen, der ihn in einem Meeting erwähnt. Der Katalog gibt diesem Agenten, sobald er entdeckt ist, einen Ort, an den er gehört: eine Kategorie, die man anfragen kann, einen Workspace-Modus, der bereits für ihn gilt, und einen agent lead, dem man ihn zuweisen kann, statt einer von Grund auf neu getroffenen Richtlinienentscheidung jedes Mal, wenn einer auftaucht.
Das hält die Ausnahme auch in demselben Vokabular prüfbar, das die eigene Anleitung des Model Context Protocol für Scope-Erhöhung empfiehlt: eine konkrete, protokollierte Anfrage, die auf eine konkrete, protokollierte Entscheidung trifft, statt dass ein Client still einen breiteren Zugriff annimmt, weil zweimal fragen wie Reibung wirkte.
Das Rahmenwerk den Teams geben, die bereits Agenten laufen haben
Die drei Workspace-Modi bewegen sich nur in eine Richtung:
Ein von Anfang an deklarierter Rollout funktioniert besser als ein Verbot, gefolgt von einer Jagd. Einen Workspace von offen zu nur Katalog, dann von nur Katalog zu verpflichtender Genehmigung zu verschieben, entspricht den drei Modi, die die Plattform bereits unterstützt, und entspricht dem Prinzip, dass sich Regeln nur verschärfen, nie lockern, sodass ein Team das Rahmenwerk nie als überraschenden Rückschritt bei dem erlebt, was es bereits tun kann. Jeder Agent erhält bei der Deklaration seinen eigenen agent lead, was Identität und Berechtigung von Tag eins an an eine konkrete Person bindet, dieselbe strukturelle Entscheidung, die die eigene Anleitung des Model Context Protocol trifft, wenn sie empfiehlt, eine Sitzung an einen bestimmten Nutzer zu binden, statt sie als anonyme Anmeldedaten zu behandeln.
Eine kurze Übergangsfrist, um bereits genutzte Agenten zu deklarieren, kombiniert mit denselben Katalog- und Berechtigungsregeln, die ab dann gelten, verwandelt einen Rückstau nicht deklarierter Automatisierung in Inventar, ohne dass jemand zugeben muss, eine Regel gebrochen zu haben, die in der Praxis ohnehin niemand von Anfang an hätte befolgen können.
Nichts davon erfordert, jeden bereits laufenden Agenten zu finden, bevor man beginnt; es erfordert, den deklarierten Weg zu dem zu machen, den Teams bevorzugen, gestützt auf das oben beschriebene Berechtigungsmodell, den Katalog, und die protokollierten Ausnahmen, unter atipol.ai/agentic-ai-blog/mcp-security und atipol.ai/agentic-ai-blog/ai-agent-governance, sowie die geführte Tour zu diesem Modell unter atipol.ai/security.
Häufige Fragen
Kann eine Plattform Schatten-KI-Agenten automatisch erkennen?
Keine Plattform leistet das zuverlässig, Atipol eingeschlossen: Sie erkennt von sich aus keine MCP-Server oder Agenten, die außerhalb der Plattform installiert wurden, und ersetzt keinen separaten Entdeckungsprozess für nicht verwaltete Tools. Ein Agent, der sich nie über eine Plattform verbindet, hinterlässt kein Ereignis, das diese Plattform protokollieren könnte, weshalb ein Katalog- und Berechtigungsmodell, statt eines Erkennungsversprechens, die realistische Antwort auf Schatten-KI ist.
Was sollte ein Katalog genehmigter MCP-Server tatsächlich kontrollieren?
Ein Katalog kontrolliert, welche Server eine Organisation überhaupt erlaubt, eingestellt auf einen von drei Modi, offen, nur Katalog, oder verpflichtende Genehmigung, mit Berechtigungen, die Tool für Tool angewendet werden statt als pauschale Gewährung pro Agent. Die eigene Anleitung des Model Context Protocol fügt hinzu, dass jeder Server mit einem minimalen Scope beginnen und mehr nur über eine konkrete, protokollierte Erhöhung anfragen sollte, nicht über eine pauschale Gewährung im Voraus.
Was passiert, wenn jemand ein Tool außerhalb des genehmigten Katalogs anfragt?
Die Anfrage wird von einem Administrator entschieden und protokolliert, statt still abgelehnt oder still erlaubt zu werden. Diese Entscheidung wird genau deshalb Teil der Aufzeichnung, weil sie den deklarierten Weg durchlaufen hat, was der Mechanismus ist, den ein Rahmenwerk anstelle des Versuchs bietet, eine Verbindung zu erkennen, die den Katalog vollständig umgangen hat.
Quellen
- Model Context Protocol, Security Best Practices, Version 2025-11-25, abgerufen am 11/11/2026
- OWASP GenAI Security Project, LLM06:2025 Excessive Agency, abgerufen am 11/11/2026
- NIST, AI Risk Management Framework (AI RMF 1.0), veröffentlicht am 26/01/2023
Die öffentliche Demo zeigt eine fiktive Organisation im laufenden Betrieb, ohne Konto. Der kostenlose Tarif umfasst ein Projekt, drei Agenten und einen Agent Lead.
