Die fundamentale Verschiebung

Herkömmliche KI produziert Outputs, Empfehlungen, Klassifizierungen, Texte, die Menschen dann aufgreifen und entsprechend handeln. Agentische KI invertiert das. Ein agentisches KI-System empfängt ein Ziel und führt dann eine Sequenz von Aktionen aus, um es zu erreichen. Der Mensch überprüft möglicherweise nicht jede Aktion. Die KI ist der Akteur.

Das ist keine hypothetische Zukunftsfähigkeit. KI-Agenten werden jetzt in Unternehmensumgebungen eingesetzt, für Kundenservice, Softwareentwicklung, Datenverarbeitung, Terminplanung und Koordination. Das agentische Paradigma ist da, und Governance-Rahmen haben nicht Schritt gehalten.

Das Rechenschaftsproblem

Wenn ein konventionelles KI-System einen schädlichen Output produziert, eine voreingenommene Einstellungsempfehlung, eine diskriminierende Versicherungsentscheidung, ist die Rechenschaftskette relativ klar. Der Modell-Anbieter hat die Technologie entwickelt; der Deployer hat sie in einem bestimmten Kontext angewendet; die Rechenschaftspflicht hängt an der Partei, deren Entscheidungen den Schaden verursacht haben.

Agentische KI zerstört diese Klarheit. Eine Sequenz schädlicher Aktionen hat multiple mögliche Verantwortungsträger: das Modell, das die Entscheidungslogik lieferte; die Plattform, die das Modell mit Tools und Zugang ausgestattet hat; den Deployer, der die Aufgabe und Berechtigungen definierte; und den Menschen, der das System ursprünglich autorisierte, autonom zu agieren.

Das Berechtigungsumfang-Problem

Das konkreteste Governance-Versagen bei agentischer KI ist der Berechtigungsumfang, Agenten mit breiterem Systemzugang zu versehen, als spezifische Aufgaben erfordern. Das Prinzip der minimalen Berechtigung, Systemen und Benutzern nur die für ihre spezifischen Aufgaben erforderlichen Berechtigungen zu geben, ist fundamental für Informationssicherheit. Es wird bei agentischen KI-Deployments routinemäßig verletzt, weil Agenten mit breiterem Zugang genuinen Mehrwert bieten und der spezifische Umfang des "erforderlichen" Zugangs für zielgerichtete Systeme im Voraus schwer zu definieren ist.

Governance für agentische KI

Wirksame Governance für agentische Systeme erfordert: erstens, explizite Rechenschaftszuweisung, jedes agentische System braucht einen namentlich genannten menschlichen Verantwortlichen, der ausreichend das System, seine Fähigkeiten und sein Risikoprofil versteht; zweitens, minimale Berechtigungsdurchsetzung, Agenten sollten nur die für ihre definierten Aufgaben erforderlichen Berechtigungen haben; drittens, Aktions-Logging mit menschlichen Überprüfungsauslösern, jede Aktion eines Agenten sollte mit ausreichenden Details protokolliert werden; und viertens, Sandboxing für neue Fähigkeiten, wenn Agenten neue Umgebungen oder Tools erhalten, sollte dies in kontrollierten Bedingungen beginnen.