KI-Governance für CISOs, wo Cybersicherheit auf KI-Risiko trifft

Für CISOs stellt KI im Jahr 2026 eine doppelte Herausforderung dar: KI-Systeme sind zugleich eine neue Angriffsfläche, die es zu verteidigen gilt, und eine neue Kategorie von Assets, die es zu steuern gilt. Der Global Cybersecurity Outlook 2025 des WEF berichtete, dass 72 % der Organisationen von einem gestiegenen Cyberrisiko sprechen. Die Darktrace-Umfrage 2025 ergab, dass 78 % der CISOs erhebliche Auswirkungen durch KI-Bedrohungen melden und 93 % innerhalb eines Jahres täglich mit KI-gestützten Angriffen rechnen. KI hat sich von einem Technologiethema zu einer Sicherheits- und Governance-Frage auf Vorstandsebene entwickelt.

Die vier KI-Bedrohungskategorien, die CISOs adressieren müssen

Prompt Injection und adversariale Angriffe. Der Bericht der Cloud Security Alliance vom April 2026 bestätigte Remote Code Execution durch Prompt Injection in produktiven KI-Systemen. Zu den Angriffsvektoren zählen direkte Prompt Injection, indirekte Prompt Injection über Datenquellen, Zero-Click-Hijacking agentischer Browser und die Manipulation der Werkzeugnutzung. Die OWASP Top 10 for LLM Applications sind die grundlegende Referenz, ihnen folgen jedoch nur 29 % der Organisationen (Moody's 2025).

Datenabfluss über KI. Mitarbeitende geben vertrauliche Daten in Consumer-KI-Tools ein, KI verarbeitet personenbezogene Daten über den zulässigen Zweck hinaus, Trainingsdaten werden aus Modellen extrahiert. Die Saviynt-Umfrage 2026 unter mehr als 200 CISOs kam zu dem Ergebnis, dass „KI Zugriffe hat, die niemand erteilt hat“, KI-Agenten also mit Berechtigungen arbeiten, die nie formell über IAM-Prozesse autorisiert wurden.

Model Poisoning und Lieferkette. Kompromittierte Trainingsdaten, bösartiges Fine-Tuning, Lieferkettenangriffe über Repositories für KI-Modelle. Die Offenlegung der OpenClaw-Schwachstelle (November 2025) identifizierte mehr als 21.000 exponierte Instanzen, bei denen 12 % der Repository-Inhalte Schadsoftware enthielten.

KI-gestützte Bedrohungen. KI-generiertes Phishing (laut Cobalt sind inzwischen 40 % des Phishings KI-generiert), KI-unterstützte Codeschwachstellen (laut DryRun enthalten 87 % der KI-generierten Pull Requests Sicherheitsmängel), Deepfakes für Social Engineering und automatisierte Schwachstellensuche.

Die spezifischen CISO-relevanten Erwartungen der APRA (Australian Prudential Regulation Authority)

Das Branchenschreiben der APRA vom 30. April 2026 benannte das Identitäts- und Zugriffsmanagement für nicht-menschliche Akteure (KI-Agenten) als konkrete Lücke. Das fällt direkt in den Verantwortungsbereich des CISO: KI-Agenten benötigen IAM-Kontrollen, Authentifizierung, Autorisierung und Audit-Logging auf demselben Niveau wie menschliche Nutzer. CPS 234 (Informationssicherheit) gilt für KI-Systeme, die Informations-Assets verarbeiten. Für wesentliche KI-Systeme wird adversariales Testen erwartet, also Prompt Injection, Jailbreak und Datenexfiltration.

Framework-Ausrichtung für CISOs

Der operative Framework-Stack für die KI-Governance von CISOs: NIST AI RMF (KI-spezifisches Risikomanagement) + NIST Cybersecurity Framework 2.0 (Cyber-Risikomanagement) + NIST IR 8596 (vorläufiger Entwurf vom Dezember 2025, der beide verbindet). ISO/IEC 42001 für das KI-Managementsystem + ISO 27001 für Informationssicherheit. OWASP Top 10 LLM für Anwendungssicherheit. Cybersicherheitsanforderungen der EU-KI-Verordnung für KI im Anwendungsbereich. CPS 234 für die Informationssicherheit australischer Finanzdienstleister.

Was CISOs aufbauen sollten

KI-spezifische Sicherheitskontrollen. Tests auf Prompt Injection, Ausgabefilterung, Eingabevalidierung für KI-Systeme. Rate Limiting und Anomalieerkennung für den Zugriff auf KI-APIs. Data-Loss-Prevention-Regeln, die Eingaben in KI-Tools abdecken. Netzwerksegmentierung für die Infrastruktur von KI-Training und KI-Inferenz.

IAM für nicht-menschliche Akteure. KI-Agenten, automatisierte Workflows und KI-gesteuerte Prozesse benötigen Identitätsmanagement: eindeutige Identitäten, Zugriff nach dem Least-Privilege-Prinzip, Authentifizierung, Audit-Logging und Zugriffsüberprüfung. Genau diese Lücke hat die APRA benannt.

Sicherheitsbewertung von KI-Anbietern. Die übliche Risikobewertung von Drittparteien, erweitert um KI-spezifische Fragen: Sicherheitstests der Modelle, Sicherheit der Trainingsdaten, Robustheit gegenüber adversarialen Angriffen, Incident Response für KI-spezifische Störungen.

Incident Response für KI. KI-Vorfälle (Anomalien im Modellverhalten, adversariale Angriffe, Datenabfluss über KI, Vorfälle mit KI-generierten Inhalten) erfordern definierte Reaktionsverfahren, Eskalationswege und Meldepflichten.

Security Awareness für KI. Schulung der Mitarbeitenden zu KI-spezifischen Risiken: was nicht in KI-Tools eingegeben werden darf, wie KI-generiertes Phishing erkannt wird und wie KI-Sicherheitsbedenken gemeldet werden.

Verwandte Beiträge

Weiterführende Lektüre: ASD ACSC Agentic AI Guidance