Sicherheitsverantwortliche leben nach dem Mantra, dass man nicht schützen kann, was man nicht sieht. In vielen Organisationen macht die Angst vor Schatten-IT den Security-Teams weiterhin zu schaffen, während neue Apps in ihren Stack integriert werden. Diese Sichtbarkeitslücke hat sich durch eine Flut von KI-Agenten, die App-übergreifend eingeführt oder von den eigenen Teams intern entwickelt werden, nur noch weiter verschärft.

Als Grundlage unserer Umfrage baten wir CISOs, die folgenden Aussagen von „stimme voll und ganz zu“ bis „stimme überhaupt nicht zu“ zu bewerten:

1. Ich weiß, wo meine Agenten sind

2. Ich weiß, womit sich meine Agenten verbinden können

3. Ich weiß, was meine Agenten tun können

Weniger als die Hälfte der CISOs ist zuversichtlich, alle Agenten in ihrer Umgebung identifizieren (47 %), die Interaktionen ihrer Agenten kontrollieren (46 %) oder einzelne Tool-Aufrufe anhand von Kontext- und Absichtshinweisen autorisieren zu können (45 %). Der Prozentsatz fällt unter 30 %, wenn wir nur diejenigen betrachten, die mit „stimme voll und ganz zu“ geantwortet haben. Dieses mangelnde Vertrauen veranlasst diese Führungskräfte dazu, so schnell wie möglich neue Lösungen zu entwickeln oder zu finden.

Frankreich belegt das Schlusslicht beim Vertrauen in die eigene Kontroll- und Überwachungskompetenz. Trotz der weit verbreiteten Annahme und Sorge, dass Mitarbeiter:innen Schatten-KI nutzen (88 % berichten von zumindest einer gewissen nicht genehmigten KI-Nutzung), verlassen sich französische Organisationen auf eine passive Behebung: Fast 24 % benachrichtigen lediglich die Nutzer:innen und verlassen sich auf die Einhaltung von Richtlinien, wenn Schatten-KI entdeckt wird, was sie in besonderem Maße verwundbar macht.

Interessanterweise zeigt die Untersuchung ein Paradoxon zwischen Transparenz und Sicherheit, bei dem Transparenz allein nicht für ein beruhigendes Gefühl sorgt. Selbst unter CISOs, die sich absolut sicher sind, dass sie wissen, wo sich ihre KI-Agenten befinden, sind etwa 80 % weiterhin äußerst besorgt über übermäßige Zugriffe und Berechtigungen. Die Kenntnis des Standorts oder der Verbindungen eines Agenten mindert die Sorge vor einer Sicherheitsverletzung zwar leicht, beseitigt sie jedoch nie.

Die Mehrheit der Sicherheitsverantwortlichen fühlt sich heute bei der Absicherung ihrer KI-Agenten nicht besonders sicher – doch nicht alle Unternehmen (oder Regionen) befinden sich auf demselben Stand ihrer Entwicklung. Die Führungskräfte wurden gebeten, ihre Identity- und Zugriffsverwaltung nach Reifegrad einzustufen:

• Reaktiv: „Wir beginnen gerade erst damit, die KI-Nutzung zu entdecken, und verfügen noch nicht über formalisierte Identitätsrichtlinien oder Kontrollen für KI-Agenten.“

• In Entwicklung: „Wir verfügen über grundlegende Richtlinien für genehmigte KI, aber es fehlt uns an umfassender Transparenz und automatisierten Zugriffskontrollen.“

• Definiert: „Wir haben standardisierte Identitätskontrollen (z. B. SSO, MFA) auf bekannte KI-Tools angewendet, haben jedoch Schwierigkeiten mit Schatten-KI oder Berechtigungen nachgelagerter Agenten.“

• Fortgeschritten: „Wir verfügen über automatisierte Echtzeit-Zugriffskontrollen, kontinuierliche Überwachung und dynamische Governance für alle menschlichen und KI-Identitäten.“

Großbritannien ist auf seinem Weg zur KI-Governance am weitesten fortgeschritten, wobei 36 % der Organisationen eine fortschrittliche, vollautomatisierte Governance melden – der höchste Anteil aller befragten Länder. Dieser Fortschritt ist nicht auf Nachlässigkeit zurückzuführen: Britische Sicherheitsverantwortliche bleiben gegenüber Risiken äußerst wachsam. So geben 46 % an, dass sie „sehr besorgt“ darüber sind, dass übermäßige KI-Zugriffe ungeprüft bleiben – womit sie nur knapp hinter den USA liegen.

Ausgereifte Identity Governance bietet Schutz vor Bedrohungen

Während sich Unternehmen mit höherem Reifegrad weniger Sorgen über KI-gestützte Sicherheitsvorfälle machen und reaktive Organisationen am häufigsten extrem besorgt sind (32 %), gehen viele dieser reaktiven Teams bewusst den Kompromiss ein, um das Tempo hochzuhalten. Fast zwei Drittel (61 %) der reaktiven Organisationen priorisieren Innovation gegenüber Sicherheit, ein Anstieg um 13 Punkte gegenüber dem Durchschnitt über alle Reifegrade hinweg (48 %).

Dennoch gibt es einen klaren Weg zum Schutz: Je reifer die Governance für KI-Identitäten wird, desto weniger Sorgen muss man sich um Sicherheitsverletzungen, Schatten-KI und unkontrollierbare, eigenmächtige KI-Agenten machen.

Reaktive Unternehmen verzeichnen die umfangreichste Schatten-KI (25 % im Vergleich zu 13 % über alle Reifegrade hinweg) und haben eher Schwierigkeiten, nicht autorisierte Agenten zu identifizieren und zu stoppen. Während fortschrittliche Unternehmen unkontrollierbaren KI-Agenten die Zugriffsrechte schnell entziehen (50 % innerhalb von Minuten, verglichen mit 26 % über alle Befragten hinweg), sind 18 % der reaktiven Unternehmen überhaupt nicht in der Lage, diese zu identifizieren oder zu stoppen. Unterdessen können 55 % der Unternehmen den Zugriff von KI-Agenten im Fall einer Sicherheitsverletzung innerhalb von Stunden widerrufen – aber selbst eine Reaktion innerhalb von Stunden ist viel zu langsam, da KI-Systeme schädliche Aktionen sofort ausführen können.

Kein einziges Unternehmen der fortgeschrittenen Stufe hat Schwierigkeiten, diese Agenten zu erkennen und aufzuhalten.

Die vollständige Kontrolle über KI-Identitäten zu erlangen, hat oberste Priorität

Sicherheitsverantwortliche erkennen zunehmend, dass die für menschliche Identitäten entwickelten Tools und Prozesse nicht für die heutigen Anforderungen ausgelegt waren – und sie handeln schnell, um diesen Rückstand aufzuholen. Um in dieser neuen, komplexen Umgebung erfolgreich zu sein, priorisieren Security-Teams Governance als Weg in die Zukunft: Sie stellen Identität in den Mittelpunkt ihrer KI-Strategie, um zu einer vollständig automatisierten, optimierten und sicheren agentenbasierten Strategie überzugehen. Die vollständige Kontrolle darüber zu behalten, wer zu jedem beliebigen Zeitpunkt Zugriff auf Agenten hat, wurde von 29 % der Befragten als die wichtigste KI-Sicherheitsfunktion zur Absicherung des agentenbasierten Unternehmens eingestuft, gefolgt von der Agentenerkennung und der Verwaltung von Anmeldedaten mit jeweils 20 %.

Japan verzeichnet den höchsten Anteil an CISOs, die „äußerst besorgt“ über KI-gesteuerte Sicherheitsverletzungen sind (29 %) – mehr als jeder andere untersuchte Markt. Sie geben zudem doppelt so häufig (12 %) wie der weltweite Durchschnitt (6 %) an, dass sie über keinen einheitlichen Ansatz zur Verwaltung von Agentenidentitäten verfügen. Um diese Lücke zu schließen, ist die Unterstützung des Vorstands erforderlich – allerdings betrachten japanische Vorstände KI-Sicherheit weltweit am ehesten als Compliance-Hürde und nicht als geschäftlichen Wegbereiter, was es für CISOs erschwert, die benötigten Investitionen zu sichern.

Dieses Streben nach besserer Governance leuchtet ein, wenn man sich ansieht, wie KI-Identitäten heute tatsächlich verwaltet werden – die derzeit eingesetzten Methoden hinken dem Risiko in vielen Fällen noch hinterher. Zum Beispiel sagt jeder vierte CISO, dass er Agenten genau wie menschliche Identitäten behandelt. Aber aktuelle Identity- und Sicherheitstechnologien wurden für Menschen und herkömmliche Software entwickelt, die vorhersehbare Lebenszyklen und feste Ausführungspfade aufweisen. Die nicht-deterministische Natur von KI-Agenten verursacht Lücken, für deren Schließung bestehende Tools schlichtweg nicht ausgelegt sind.

Noch besorgniserregender ist, dass 21 % der Organisationen gemeinsam genutzte Anmeldedaten oder Service-Accounts mit umfassenden Berechtigungen verwenden, um den KI-Zugriff zu steuern, und fast ebenso viele (20 %) die Verwaltung der Agenten auf Ad-hoc-Basis dem Team überlassen, das sie bereitgestellt hat.

Wie Organisationen die Zugriffskontrolle für KI-Agenten verwalten

Die Sicherheitsverantwortlichen, die an der Weiterentwicklung ihrer KI-Governance-Richtlinien arbeiten, handeln so schnell wie möglich, in dem Wissen, dass alle nicht verwalteten Entitäten eine Bedrohung für ihre Organisationen darstellen. Diese Angst vor KI-gesteuerten Sicherheitsverletzungen ist bei US-amerikanischen CISOs besonders ausgeprägt, wobei 84 % der Befragten äußerst oder sehr besorgt sind (im Vergleich zu 57 % der CISOs weltweit).

Abgesehen von Sicherheitsverletzungen sind 81 % der weltweiten Sicherheitsverantwortlichen zutiefst besorgt darüber, dass übermäßiger KI-Zugriff nicht ordnungsgemäß überprüft wird.

CISOs in Deutschland geben das größte Vertrauen in die Überwachung von Agenten an, weisen jedoch einen der niedrigsten tatsächlichen Governance-Reifegrade auf (58 % in der Entwicklung oder reaktiv). Sie sind mit fast 81 % auch sehr besorgt über KI-Phishing, das höchste Signal für eine Einzelbedrohung in der Studie.

Bei der Untersuchung der Ursachen für diese Besorgnis verweisen Sicherheitsverantwortliche auf einige spezifische Bedrohungen. Sie nannten KI-gestützte Phishing-Versuche als die besorgniserregendste KI-Bedrohung (61 %), gefolgt von bösartigen KI-Agenten (49 %) und der Umgehung der Authentifizierung durch Deepfakes (45 %).

Analyse der größten Hindernisse für agentische Sicherheit

Über alle Reifegrade und regionalen Unterschiede hinweg waren sich Sicherheitsleiter:innen hinsichtlich der größten Hindernisse bei der Absicherung von KI einig. Mangelnde Transparenz bei KI-Identitäten ist das häufigste Hindernis für die Sicherheit (48 %), eine besonders weit verbreitete Herausforderung auf dem US-Markt, wo 74 % der Befragten damit zu kämpfen haben. 

Zu den weiteren Faktoren, die der KI-Sicherheit im Wege stehen, gehören Budget- und Personalengpässe (39 %) sowie Silos zwischen KI- und Security-Teams (33 %), welche die Umsetzung erforderlicher Veränderungen erschweren. Kanadische CISOs stachen aus der Gruppe hervor: Sie sehen das größte Hindernis bei der Absicherung des agentischen Unternehmens im Fehlen eines branchenweiten Standards (65 %).

Die größten Hürden bei der Absicherung von KI durch Identity-basierte Kontrollen

Die größte KI-Sicherheitsbarriere nach Land (am häufigsten genannte Herausforderung)

Schatten-KI ans Licht bringen

Mehr als zwei Drittel (68 %) der CISOs beobachten zumindest eine gewisse nicht genehmigte Nutzung von KI und agentischer KI. Trotz der oben genannten Einschränkungen tun die Teams alles in ihrer Macht Stehende, um Bedrohungen durch Schatten-KI wo immer möglich zu verwalten und darauf zu reagieren. Die häufigste Reaktion bei der Aufdeckung von Schatten-KI besteht insgesamt darin, den Zugriff zu blockieren (35 %) oder das Tool mithilfe der den Teams zur Verfügung stehenden Lösungen unter Governance zu stellen und Zugriffskontrollen anzuwenden (29 %).

Führungskräfte mögen zwar erkennen, dass Identity-Management von zentraler Bedeutung für die KI-Sicherheit ist, doch es besteht weiterhin eine erhebliche Diskrepanz zwischen der Anerkennung einer Strategie und der vollständigen Abstimmung bei deren Umsetzung. Weniger als ein Drittel (31 %) der CISOs hat das Gefühl, hinsichtlich des akzeptablen Maßes an KI-bezogenen Risiken vollständig mit der Führungsebene und dem Vorstand abgestimmt zu sein. Führungskräfte in den USA fühlen sich in dieser Gruppe am wenigsten abgestimmt, wobei nur 12 % angeben, sich vollständig abgestimmt zu fühlen – ein wenig überraschendes Ergebnis angesichts ihrer besonders großen Sorge um Sicherheitsverletzungen.

US-Organisationen zeigen die größte Angst vor Sicherheitsverletzungen (84 %) und große Bedenken hinsichtlich überprivilegierter Agenten (65 %), sind jedoch besser für den Erfolg aufgestellt, da die Mehrheit ihrer Vorstände (54 %) Sicherheit als geschäftsfördernden Faktor betrachtet.

CISOs haben hart daran gearbeitet, ihre Vorstände und C-Level-Führungskräfte davon zu überzeugen, dass Sicherheit ein geschäftsfördernder Faktor und kein Innovationshindernis ist, aber im Zeitalter der KI ist es noch schwieriger geworden, dieses Argument zu vertreten. Weniger als die Hälfte der CISOs (46 %) ist der Ansicht, dass ihre Vorstände KI-Sicherheit heute als geschäftsfördernden Faktor betrachten.

Allerdings variiert diese Reibung je nach Region erheblich. Vorstände in den USA und Frankreich betrachten KI-Sicherheit am ehesten als geschäftlichen Wegbereiter, was sie offener für Investitionen macht. Deutsche und japanische Organisationen neigen jedoch am ehesten dazu, KI-Sicherheit lediglich als Compliance- oder Regulierungshürde zu betrachten. Dieses mangelnde Verständnis auf Führungsebene führt zu einer Top-down-Diskrepanz, die dazu führt, dass die Sicherheit der KI-Identität unterversorgt bleibt.

Es liegt an den CISOs, deutlich zu machen, dass sie Teamplayer im Unternehmen sind. Dieser Einsatz könnte der entscheidende Faktor zwischen einem sicheren agentischen Unternehmen und einem Unternehmen sein, das in einem reaktiven Zustand verharrt.