61 Prozent der befragten Organisationen in Deutschland, Österreich und der Schweiz sagen, sie seien eher bereit als vor einem Jahr, für den Einsatz von KI höhere Cyberrisiken einzugehen. Das ist eine Selbsteinschätzung, kein Nachweis dafür, dass sie tatsächlich riskanter handeln. Die Studie zeigt jedoch eine Spannung: KI erhält neue Entscheidungsbefugnisse, während nur wenige Organisationen ausdrücklich festlegen, welche Aktionen sie ausführen darf.

KI-Systeme werden zunehmend in Unternehmensprozesse eingebunden. Sie analysieren nicht mehr nur Daten und geben Empfehlungen, sondern greifen auf Anwendungen und Infrastrukturen zu – teilweise mit Befugnissen, für die zuvor eine menschliche Genehmigung nötig war. Damit wird die Sicherheitsfrage konkreter: Welche Aktionen darf ein KI-Agent ausführen, auf welche Ressourcen darf er zugreifen, und wer kann eingreifen, wenn er sich falsch verhält?

Eine von Illumio beauftragte und von Sapio Research durchgeführte Befragung liefert dazu einen DACH-Einblick. 63 Prozent der befragten Organisationen geben an, Entscheidungen an KI delegiert zu haben, die vor einem Jahr noch menschliche Freigabe erfordert hätten. 61 Prozent sagen zugleich, sie könnten jede von einem KI-Agenten ausgeführte Aktion nachvollziehen. Ebenso viele erklären, heute eher bereit zu sein als vor zwölf Monaten, für die Vorteile von KI höhere Cyberrisiken einzugehen. Weltweit liegt dieser letzte Wert bei 56 Prozent.

Die fünf Prozentpunkte Abstand zum globalen Wert sind kein belastbarer Beleg für einen grundlegenden Sonderweg der DACH-Region. Dafür ist die regionale Stichprobe mit 100 Befragten klein; zudem enthält die veröffentlichte Methodik keine Angaben zur statistischen Unsicherheit der regionalen Ergebnisse. Aussagekräftiger ist die Spannung innerhalb der DACH-Angaben: Organisationen berichten von mehr delegierter Entscheidungsfreiheit und zugleich von einer hohen Sichtbarkeit der Agentenaktionen. Beides sagt noch nicht, ob diese Aktionen wirksam begrenzt werden.

Vorfälle, Warnsignale und unterschiedliche Risikobegriffe

79 Prozent der DACH-Befragten berichten, in den vergangenen zwölf Monaten mindestens einen KI-bezogenen Sicherheitsvorfall oder ein Warnsignal erlebt zu haben. Diese Zusammenfassung sollte nicht als 79-prozentige Vorfallquote gelesen werden: Die Mitteilung unterscheidet nicht, wie viele Angaben auf bestätigte Vorfälle und wie viele auf Warnhinweise entfallen. 39 Prozent nennen einen Vorfall oder einen nur knapp verhinderten Vorfall.

Weitere Ergebnisse konkretisieren die gemeldeten Probleme: 30 Prozent sagen, eine KI habe auf Daten zugegriffen, für die sie nicht berechtigt war. 29 Prozent berichten von einer Empfehlung, deren Umsetzung ein Sicherheitsrisiko verursacht hätte. Bei 25 Prozent habe eine KI eine nicht autorisierte Aktion vorgeschlagen oder ausgelöst; 18 Prozent stellten fest, dass ein KI-Agent oder -Werkzeug ohne vorherige Sicherheitsfreigabe eine Verbindung zu Systemen hergestellt hatte.

Diese Angaben beruhen auf Selbstauskünften, nicht auf einer unabhängigen technischen Prüfung. Sie zeigen daher nicht, wie schwerwiegend die einzelnen Fälle waren oder ob die Organisationen ihre Ursachen vollständig aufgeklärt haben. Sie machen aber deutlich, dass Risiken nicht nur durch Angreifer entstehen, die KI missbrauchen. Auch interne Agenten können durch zu weitreichende Berechtigungen, Fehlentscheidungen oder unzureichend kontrollierte Verbindungen zum Sicherheitsproblem werden.

KI in der Sicherheitsarbeit braucht Grenzen

72 Prozent der befragten DACH-Organisationen setzen KI bereits in Cybersicherheitsprozessen ein. 30 Prozent halten es für vertretbar, dass KI Sicherheitsvorfälle ohne menschliche Überprüfung untersucht. 38 Prozent können sich unbeaufsichtigte Codeänderungen vorstellen – neun Prozentpunkte mehr als im weltweiten Vergleich. 28 Prozent würden KI eigenständig Zugriffsrechte erteilen oder entziehen lassen.

Automatisierung kann Reaktionszeiten verkürzen. Bei Codeänderungen oder Berechtigungsentscheidungen kann eine fehlerhafte Aktion aber selbst neue Angriffswege öffnen oder Schutzmaßnahmen schwächen. Deshalb sollten Organisationen zwischen Analyse und Ausführung unterscheiden: Ein Agent kann einen Vorfall untersuchen und eine Änderung vorbereiten, während die Umsetzung eine Freigabe erfordert. Welche Aktionen ohne Freigabe zulässig sind, muss vorab feststehen.

Die Befragung zeigt, dass viele Organisationen die besondere Kontrollfrage erkannt haben. 73 Prozent sagen, KI-Agenten benötigten andere Sicherheitskontrollen als herkömmliche Software. 71 Prozent halten es für wichtiger, die Zugriffe von KI zu begrenzen, als jede mögliche Bedrohung vorherzusagen. Dennoch nennen nur 19 Prozent ausdrücklich definierte zulässige Aktionen als eine ihrer wichtigsten Sicherheitsmaßnahmen. Weltweit sind es 25 Prozent.

Das ist die zentrale Lücke: Die Befragten befürworten Begrenzungen, doch nur wenige nennen konkrete Aktionsregeln als priorisierte Kontrolle. Die Fähigkeit, Aktionen zu protokollieren, schließt diese Lücke nicht. Wie Alex Goller, Principal Solutions Architect bei Illumio, es formuliert: „Sichtbarkeit ist nicht dasselbe wie Kontrolle.“

Berechtigungen müssen im Ausführungspfad begrenzt werden

Für den Betrieb bedeutet das, KI-Agenten als eigenständige Identitäten mit eng begrenzten Rechten zu behandeln. Ihre Berechtigungen sollten auf die jeweilige Aufgabe beschränkt sein. Zulässige Werkzeuge und Aktionen müssen festgelegt werden; folgenreiche oder schwer umkehrbare Änderungen sollten zusätzliche Freigaben erfordern. Protokolle müssen erkennen lassen, welcher Agent mit welchen Rechten gehandelt hat. Ebenso wichtig sind Verfahren, um Rechte sofort zu entziehen und Änderungen zurückzunehmen.

Netzwerksegmentierung kann ergänzend verhindern, dass ein kompromittierter oder fehlgesteuerter Agent ungehindert weitere Systeme erreicht. 30 Prozent der Befragten in DACH sagen, die Verbreitung fortgeschrittener KI habe die Bedeutung von Netzwerk- und Mikrosegmentierung erhöht. Die Studie belegt jedoch nicht, dass Segmentierung allein die gemeldeten Vorfälle verhindert hätte. Sie ist eine mögliche Begrenzung des Schadensradius, kein Ersatz für Identitäts-, Berechtigungs- und Anwendungskontrollen.

Die Untersuchung umfasst 1.100 IT- und Sicherheitsverantwortliche aus zehn Märkten, darunter 100 Befragte aus Deutschland, Österreich und der Schweiz. Da Illumio die Studie beauftragt hat, sollten die Ergebnisse als kommerziell beauftragte Befragung eingeordnet werden. Sie sind ein Stimmungs- und Erfahrungsbild, keine technische Bestandsaufnahme der KI-Sicherheit in DACH-Organisationen.

Die wichtigste Frage ist deshalb nicht, ob Unternehmen KI grundsätzlich vertrauen. Sie lautet, ob sie die Befugnisse ihrer Agenten so festlegen und technisch durchsetzen, dass ein Fehler nicht zum Vorfall in der gesamten Umgebung wird. Sichtbarkeit hilft, Verhalten zu verstehen. Sicherheit entsteht erst, wenn Zugriffe und Aktionen wirksam begrenzt sind.

>> Download Bericht ‘Licensed to Act: How AI Autonomy Is Outrunning the Limits Placed on It ‘https://www.illumio.com/de/resource-center/ai-autonomy-report