Eine Umfrage von Red Hat zeigt eine deutliche Lücke zwischen dem Vertrauen deutscher Unternehmen in ihre KI-Governance und ihrer tatsächlichen Sichtbarkeit: 94 Prozent setzen KI-Agenten bereits produktiv ein, doch nur 43 Prozent können nachvollziehen, wo Daten gespeichert und verarbeitet werden.

Ein KI-Agent kann Dokumente zusammenfassen, Informationen aus einer Geschäftsanwendung abrufen und Aufgaben automatisiert erledigen. Für Mitarbeitende fühlt sich das oft wie ein einfacher Arbeitsschritt an. Im Hintergrund können jedoch mehrere Anwendungen, Cloud-Dienste und externe KI-Modelle beteiligt sein. Wer dabei den Überblick über Datenflüsse, Software-Komponenten und Anbieter verliert, kann Risiken leicht übersehen.

Genau hier zeigt eine neue CIO-Umfrage von Red Hat eine auffällige Diskrepanz: Die meisten befragten Unternehmen in Deutschland sind überzeugt, KI-Agenten sicher zu betreiben. Zugleich fehlt vielen die operative Transparenz, um diese Einschätzung umfassend zu überprüfen.

KI-Governance in deutschen Unternehmen: sechs Ergebnisse

• 94 Prozent setzen KI-Agenten bereits produktiv ein.
• 80 Prozent sind überzeugt, ihre KI-Agenten sicher und regelkonform zu betreiben.
• 43 Prozent können genau nachvollziehen, wo Daten gespeichert und verarbeitet werden.
• 38 Prozent haben einen vollständigen Überblick über ihre Software-Lieferkette und direkte wie indirekte Abhängigkeiten.
• 33 Prozent bewerten Risiken von KI-Anbietern während des laufenden Betriebs kontinuierlich anhand messbarer Kriterien.
• 77 Prozent geben an, kritische Softwareschwachstellen innerhalb von 24 Stunden nach Verfügbarkeit eines Fixes schließen zu können.

Zuversicht trifft auf Sichtbarkeitslücken

Die Umfrage legt nahe, dass Sicherheitsmechanismen wie Guardrails, Monitoring und automatische Interventionen zwar vielerorts vorhanden sind, ihre Wirksamkeit aber nicht immer lückenlos überprüft werden kann. 45 Prozent der deutschen Unternehmen verlassen sich nach eigenen Angaben vollständig auf getestete Guardrails, kontinuierliches Monitoring und automatische Eingriffsmöglichkeiten. Weitere 35 Prozent sind „ziemlich zuversichtlich“, räumen jedoch kleinere Lücken bei Schutzmaßnahmen und Überwachung ein.

Das ist relevant, weil KI-Umgebungen dynamisch sind. Neue Modelle und Funktionen kommen hinzu, Datenquellen ändern sich und Anwendungen werden mit weiteren Diensten verknüpft. Ein System, das bei seiner Einführung Sicherheits- und Compliance-Anforderungen erfüllt, kann dadurch später neue Risiken aufweisen. Governance muss deshalb den gesamten Lebenszyklus einer KI-Anwendung abdecken.

Datenflüsse bleiben schwer nachvollziehbar

Nur 43 Prozent der befragten deutschen CIOs sagen, dass sie die Datenflüsse in ihrem Unternehmen genau kennen und wissen, wo Informationen gespeichert und verarbeitet werden. 35 Prozent berichten von kleineren Sichtbarkeitslücken. Zwölf Prozent haben KI-Funktionen eingeführt, ohne die Datenflüsse genau zu verstehen; sechs Prozent haben nur einen sehr begrenzten Überblick über Speicherorte.

Für Unternehmen mit hohen Anforderungen an Datenschutz und Regulierung ist diese Transparenz entscheidend. Sie müssen nachvollziehen können, welche Daten eine KI-Anwendung verarbeitet, wohin Informationen übertragen werden und welche Dienste daran beteiligt sind. Andernfalls wird es schwieriger, unzulässige Datenabflüsse zu erkennen und Compliance-Anforderungen nachzuweisen.

Auch international zeigen sich Unterschiede: In Südafrika geben 61 Prozent der Befragten an, Datenflüsse vollständig nachvollziehen zu können, in Frankreich sind es 31 Prozent. Für Deutschland weist die Umfrage damit auf einen konkreten Handlungsbedarf hin, auch wenn die Mehrheit der Befragten grundsätzlich Vertrauen in die eigenen Schutzmaßnahmen äußert.

Schnelles Patchen braucht einen vollständigen Softwareüberblick

Beim Schließen kritischer Schwachstellen schätzen sich deutsche Unternehmen vergleichsweise leistungsfähig ein: 77 Prozent geben an, innerhalb von 24 Stunden nach Verfügbarkeit eines Fixes patchen zu können. Die übrigen benötigen nach eigenen Angaben wenige Tage; länger als eine Woche dauert es laut Umfrage bei keinem der Befragten.

Schnelle Reaktionszeiten helfen jedoch nur, wenn Unternehmen wissen, welche Komponenten sie einsetzen und wo diese verbaut sind. Einen vollständigen und stets aktuellen Überblick über Open-Source-Komponenten, Herkunft, Versionsstände sowie direkte und indirekte Abhängigkeiten haben lediglich 38 Prozent. Weitere 37 Prozent kennen zwar Komponenten und Versionen, haben aber Lücken bei Herkunft oder indirekten Abhängigkeiten. 23 Prozent verfügen nicht über einen vollständigen Überblick; zwei Prozent erfassen ihre Open-Source-Lieferkette überhaupt nicht systematisch.

Gerade indirekte Abhängigkeiten können blinde Flecken schaffen: Bibliotheken und Frameworks binden häufig weitere Komponenten aus anderen Projekten ein. Eine Schwachstelle kann so in ein Produkt gelangen, ohne dass sie im unmittelbaren Softwareinventar sichtbar ist. Die Umfrage beziffert den Anteil der Befragten, die indirekte Abhängigkeiten als erhebliches Risiko sehen, auf 62 Prozent.

Anbieterbewertung darf nicht beim Onboarding enden

Auch beim Umgang mit KI-Anbietern zeigt sich eine Lücke zwischen Erstprüfung und laufender Kontrolle. Nur 33 Prozent der deutschen Unternehmen bewerten Risiken während des Betriebs kontinuierlich anhand messbarer Kriterien. 34 Prozent prüfen neue KI-Technologien vor der Einführung, tun sich aber mit der fortlaufenden Überwachung schwer. Weitere 21 Prozent verlassen sich allein auf eine einmalige Bewertung vor dem Start.

Dabei können sich Modelle, Datenverarbeitung, Bedrohungslage und regulatorische Anforderungen verändern. Eine Risikoprüfung sollte daher regelmäßig wiederholt werden und interne Kriterien einbeziehen. Auf externe Audits, Zertifizierungen und vertragliche Zusicherungen allein verlassen sich fünf Prozent der Befragten. Sieben Prozent setzen auf die Reputation des Anbieters und Erfahrungswerte oder verfügen über keinen strukturierten Bewertungsansatz.

„Eine wirksame KI-Governance hängt nicht allein von Richtlinien und Prüfprozessen ab, sondern erfordert zunächst umfassende Sichtbarkeit“, sagt Gregor von Jagow, Country Manager Germany bei Red Hat. Unternehmen müssten Datenflüsse, eingesetzte Software-Komponenten und Risiken von KI-Anbietern über den gesamten Lebenszyklus von KI-Agenten hinweg kennen. Monitoring und Governance sollten deshalb etabliert sein, bevor KI und Agenten skaliert werden.

Die Umfrage wurde von Censuswide zwischen dem 24. August und dem 1. September 2026 unter 1.400 CIOs ab 25 Jahren in 14 Ländern durchgeführt, darunter Deutschland. Die Ergebnisse geben die Einschätzungen der Befragten wieder. Sie zeigen zugleich, worauf Unternehmen bei der Ausweitung von KI-Anwendungen achten müssen: Vertrauen in Schutzmaßnahmen ersetzt keine überprüfbare Sicht auf Daten, Abhängigkeiten und Anbieter.