Neues Institut soll Risiken moderner KI-Systeme bewerten und internationale Standards mitgestalten

Die Bundesregierung verstärkt ihre Aktivitäten im Bereich der Künstlichen Intelligenz und schafft eine neue Einrichtung zur Bewertung von Chancen und Risiken moderner KI-Systeme. Der Nationale Sicherheitsrat hat die Gründung eines spezialisierten KI-Instituts beschlossen, das künftig als zentrale Kompetenzstelle für Analyse, Bewertung und Beratung rund um leistungsfähige KI-Modelle fungieren soll.
Mit der Initiative reagiert die Bundesregierung auf die zunehmende Bedeutung generativer KI für Wirtschaft, Verwaltung, Cybersicherheit und kritische Infrastrukturen. Ziel ist es, technologische Entwicklungen schneller einschätzen und potenzielle Auswirkungen auf Sicherheit, Gesellschaft und digitale Resilienz besser bewerten zu können.

Start als virtuelle Organisation

In einer ersten Phase soll das Institut als virtuelle Struktur aufgebaut werden. Dabei werden vorhandene Kompetenzen und Ressourcen der Bundesnetzagentur sowie des Bundesamts für Sicherheit in der Informationstechnik (BSI) genutzt. Zu einem späteren Zeitpunkt ist die Einrichtung eines festen Standorts vorgesehen.
Die federführenden Ministerien – das Bundesministerium des Innern sowie das Bundesministerium für Digitales – wollen den Aufbau angesichts der hohen Innovationsgeschwindigkeit im KI-Sektor zügig vorantreiben.

Fokus auf Sicherheit und Vertrauenswürdigkeit

Das geplante Institut wird sich mit zwei zentralen Themenfeldern befassen. Einerseits steht die technische Absicherung von KI-Systemen gegen Angriffe und Manipulationen im Mittelpunkt. Andererseits sollen Risiken untersucht werden, die von den Systemen selbst ausgehen können.
Dabei geht es beispielsweise um die Zuverlässigkeit von KI-Anwendungen, die Qualität ihrer Ergebnisse sowie mögliche Fehlentscheidungen oder unerwartete Verhaltensweisen. Die Einrichtung soll moderne Modelle analysieren, deren Fähigkeiten bewerten und potenzielle Risiken frühzeitig identifizieren.

Nationale Expertise für globale Technologien

Ein weiterer Schwerpunkt liegt auf dem internationalen Austausch. Das Institut soll eng mit vergleichbaren Einrichtungen anderer Staaten zusammenarbeiten und die Entwicklung gemeinsamer Standards unterstützen.
Viele Länder verfügen bereits über spezialisierte Einrichtungen für KI-Sicherheit. Deutschland will seine Aktivitäten in diesem Bereich nun stärker bündeln und institutionell verankern. Bislang wurden entsprechende Aufgaben vor allem durch das BSI wahrgenommen.

Unterstützung für Politik und Verwaltung

Nach Angaben von Digitalminister Karsten Wildberger soll die neue Einrichtung mit hochqualifizierten Fachkräften besetzt werden. Ihre Aufgabe wird es sein, neue KI-Modelle zeitnah zu testen, deren Leistungsfähigkeit einzuordnen und politische Entscheidungsträger sowie Behörden fachlich zu beraten.
Als mögliches Vorbild gilt das britische AI Safety Institute, das bereits eine zentrale Rolle bei der Bewertung leistungsfähiger KI-Systeme spielt.
Besondere Aufmerksamkeit gilt dabei den jüngsten Entwicklungen im Bereich generativer KI. Neue Modelle erreichen zunehmend Fähigkeiten, die sowohl wirtschaftliche Chancen eröffnen als auch neue Sicherheitsfragen aufwerfen.

AI Act erhöht regulatorischen Druck

Parallel zum Aufbau des Instituts gewinnt auch die europäische Regulierung an Bedeutung. Die Bundesnetzagentur soll künftig die zentrale Aufsichtsbehörde für die Umsetzung des europäischen AI Act in Deutschland werden.
Die Verordnung führt unter anderem Risikoklassen für KI-Anwendungen ein und definiert umfangreiche Transparenz- und Kennzeichnungspflichten. Teile der Regelungen werden ab August 2026 verbindlich.
Unternehmen, Behörden und Anbieter von KI-Lösungen müssen sich daher zunehmend auf neue Anforderungen im Bereich Governance, Dokumentation und Risikomanagement einstellen.

KI-Sicherheit wird strategische Aufgabe

Die Entscheidung verdeutlicht, dass Künstliche Intelligenz zunehmend als sicherheitsrelevante Schlüsseltechnologie betrachtet wird. Mit der neuen Institution sollen technologische Expertise, Risikobewertung und regulatorische Anforderungen enger miteinander verzahnt werden.
Für Unternehmen, Betreiber kritischer Infrastrukturen und öffentliche Einrichtungen dürfte dies ein wichtiger Schritt sein. Denn je stärker KI in operative Prozesse integriert wird, desto wichtiger werden unabhängige Bewertungsinstanzen, belastbare Sicherheitsstandards und eine fundierte Analyse möglicher Risiken.
Das geplante Institut könnte damit zu einem zentralen Baustein der deutschen KI- und Cybersicherheitsstrategie werden und gleichzeitig die Position Deutschlands in der internationalen Debatte über vertrauenswürdige und sichere Künstliche Intelligenz stärken.