Künstliche Intelligenz übernimmt im Recruiting zunehmend Aufgaben bei der Analyse und Vorauswahl von Bewerbern. Der EU AI Act ordnet bestimmte Anwendungen im Personalbereich als Hochrisiko-KI ein. Zentrale Anforderungen greifen jedoch erst später. Für Unternehmen entsteht damit eine Übergangsphase – aber kein Freibrief für unkontrollierte Automatisierung.

Künstliche Intelligenz verändert die Personalauswahl auf beiden Seiten. Bewerber lassen Anschreiben erstellen und Lebensläufe optimieren, während Unternehmen Algorithmen einsetzen, um große Mengen an Bewerbungen zu analysieren, Kandidaten zu vergleichen und Auswahlprozesse zu beschleunigen.

Damit wächst zugleich die Bedeutung von Transparenz und Kontrolle. Denn sobald KI Einfluss darauf nimmt, wer im Bewerbungsprozess weiterkommt, können fehlerhafte Daten, ungeeignete Kriterien oder algorithmische Verzerrungen unmittelbare Folgen für berufliche Chancen haben.

Recruiting-KI als Hochrisiko-Anwendung

Der EU AI Act trägt diesem Risiko Rechnung. Bestimmte KI-Systeme, die für Einstellungen, die Auswahl von Bewerbern oder Entscheidungen im Beschäftigungsverhältnis eingesetzt werden, fallen unter die Kategorie der Hochrisiko-KI. Für solche Anwendungen sieht der europäische Rechtsrahmen besondere Anforderungen unter anderem an Risikomanagement, Dokumentation, Datenqualität und menschliche Aufsicht vor.

Allerdings werden nicht alle Vorgaben gleichzeitig wirksam. Teile der Anforderungen für Hochrisiko-Systeme greifen später als zunächst vorgesehen. Unternehmen gewinnen dadurch zusätzliche Vorbereitungszeit. Einen rechtsfreien Raum schafft die Verschiebung jedoch nicht.

Datenschutzrecht, arbeitsrechtliche Vorgaben und Anforderungen an diskriminierungsfreie Auswahlverfahren gelten unabhängig davon, ob eine Entscheidung durch Menschen oder mit Unterstützung eines Algorithmus getroffen wird. Die Verantwortung lässt sich deshalb nicht an eine Software delegieren.

Wenn Algorithmen Vorurteile skalieren

Automatisierung ist zudem nicht automatisch objektiv. KI-Systeme arbeiten mit Daten und Kriterien, die bestehende Verzerrungen enthalten können. Werden historische Auswahlentscheidungen als Grundlage verwendet, besteht beispielsweise die Gefahr, dass frühere Benachteiligungen in automatisierter Form fortgeschrieben werden.

Das besondere Risiko liegt in der Skalierung. Während eine subjektive menschliche Entscheidung zunächst einen einzelnen Fall betrifft, kann ein problematisch konzipiertes System zahlreiche Bewerbungen nach denselben ungeeigneten Kriterien bewerten.

Umgekehrt sind auch Personalverantwortliche nicht frei von subjektiven Einflüssen. Zeitdruck, Erwartungen und unbewusste Präferenzen können Entscheidungen beeinflussen. Entscheidend ist daher weniger die Frage „Mensch oder Maschine“, sondern wie Verantwortung und Kontrolle zwischen beiden verteilt werden.

Menschliche Aufsicht muss wirksam bleiben

KI kann Personalabteilungen unterstützen, Informationen strukturieren und Bewerbungen anhand definierter Kriterien aufbereiten. Je stärker ein System jedoch die tatsächliche Auswahl beeinflusst, desto wichtiger wird eine qualifizierte menschliche Kontrolle.

Diese darf sich nicht darauf beschränken, algorithmische Empfehlungen lediglich zu bestätigen. Verantwortliche müssen Ergebnisse nachvollziehen, hinterfragen und korrigieren können. Die endgültige Verantwortung für Personalentscheidungen bleibt beim Unternehmen.

Dafür müssen Organisationen zunächst wissen, wo sie überhaupt KI einsetzen. Funktionen zur automatisierten Analyse finden sich inzwischen in zahlreichen HR-Plattformen, Bewerbermanagementsystemen und cloudbasierten Diensten.

Ein KI-Inventar kann deshalb Ausgangspunkt einer belastbaren Governance sein: Welche Systeme sind im Einsatz? Welche Daten verarbeiten sie? Welche Entscheidungen beeinflussen sie? Wer kontrolliert die Ergebnisse und wer trägt Verantwortung?

KI-Kompetenz wird zum Compliance-Thema

Neben technischen Kontrollen gewinnt die Qualifikation der Beschäftigten an Bedeutung. Der AI Act nimmt auch die KI-Kompetenz innerhalb von Organisationen in den Blick. Unternehmen müssen sicherstellen, dass Beschäftigte, die mit entsprechenden Systemen arbeiten, deren Möglichkeiten, Risiken und Grenzen angemessen verstehen.

Das betrifft längst nicht nur IT-Abteilungen. Gerade HR-Verantwortliche und Führungskräfte müssen erkennen können, wann automatisierte Ergebnisse plausibel sind, wann eine zusätzliche Prüfung notwendig ist und wo rechtliche oder ethische Grenzen erreicht werden.

Vorbereitung statt Compliance auf den letzten Drücker

Unternehmen sollten verschobene Fristen daher nicht als Anlass verstehen, KI-Governance aufzuschieben. Systeme können schnell eingeführt werden; belastbare Kontroll-, Dokumentations- und Verantwortungsstrukturen entstehen dagegen nicht kurzfristig.

Wer bereits heute festlegt, welche KI eingesetzt wird, welche Risiken damit verbunden sind und wie menschliche Kontrolle gewährleistet bleibt, bereitet sich nicht nur auf kommende regulatorische Anforderungen vor. Eine solche Governance stärkt auch die Qualität und Nachvollziehbarkeit von Personalentscheidungen.

Die entscheidende Frage für Unternehmen lautet deshalb nicht mehr, ob KI im Recruiting eingesetzt wird, sondern unter welchen Bedingungen. Effizienz darf nicht zulasten von Transparenz, Fairness und menschlicher Verantwortung gehen. Die zusätzliche Zeit bis zum vollständigen Greifen der Hochrisiko-Anforderungen sollte genutzt werden, um genau diese Strukturen aufzubauen.