Hochrisiko-KI-Systeme im
Personalmanagement
Das Personalmanagement wird häufig als besonders geeignetes Einsatzfeld für KI genannt. Typische Einsatzbereiche sind beispielsweise
- KI-gestützte Analyse von Bewerbungsunterlagen und Skill-Assessments,
- Personalverwaltung, Leistungsanalysen und -kontrolle sowie
- Chatbot-Funktionen für BewerberInnen und Beschäftigte.
Richtig eingesetzt, unterstützt KI das Personalmanagement in der täglichen Arbeit und auch dabei, fundierte Entscheidungen zu treffen. Gleichzeitig ist der KI-Einsatz mit erheblichen rechtlichen Risiken verbunden
Regulatorischer Rahmen: Mehr als nur die KI-VO
Wer KI im Personalmanagement einsetzt oder einsetzen
möchte, muss u. a.
- die KI-Verordnung (KI-VO / AI Act),
- die Datenschutz-Grundverordnung (DSGVO),
- das Betriebsverfassungsrecht (insbesondere
Mitbestimmungsrechte des Betriebsrats) und - das Allgemeine Gleichbehandlungsgesetz (AGG)
beachten.
Gerade im Personalbereich fallen viele Anwendungen unter
die Kategorie der Hochrisiko-KI-Systeme im Sinne der
KI-VO.
Dabei hängt die Einstufung als Hochrisiko-KI von
mehreren Faktoren ab, allen voran dem Einflussgrad der KI
auf Entscheidungen. Das betrifft insbesondere die
- Auswahl und Bewertung von BewerberInnen,
- Vorbereitung von Beförderungs- oder Kündigungsentscheidungen und die
- Durchführung von Leistungs- oder Verhaltensanalysen.
In der Praxis sind an die Einstufung als Hochrisiko-KI spezifische Risikomanagement- und Sicherheitsmaßnahmen
geknüpft.
Besondere Haftungsrisiken: Diskriminierung und Bias
Zentrale Risiken liegen insbesondere in diskriminierenden oder realitätsverzerrenden Ergebnissen („Bias“).
Fehlerhafte Trainingsdaten oder intransparente Bewertungslogiken können dazu führen, dass bestimmte Gruppen systematisch benachteiligt werden. Dies kann unmittelbar Haftungsrisiken nach dem AGG auslösen – mit erheblichen finanziellen und reputativen Folgen.
Zusammenfassend bietet der Einsatz von KI im Personalmanagement erhebliche Effizienz- und Qualitäts-Chancen – verlangt aber eine besonders sorgfältige (aufsichts-)rechtliche Begleitung.
Gerade im Personalbereich sind deshalb Transparenz, Nachvollziehbarkeit und vor allem menschliche Kontrollmechanismen unerlässlich.
KI als Chance
Sie brauchen Unterstützung in der sicheren Anwendung der KI-Verordnung? Sie erwägen, einen KI-Beauftragten für Ihr Haus einzurichten, um einen sicheren Einsatz von KI zu gewährleisten? Unsere Mitarbeitenden sind bereits als KI-Beauftragte zertifiziert. Wir begleiten, beraten und schulen Sie in allen regulativen Fragen zum Einsatz von KI-Produkten.
Erfahren Sie mehr zu unseren Unterstützungsangeboten in der KI-Compliance.
Bleiben Sie auf dem Laufenden und registrieren sich jetzt für die KI-Fachinfo.
Sie haben Fragen ?
Wir unterstützen Sie gerne bei der Auswahl und dem
Einsatz von KI-Anwendungen.
Benjamin Wellnitz
Bereichsleiter IKT-Compliance & Datenschutz
Telefon: 069 580024-246
E-Mail: benjamin.wellnitz@dz-cp.de