aut einer Bitkom Studie aus dem Jahr 2024 nutzt aktuell bereits jedes fünfte Unternehmen (20 Prozent) Künstliche Intelligenz (KI)
Gemäß Erwägungsgrund 28 KI-VO stehen insbesondere manipulative, ausbeuterische und soziale Kontrollpraktiken im Widerspruch zu den Werten der Union, weshalb solche besonders schädlichen und missbräuchlichen Verwendungsmöglichkeiten von KI verboten sein sollen. Art. 5 KI-VO verbietet deshalb ausdrücklich bestimmte, mit einem unannehmbaren Risiko verbundene Praktiken im Zusammenhang mit KI Systemen.
Für das Personalwesen ist Artikel 6 von besonderer Bedeutung. Demgemäß werden KI-Systeme im Bereich „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“ grundsätzlich als Hochrisiko KI-Systeme eingestuft.
Art. 6 Abs. 3 formuliert allerdings Ausnahmetatbestände. Dies trifft zu, wenn das KI-System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis der Entscheidungsfindung wesentlich beeinflusst. Gemäß Art. 6 Abs. 3 KI-VO kann die Ausnahme gerechtfertigt sein, wenn das KI-System dazu bestimmt ist:
In der Praxis könnten Anwendungen wie die automatisierte Terminübermittlung für eine Einladung zum Vorstellungsgespräch oder KI-basierte sprachliche Verbesserungsvorschläge für bereits von Personalverantwortlichen erstellte Stellenausschreibungen oder Arbeitszeugnisse sein.
Ein KI-System im Bereich „Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“ gilt immer als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt. Darunter fällt insbesondere ein KI-gestützter Eignungstest im Rahmen eines Bewerbungsverfahrens. Für die Definition von Profiling verweist die KI VO auf die Datenschutz-Grundverordnung.
Erwägungsgrund 52 KI-VO i.V. m. Artikel 4 Nummer 4 DS GVO ist jede Art der automatisierten Verarbeitung personenbezogener Daten, die darin besteht, dass diese personenbezogenen Daten verwendet werden, um bestimmte persönliche Aspekte, die sich auf eine natürliche Person beziehen, zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, wirtschaftliche Lage, Gesundheit, persönliche Vorlieben, Interessen, Zuverlässigkeit, Verhalten, Aufenthaltsort oder Ortswechsel dieser natürlichen Person zu analysieren oder vorherzusagen.
Beispiele: Empion Headhunting-System ist ein automatisierte Headhunting-System, das Bewerber und Unternehmen auf Basis von Unternehmenskultur, Persönlichkeit und Skills match. Growth Hub powered by Eightfold bei der Deutschen Telekom
Das KI-System besteht aus einem Basismodul, sowie weiteren Modulen die die verschiedenen HR-Prozesse wie z. B. Recruiting, Skill- und Ressourcenmanagement unterstützen. Das System generiert Empfehlungen, die den Entscheidenden als Hilfe dienen, z. B. bei der Besetzung von Stellen oder Projekten oder den Beschäftigten weiterhelfen sollen, etwa indem das System Fortbildungsmaßnahmen vorschlägt, es trifft jedoch keine eigenen Entscheidungen.