Eine der größten praktischen Herausforderungen beim KI-gestützten Recruiting stellt die Gefahr algorithmischer Benachteiligung dar. Trainingsdaten bilden gesellschaftliche Ungleichheiten ab, vermeintlich objektive Kriterien können faktisch nach Geschlecht, Herkunft oder Alter filtern, und Bewerber bemerken häufig nicht einmal, dass sie maschinell aussortiert wurden. Die rechtlichen Konsequenzen für Arbeitgeber bleiben dennoch gravierend.
Gemäß § 1 und § 7 AGG trägt der Arbeitgeber die Haftung für jegliche Diskriminierung im Bewerbungsverfahren, gleichgültig ob die Benachteiligung durch einen Personalverantwortlichen, eine Software oder einen Algorithmus verursacht wird.
Erfasst werden unmittelbare sowie mittelbare Diskriminierungen aufgrund von Geschlecht, Alter, ethnischer Herkunft, Religion, Weltanschauung, Behinderung und sexueller Identität. Selbst ein ungewollter diskriminierender Effekt, beispielsweise durch mangelhafte Trainingsdaten, schützt nicht vor der Haftung.
Besonders problematisch sind sogenannte Proxy-Variablen: Eine KI darf Geschlecht oder Herkunft formal nicht als Auswahlkriterium verwenden, kann denselben Effekt jedoch über andere Datenpunkte wie Postleitzahl, Schule, Hobbys, Sprachstil, Bewerbungsfoto oder Name herbeiführen. Derartige mittelbare Diskriminierungen sind gemäß § 3 Abs. 2 AGG genauso unzulässig wie die unmittelbare Ungleichbehandlung.
Im Streitfall greift § 22 AGG: Legt ein Bewerber Indizien für eine Benachteiligung aufgrund eines geschützten Merkmals dar, kehrt sich die Beweislast um. Der Arbeitgeber muss dann belegen, dass die Auswahlentscheidung – auch bei KI-Einsatz – auf objektiven, sachlichen und nicht diskriminierenden Gründen basiert. Bei Black-Box-Modellen, deren Entscheidungslogik nicht nachvollzogen werden kann, gestaltet sich dieser Nachweis erfahrungsgemäß äußerst schwierig.
Die Rechtsfolgen sind eindeutig: Ein zu Unrecht abgelehnter Bewerber besitzt Anspruch auf Schadensersatz und Entschädigung nach § 15 AGG. Die Entschädigung für die Diskriminierung selbst kann bei einer Nichteinstellung bis zu drei Monatsgehälter erreichen; in Einzelfällen existieren Urteile darüber hinaus. Zusätzlich kommen mögliche Schadensersatzansprüche nach Art. 82 DSGVO in Betracht. Wichtig: Der Anspruch muss innerhalb von zwei Monaten ab Kenntnis schriftlich geltend gemacht werden (§ 15 Abs. 4 AGG), die Klage binnen weiterer drei Monate (§ 61b ArbGG).