KI-Bias im Hiring

Woher der Bias kommt

Drei Quellen, ungefähr nach Häufigkeit:

• Trainingsdaten: Das Modell lernt aus historischen Einstellungen. Wurden diese voreingenommen entschieden, behandelt es das als richtig und reproduziert es.
• Feature-Auswahl: Welche Signale das Modell bekommt. „Name” wegzulassen hilft nicht, wenn „Abschlussjahr” ein Alters-Proxy ist oder „Wohnviertel” ein sozioökonomischer.
• Feedback-Schleifen: Ein Modell, trainiert auf Einstellungen, die durch voreingenommene Entscheidungen gefiltert wurden, lernt den Bias als Verbund — jede Nach-Trainings-Runde verbreitert die Lücke.

Der Amazon-Hiring-KI-Fall (2018) ist das Lehrbuchbeispiel: Ein Modell, trainiert auf ein Jahrzehnt überwiegend männlicher Einstellungen, lernte „women’s” zu bestrafen — wie in „women’s chess club captain” — und wurde abgeschaltet.

Was Audits tatsächlich finden

Bias-Audits sind für Hochrisiko-KI unter dem EU AI Act Pflicht. Typisch geprüft:

• Disparate Impact: Schreiten Bewerbungen aus geschützten Gruppen mit derselben Rate voran?
• Equalized Odds: Ist die False-Reject-Rate über Demografien gleich?
• Counterfactual Fairness: Würde dieselbe Bewerbung einen anderen Score bekommen mit anderem Namen oder Foto?

Kein Audit fängt alles. Ehrliche Lesart: Audits reduzieren bekannte Biases; entstehende brauchen laufende Überwachung.

Wirkende Maßnahmen

• Menschliche Sichtung jeder Stufen-Bewegung, besonders um die Schwelle.
• Vielfältige Trainingsdaten, die den gewünschten Bewerbungspool widerspiegeln, nicht nur den vorhandenen.
• Regelmäßige Re-Audits: pro Quartal, nicht einmal zum Launch.
• Anbieter-Transparenz: fragen, welche Daten das Modell trainiert haben, welche Fairness-Metriken geprüft wurden, wann das letzte Audit war.

Wo Join hineinpasst

Joins KI-Funktionen werden nach EU-AI-Act-Anforderungen auditiert; Bias-Audit-Ergebnisse stehen unter trust.join.com. Mehr auf der Funktionsseite.