Zum Inhalt
Alle Apps

Bias im Bewerber-Screening

Über diese App

Ein Modell, trainiert auf früheren Einstellungsentscheidungen, sortiert 200 Bewerbungen. Wer die Gruppe aus den Daten löscht, sieht die Quote kaum besser werden, weil ein Stellvertreter-Merkmal die Verzerrung weiterträgt.

Mit Erklärmodus: Ein KI-Tutor führt dich durch die App, zeigt in der Szene, worauf es ankommt, und beantwortet deine Fragen.

Worum es geht

Lernt ein Modell aus früheren Einstellungsentscheidungen, übernimmt es deren Verzerrungen. Wurde eine Gruppe in der Vergangenheit benachteiligt, setzt das Modell diese Benachteiligung fort. Das geschützte Merkmal einfach zu entfernen, reicht oft nicht: Andere Merkmale, die mit der Gruppe zusammenhängen, wirken als Stellvertreter (Proxy). Zur Messung dient unter anderem die 4/5-Regel. Liegt die Auswahlquote einer Gruppe unter 80 % der Quote der anderen, gilt das als Warnsignal. Ergänzend fragt ein Zwillingstest, ob gleich qualifizierte Personen gleich entschieden werden.

Was die App zeigt

200 erfundene Profile, je 100 in Gruppe A und B, mit exakt gleich verteilter Qualifikation und Erfahrung. Ein kleines Modell, eine logistische Regression, wird im Browser auf verzerrten früheren Entscheidungen trainiert und vergibt 60 Einladungen. Drei Schritte führen von „Historisch“ über „Ohne Gruppe“ zu „Ohne Proxy“. Das Merkmal „Lücke im Lebenslauf“ kommt in Gruppe B deutlich häufiger vor und übernimmt die Rolle der Gruppe. Kennzahlen zeigen Einladungsquoten, das 4/5-Verhältnis, den Zwillingstest und einen Verlauf. Ein Erklärmodus führt durch die Szene.

Selbst ausprobieren

Schalte zuerst das Merkmal Gruppe ab und beobachte, dass die Quote kaum besser wird. Erst ohne die Lücke im Lebenslauf rücken die Gruppen zusammen. Danach lohnt der Vergleich zweier Maßnahmen: neu bewertete Trainingsdaten, die nur Qualifikation und Erfahrung berücksichtigen, oder eine eigene Schwelle je Gruppe mit 30 Einladungen pro Gruppe. Tippe auf eine Figur, um ihren Zwilling mit gleicher Qualifikation zu sehen, und prüfe, ob beide gleich entschieden werden.

Häufige Fragen

Was ist Bias bei KI im Recruiting?
Bias bedeutet hier, dass ein Modell Bewerbende systematisch nach einem Merkmal benachteiligt, das nichts mit ihrer Eignung zu tun hat. Häufige Ursache sind Trainingsdaten aus früheren Entscheidungen, die bereits verzerrt waren. Das Modell lernt diese Muster und wendet sie auf neue Bewerbungen an.
Was ist ein Proxy-Merkmal?
Ein Proxy ist ein Merkmal, das selbst unverdächtig wirkt, aber stark mit einem geschützten Merkmal zusammenhängt, etwa eine Lücke im Lebenslauf, die in einer Gruppe häufiger vorkommt. Entfernt man das geschützte Merkmal, kann das Modell über den Proxy dieselbe Verzerrung weitertragen. Deshalb reicht „Fairness durch Weglassen“ meist nicht aus.
Was besagt die 4/5-Regel?
Die 4/5-Regel vergleicht die Auswahlquoten zweier Gruppen. Man teilt die niedrigere durch die höhere Quote; liegt das Verhältnis unter 0,8, gilt das als Hinweis auf eine nachteilige Wirkung. Sie ist eine Faustregel zur Erkennung und ersetzt keine Prüfung des Einzelfalls.
Was kann ich in der App „Bias im Bewerber-Screening“ tun?
Du schaltest Merkmale wie Gruppe oder Lücke im Lebenslauf im Modell ein und aus, lässt die Auswahl neu durchlaufen und vergleichst zwei Gegenmaßnahmen. Kennzahlen zeigen Einladungsquoten, 4/5-Verhältnis und Zwillingstest. Alle Profile sind erfunden, das Modell wird im Browser trainiert.

Fach: KI-Kompetenz

Mehr aus KI-Kompetenz

Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps