So funktioniert es
Ursachen können unausgewogene Daten, ungeeignete Merkmale oder falsch gesetzte Ziele sein. Auch eine scheinbar neutrale Gesamtkennzahl kann Unterschiede zwischen einzelnen Gruppen verdecken.
Beispiel aus dem Arbeitsalltag
Ein Modell bewertet Bewerbungen anhand historischer Entscheidungen. Wenn diese frühere Benachteiligungen enthalten, kann das Modell ähnliche Muster übernehmen.
Worauf es ankommt
Mehr Daten lösen das Problem nicht automatisch. Aufgabenstellung, Datenherkunft und Ergebnisse müssen kritisch geprüft werden. Bei folgenreichen Entscheidungen sind besondere fachliche und rechtliche Prüfungen notwendig.