FairCredit

Representation Bias in der KI-gestützten Kreditwürdigkeitsprüfung bezeichnet das Phänomen, dass KI-Systeme historische soziale Ungleichheiten in ihren Trainingsdaten übernehmen und fortschreiben. Moderne Scoring-Modelle basieren häufig auf Finanzdaten, die systematische Benachteiligungen – etwa aufgrund von Herkunft oder sozioökonomischem Status – widerspiegeln.
Ein besonders problematisches Beispiel ist das sogenannte Geoscoring: Dabei wird die Kreditwürdigkeit einer Person anhand von Wohnortdaten wie der Postleitzahl oder regionalen Durchschnittswerten beurteilt. Dies führt dazu, dass Antragsteller:innen allein aufgrund ihres Wohnviertels schlechtere Kreditkonditionen erhalten, höhere Zinssätze zahlen oder vollständig von der Kreditvergabe ausgeschlossen werden – unabhängig von ihrer tatsächlichen Zahlungsfähigkeit.

Ziel des Nudges ist es, den Representation Bias in der KI-gestützten Kreditvergabe aktiv zu bekämpfen.
Indem der Warnhinweis den Einfluss von Wohnortdaten auf den Score sichtbar macht, wird verhindert, dass historisch gewachsene Ungleichheiten durch algorithmische Entscheidungen unreflektiert reproduziert werden. Der Automation Bias, also die unkritische Übernahme von KI Vorschlägen, wird dabei als Hebel genutzt.
Durch gezielte Unterbrechung dieses Mechanismus wird eine bewusstere, individuell geprüfte Kreditentscheidung gefördert.