Wir haben zum Thema Evidenz von sozioökonomischen Biases einen Prompt-basierten Nudge entwickelt, der Nutzer:innen dabei hilft, den Output von LLMs fairer zu gestalten. Die KI wird somit direkt aufgefordert, ihre Entscheidungen ausschließlich auf die Merkmale zu stützen, die für die eigentliche Aufgabe von Bedeutung sind.
1. Vorstellung: Zum Thema Evidenz von sozioökonomischen Biases in LLMs haben wir einen Prompt-basierten Nudge entwickelt: den “Fairness Mirror”
2. Problemstellung: LLMs sind leider nicht neutral und beinhalten immer wieder sozioökonomische Biases in ihren Outputs. Beispielsweise lassen sich LLMs bei der Finanzberatung von sozioökonomischen Stereotypen leiten und bieten somit unterschiedlichen Personengruppen unterschiedliche Antworten.
3. Lösung: Unser Nudge soll den Endnutzern eine Möglichkeit bieten, die fairsten Ergebnisse aus LLMs zu generieren und sozioökonomischen Verzerrungen ein Ende zu setzen
–> Wollen Sie erfahren, in welcher Form sozioökonomische Biases in LLMs auftreten und was Sie dagegen tun können? Dann schauen Sie gerne bei der NudgeNight vorbei!