Fairness Mirror

Unser Nudge setzt an einer Stelle an, an der Diskriminierung im Kundenservice oft nicht offen sichtbar wird, sondern leise in scheinbar neutralen KI-Entscheidungen mitläuft. Wenn eine Kundin knapp, fehlerhaft oder sehr emotional schreibt, wenn ein Kunde nur einen kleinen Bestellwert hat oder bisher kaum Kaufhistorie vorliegt, können solche Signale von einer KI unbemerkt, als Hinweise darauf gelesen werden, dass der Fall weniger wichtig ist oder weniger Kulanz verdient.

Genau hier greift unser Fairness-Nudge ein, denn er richtet sich nicht primär an die Kunden, sondern an die KI selbst. Bevor die KI eine Lösung vorschlägt, soll sie prüfen, ob sie tatsächlich das konkrete Problem bewertet oder ob ihre Empfehlung durch Merkmale wie Sprache, Wohnort, Kaufwert oder vermutete Zahlungsfähigkeit beeinflusst wird. Die Entscheidung soll sich deshalb nicht an sozialen Signalen orientieren, sondern an sachlichen Kriterien wie dem tatsächlichen Problem, der Wartezeit, bestehenden Ansprüchen und den verfügbaren Lösungsmöglichkeiten.

So entsteht ein kurzer Moment des Innehaltens in einem Prozess, der sonst sehr schnell automatisiert ablaufen würde. Der Nudge soll verhindern, dass sozioökonomische Hinweise stillschweigend zu schlechterem Service führen, und sorgt dafür, dass vergleichbare Anliegen auch vergleichbare Chancen auf eine faire Lösung erhalten.

Akzeptieren Sie die Cookie Einstellung um Panopto Inhalte sehen zu können.

Panopto freischalten

Was bedeutet das Thema?

Unser Nudge findet im Kundenservice seine Anwendung. Im Bereich des technischen Kundenservice stehen viele Unternehmen vor den Herausforderungen des Fachkräftemangels sowie einer hohen Informationsmenge, wodurch schnelle und zuverlässige Kundenbetreuung erschwert wird. Mithilfe von LLMs jedoch ist es Unternehmen möglich dem Bereich des Kundenservice eine kostengünstigere und effizientere Unterstützung zu bieten. Laut einer Studie des Institute for Business Value haben alle Unternehmen angegeben, generative KI in den Kundenservice zu integrieren; hinzu haben 67% der befragten Unternehmen bereits mit der Einführung von KI im Kundenservice begonnen. Aufgrund der hohen praktischen Relevanz eignet sich dieses Einsatzgebiet besonders, um unseren entwickelten Nudge auf die Probe zu stellen.

Ziel des Nudges

Unser Nudge zielt darauf ab, sozioökonomische Bias innerhalb der Chatbots im Bereich des Kundenservices zu reduzieren. Dadurch sollen potenzielle Unterschiede in der Qualität, der Interpretation, und der Quantität der Beantwortung in der Kundenberatung eliminiert werden.

    Bedarfsanalyse

    • Der Bedarf entsteht dort, wo Unternehmen Kundenservice zunehmend automatisieren, aber Fairness oft noch nicht systematisch mitgedacht wird. LLMs können Anfragen schnell bearbeiten, übernehmen dabei aber auch Muster aus Daten, die soziale Unterschiede widerspiegeln. Dadurch können Kunden mit einfacher Sprache, geringem Bestellwert oder schwacher Kaufhistorie unbewusst schlechtere Lösungen erhalten, obwohl ihr Anliegen sachlich gleichwertig ist. Unser Nudge adressiert genau diese Lücke. Er schafft einen kurzen Fairness-Moment im automatisierten Serviceprozess und sorgt dafür, dass nicht soziale Signale über die Qualität der Lösung entscheiden, sondern das tatsächliche Kundenproblem.

    Ursachenanalyse

    • Aufgrund dessen, dass LLMs auf Datensätzen trainiert werden, die menschliche Verzerrungen und
      Stereotype beinhalten, werden diese Bias ebenfalls von der KI reproduziert. LLMs lernen statistische
      Zusammenhänge zwischen Bildungsniveau, Schreibstiel, Beruf oder Einkommen und bestimmten
      Verhaltensweisen oder Eigenschaften. Daraus können sozioökonomische Bias entstehen, wodurch
      Menschen aus unterschiedlich wahrgenommenen sozioökonomischen Status andere Ergebnisse aus
      der KI generiert bekommen. Schlussendlich kommt es zu systematischen Verzerrungen in der
      Behandlung von Personen aufgrund von Merkmalen, die auf ihren wirtschaftlichen oder sozialen
      Status schließen lassen wie beispielsweise Beruf, Sprache und Bildung.

Die Zielgruppe

Zu unserer Zielgruppe gehören primär Unternehmen, die im Bereich des Kundenservice von LLMs unterstützt werden.

Mehrwert des Nudges

  • Fairer Kundenservice durch bewussten KI-Einsatz

    Der Mehrwert unseres Nudges liegt vor allem darin, dass Unternehmen LLMs im Kundenservice nicht
    nur schneller, sondern auch fairer und verantwortungsvoller einsetzen können. Gerade dort, wo viele
    Anfragen automatisiert bearbeitet werden, besteht das Risiko, dass eine KI aus scheinbar
    nebensächlichen Signalen wie Schreibstil, Wohnort, Kaufhistorie oder Bestellwert unbewusst
    Rückschlüsse zieht und dadurch bestimmte Kunden schlechter behandelt, ohne dass diese Verzerrung
    sofort auffällt.

  • Schutzschicht für faire Serviceentscheidungen

    Für Unternehmen bietet der Nudge deshalb eine zusätzliche Schutzschicht zwischen automatisierter
    Empfehlung und tatsächlicher Serviceentscheidung. Er hilft der KI, den Fall stärker nach sachlichen
    Kriterien zu bewerten und nicht nach sozioökonomischen Hinweisen, die für die Lösung eigentlich
    keine Rolle spielen sollten. Dadurch können vergleichbare Anliegen konsistenter behandelt werden,
    was nicht nur die Fairness erhöht, sondern auch Vertrauen in den KI-gestützten Kundenservice schafft.

  • Genauer hinschauen

    Gleichzeitig schützt der Nudge Unternehmen vor einem Problem, das sonst oft erst sichtbar wird,
    wenn Kunden sich unfair behandelt fühlen oder Beschwerden eskalieren. Er macht den Einsatz von
    LLMs kontrollierbarer, nachvollziehbarer und besser vereinbar mit einem kundenorientierten
    Serviceverständnis. Der Nudge schafft damit einen Kundenservice, der nicht nur effizient automatisiert, sondern auch genauer hinschaut, bevor aus kleinen sozialen Signalen große
    Unterschiede in der Behandlung entstehen.

CONTACT US

Claire Daly

claire.daly@stud.hshl.de

Julian Bertram

julian.bertram@stud.hshl.de

Lilly Koschlakow

lilly.koschlakow@stud.hshl.de