Reflection before Rejection

Nicht jede KI-Entscheidung ist frei von Vorurteilen – deshalb sollte keine Entscheidung ungeprüft übernommen werden. BiasBreak – Reflection before Rejection setzt genau dort an, wo die wichtigste Entscheidung im Recruiting getroffen wird: unmittelbar vor der endgültigen Absage einer Bewerbung. Nachdem ein KI-gestütztes Recruiting-System eine Bewerberin oder einen Bewerber als ungeeignet eingestuft hat, werden die entscheidungsrelevanten Kriterien transparent angezeigt. Anschließend erscheint ein kurzer Reflexionsimpuls: „Dieser Kandidat wurde anhand folgender Kriterien von der KI abgelehnt: [Kriterien]. Möchten Sie die Absage wirklich final bestätigen?“ Dieser kurze Moment des Innehaltens macht den Entscheidungsprozess bewusst. Anstatt die Empfehlung der KI automatisch zu übernehmen, werden Recruiter*innen dazu angeregt, die Bewertung kritisch zu hinterfragen und ihre eigene fachliche Einschätzung einzubeziehen. BiasBreak verändert keine Entscheidung und schränkt die Entscheidungsfreiheit nicht ein. Der Nudge schafft lediglich den entscheidenden Moment der Reflexion- bevor aus einer KI-Empfehlung eine endgültige Absage wird.

Akzeptieren Sie die Cookie Einstellung um Panopto Inhalte sehen zu können.

Panopto freischalten

Was bedeutet das Thema?

Künstliche Intelligenz ist längst Teil moderner Recruiting-Prozesse. Unternehmen nutzen KI-Systeme, um Bewerbungen effizient zu analysieren und passende Kandidat*innen zu identifizieren.
Doch KI lernt aus historischen Daten – und diese können gesellschaftliche Vorurteile enthalten.
Die Folge: Algorithmische Verzerrungen (Algorithmic Bias) können dazu führen, dass qualifizierte Bewerber*innen aufgrund irrelevanter Merkmale wie Name, Alter oder Herkunft benachteiligt werden. Gleichzeitig neigen Menschen dazu, Empfehlungen technischer Systeme als objektiv und fehlerfrei wahrzunehmen.
Deshalb braucht es nicht nur leistungsfähige KI, sondern auch bewusste menschliche
Entscheidungen. Genau hier setzt BiasBreak an.

Ziel des Nudges

BiasBreak verfolgt das Ziel, unbewusste Verzerrungen im KI-gestützten Recruiting zu reduzieren und faire Personalentscheidungen zu fördern.
Durch Transparenz und einen gezielten Reflexionsimpuls werden Recruiter*innen dazu ermutigt, KI-Empfehlungen kritisch zu hinterfragen, anstatt sie automatisch zu übernehmen. So bleibt die Verantwortung für die finale Entscheidung dort, wo sie hingehört – beim Menschen.

    Bedarfsanalyse

    • Wachsende Bedeutung von KI im Recruiting
      Immer mehr Unternehmen setzen KI ein, um Bewerbungen effizient zu analysieren und Auswahlprozesse zu beschleunigen.
    • Fehlende Transparenz
      Recruiter*innen erhalten häufig lediglich eine Empfehlung der KI, ohne nachvollziehen zu können, welche Kriterien zu dieser Entscheidung geführt haben.
    • Risiko algorithmischer Verzerrungen
      KI-Systeme können bestehende gesellschaftliche Vorurteile aus Trainingsdaten übernehmen und dadurch qualifizierte Bewerber*innen benachteiligen.
    • Zeit- und Entscheidungsdruck
      Unter hohem Bewerbungsaufkommen steigt die Wahrscheinlichkeit, KI-Empfehlungen ungeprüft zu übernehmen.

    Ursachenanalyse

    • Automation Bias

      Menschen vertrauen automatisierten Empfehlungen häufig stärker als ihrem eigenen Urteil.

    • Authority Bias

      Technologische Systeme werden als objektiv, kompetent und neutral wahrgenommen – selbst dann,
      wenn sie fehlerhaft sein können.

    • Confirmation Bias

      Informationen, die die Empfehlung der KI bestätigen, werden stärker berücksichtigt als Hinweise, die
      ihr widersprechen.

    • Cognitive Ease

      Die Übernahme einer KI-Empfehlung erfordert weniger kognitive Anstrengung als eine erneute
      Prüfung der Bewerbung.

Die Zielgruppe

BiasBreak richtet sich an Recruiter*innen sowie mittelständische und große Unternehmen, die KI-gestützte Recruiting-Systeme im Bewerbungsprozess einsetzen. Besonders relevant ist der Nudge bei hohem Bewerbungsaufkommen, wenn Entscheidungen unter Zeitdruck getroffen werden und das Risiko steigt, automatisierten Empfehlungen ungeprüft zu vertrauen.

Mehrwert des Nudges

  • Fairere Personalentscheidungen

    Qualifizierte Bewerber*innen erhalten eine zweite, bewusste Prüfung ihrer Bewerbung.

  • Mehr Transparenz im Recruiting

    Die Entscheidungsgrundlagen der KI werden nachvollziehbar und verständlich dargestellt.

  • Stärkung menschlicher Verantwortung

    KI unterstützt den Entscheidungsprozess – die Verantwortung für die finale Entscheidung
    bleibt beim Menschen.

CONTACT US

Sinem Algün

sinem.alguen@stud.hshl.de

Hayat Yilmaz

hayat.yilmaz@stud.hshl.de

Serenay Yilmaz

serenay.yilmaz@stud.hshl.de

Sarah Qamar

sarah.qamar@stud.hshl.de