Der Nudge-Ansatz zielt darauf ab, die KI zu vorsichtigeren und verlässlicheren Antworten zu führen, indem ihr autonomes Verhalten in einen kontrollierten Prozess eingebettet wird. Anstatt sofort auf eine Kundenanfrage zu antworten, verbleibt das System zunächst in einer abwartenden Haltung und fordert bei Bedarf gezielte Präzisierungen an, um den Kontext der Anfrage zu klären, was auf dem ECLAIR-Modell basiert. Zur internen Absicherung führt das System parallel einen Vergleich mehrerer Antwortvarianten durch, was durch das LaMSeI-Modell realisiert wird. Wird dabei eine zu hohe inhaltliche Unsicherheit festgestellt, blockiert die KI die direkte Textausgabe und stellt stattdessen dem Kunden Rückfragen. Sollte auch nach maximal drei Klärungsversuchen keine ausreichende Eindeutigkeit erreicht werden, bricht das System die automatisierte Befragung ab und leitet das Anliegen nahtlos an einen menschlichen Mitarbeitenden weiter. Dieser Mechanismus des automatischen Human-Handover stellt sicher, dass in kritischen Fällen ausschließlich verifizierte Informationen den Kunden erreichen.
Akzeptieren Sie die Cookie Einstellung um Panopto Inhalte sehen zu können.
Panopto freischaltenDas Thema befasst sich mit dem Einsatz von KI-Chatbots im Kundenservice. Dabei tritt das Problem auf, dass sogenannte KI-Halluzinationen zu falschen Informationen führen können. Da Unternehmen rechtlich für die Aussagen ihrer KI haften, entstehen erhebliche Risiken. Ein Beispiel für die Konsequenzen ist das Aesthetify-Urteil, bei dem es um die unzulässige Zuschreibung falscher Facharzttitel durch einen Chatbot ging.
Das Ziel des Nudges ist es, KI-Halluzinationen effektiv zu reduzieren und das System dazu zu befähigen, eigene Unsicherheiten präzise zu erkennen und zu berücksichtigen. Durch diesen Prozess werden rechtssichere sowie verifizierte Antworten gefördert, wodurch direkte Haftungsrisiken für Unternehmen minimiert werden. Gleichzeitig trägt dieses Vorgehen dazu bei, das Vertrauen der Kundschaft in das Unternehmen nachhaltig zu festigen.
- KI antwortet auch ohne ausreichendes Wissen.
- Gibt falsche Informationen mit hoher Sicherheit aus.
- Überinterpretiert vorhandene Informationen.
- Erfindet scheinbar glaubwürdige Fakten.
- Verliert den ursprünglichen Kontext.
Die Zielgruppe des Nudges umfasst primär Unternehmen, die KI-Chatbots im Kundenservice einsetzen. Indirekt profitieren auch die Kundinnen und Kunden von diesem Ansatz, da sie durch die Maßnahmen zuverlässigere Informationen erhalten sollen.
adelina-maria.corsaro@stud.hshl.de
marie.kampen@stud.hshl.de
dylan-valentin.melo-schaenzlin@stud.hshl.de
mohammed.al-haj-khalaf@stud.hshl.de
