Generative KI-Systeme wie ChatGPT werden von Schüler:innen und Studierenden immer
häufiger genutzt. Dabei wirken KI-Antworten oft objektiv, obwohl ihre Formulierung die
Wahrnehmung und Meinungsbildung beeinflussen kann. Unser Nudge „Framed Mind“ macht
solche Framing-Effekte durch eine einfache farbliche Kennzeichnung sichtbar und fördert
dadurch einen kritischeren Umgang mit KI-generierten Informationen.
1. Vorstellung: Künstliche Intelligenz ist inzwischen fester Bestandteil des Schul- und Studienalltags. Sie unterstützt bei der Recherche, beim Schreiben von Texten und bei der Informationssuche.
Unser Projekt beschäftigt sich mit der Frage, wie die Formulierung von KI-Antworten die
Meinungsbildung beeinflussen kann.
Dafür haben wir den Nudge „Framed Mind“ entwickelt. Dieser macht sichtbar, ob KI
Antworten eher positiv, neutral oder negativ formuliert sind. Durch eine einfache farbliche
Kennzeichnung sollen Nutzer:innen auf mögliche Verzerrungen aufmerksam gemacht
werden.
2. Problemdarstellung: Viele Menschen vertrauen KI-generierten Antworten und nehmen diese als neutral und objektiv wahr. Tatsächlich können bereits kleine Unterschiede in der Formulierung dazu
führen, dass Informationen unterschiedlich bewertet werden. Besonders junge Menschen
befinden sich noch in einem wichtigen Prozess der Meinungsbildung und sind daher
anfälliger für solche Einflüsse.
Gleichzeitig werden KI-Antworten häufig nicht kritisch hinterfragt, wodurch mögliche
Verzerrungen unbemerkt bleiben können.
3. Lösung: Unser Nudge kennzeichnet KI-Antworten anhand ihrer sprachlichen Tendenz farblich als
positiv, neutral oder negativ. Dadurch wird sichtbar gemacht, dass die Darstellung von
Informationen einen Einfluss auf die Wahrnehmung haben kann.
Die Kennzeichnung dient als visuelle Erinnerung, Inhalte nicht einfach zu übernehmen,
sondern bewusst zu reflektieren. So soll ein kritischerer und verantwortungsvollerer Umgang
mit generativer KI gefördert werden.
–> Wie stark beeinflussen KI-Antworten unsere Meinungen wirklich? Und kann ein einfacher
Nudge dabei helfen, Verzerrungen sichtbar zu machen?
Besuchen Sie uns auf der NudgeNight und erfahren Sie mehr über unser Experiment, unsere
Ergebnisse und den Prototypen „Framed Mind“. Wir freuen uns auf den Austausch und
spannende Diskussionen rund um die Zukunft von KI und Meinungsbildung.