Framed Mind

Generative KI-Systeme wie ChatGPT werden zunehmend im Bildungsbereich eingesetzt. Schüler:innen und Studierende nutzen diese Anwendungen zur Recherche, zum Verfassen von Texten oder zur Unterstützung beim Lernen. KI-generierte Antworten werden dabei häufig als objektiv und neutral wahrgenommen. Tatsächlich können jedoch bereits kleine Unterschiede in der Formulierung einer Frage oder Antwort dazu führen, dass Informationen positiver oder negativer dargestellt werden. Dieses Phänomen wird als Framing bezeichnet. Da KI-Systeme einen wachsenden Einfluss auf die Informationsaufnahme und Meinungsbildung haben, gewinnt die Sensibilisierung
für solche Verzerrungen zunehmend an Bedeutung. Die farbliche Kennzeichnung dient als visuelle Orientierungshilfe und macht Nutzer:innen unmittelbar auf mögliche Verzerrungen aufmerksam. Dadurch soll verhindert werden, dass KI-generierte Inhalte unreflektiert übernommen werden. Der Nudge greift direkt während der Nutzung von KI-Systemen ein und fördert eine bewusstere Auseinandersetzung mit den dargestellten Informationen.

Ziel des Nudges ist es, Nutzer:innen für mögliche Verzerrungen in KI-generierten Antworten zu sensibilisieren und einen kritischeren Umgang mit den bereitgestellten Informationen zu fördern. Viele Menschen vertrauen KI-Systemen und übernehmen deren Aussagen, ohne diese ausreichend zu hinterfragen. Durch die Sichtbarmachung von Framing-Effekten sollen Nutzer:innen dazu angeregt werden, Inhalte bewusster zu reflektieren und unterschiedliche Perspektiven stärker zu berücksichtigen. Langfristig soll dadurch die Medien- und KI-Kompetenz gestärkt sowie die Gefahr einer unkritischen Meinungsübernahme reduziert werden.