Refraim your m(AI)nd

Unser Nudge ist der Framing Awareness Bot, ein KI-basierter Assistent, der Nutzer:innen dabei unterstützt, Framing in politischen und gesellschaftlichen Fragestellungen sowie in KI-generierten Antworten zu erkennen. Der Bot hilft Nutzer:innen jedoch nicht nur dabei, Framing zu identifizieren, sondern unterstützt sie auch bei der Informationssuche, der Reflexion komplexer Themen und einer fundierteren Entscheidungsfindung. Der Bot analysiert eingegebene Fragen oder Antworten auf implizite Annahmen, wertende Sprache und einseitige Perspektiven. Anschließend zeigt er auf, welche Inhalte objektive Informationen darstellen und welche eher Meinungen oder Interpretationen sind. Zusätzlich regt er dazu an, alternative Sichtweisen, mehr Kontext sowie relevante Quellen einzubeziehen. Um reflektierte Entscheidungen zu unterstützen, soll der Bot möglichst neutral antworten, Informationen transparent einordnen und Quellen angeben. Anstatt bestehende Meinungen lediglich zu bestätigen, hilft er Nutzer:innen dabei, Informationen kritisch zu hinterfragen und fundierte Urteile zu bilden. Der Nudge funktioniert, indem er Verhalten nicht direkt verbietet oder einschränkt, sondern Nutzer:innen subtil dazu anstößt, Inhalte kritischer und reflektierter zu betrachten. Dadurch wird ein bewussterer und verantwortungsvollerer Umgang mit KI gefördert.

Akzeptieren Sie die Cookie Einstellung um Panopto Inhalte sehen zu können.

Panopto freischalten

Was bedeutet das Thema?

Unser Thema beschäftigt sich mit dem Zusammenspiel von Politik, gesellschaftlichen Themen, künstlicher Intelligenz und Framing. Immer mehr Menschen nutzen KI-Systeme wie Chatbots, um sich über politische und gesellschaftliche Themen zu informieren, Meinungen zu bilden oder Entscheidungen vorzubereiten. Viele Nutzer:innen gehen dabei davon aus, dass KI neutral und objektiv antwortet. In der Realität werden KI-Antworten jedoch stark von der Formulierung der Eingabe beeinflusst. Dieses Phänomen nennt man Framing. Framing beschreibt die Beeinflussung der Wahrnehmung und Bewertung eines Themas durch die Art und Weise, wie Informationen formuliert oder präsentiert werden. Besonders bei politischen und gesellschaftlichen Themen kann Framing dazu führen, dass bestimmte Perspektiven bevorzugt und andere ausgeblendet werden. Zusätzlich zeigen viele KI-Systeme Sycophancy, also die Tendenz, Nutzer:innen eher zu bestätigen, anstatt ihre Aussagen kritisch zu hinterfragen. Dadurch kann die Illusion entstehen, dass KI-Antworten neutral sind, obwohl sie durch Sprache, Kontext und Formulierung beeinflusst werden.

Ziel des Nudges

Das Ziel unseres Nudges ist es, Nutzer:innen zu einem bewussteren und reflektierteren Umgang mit KI zu bewegen. Menschen sollen erkennen, dass KI nicht automatisch neutral ist und dass Antworten durch Sprache, Kontext und implizite Annahmen beeinflusst werden können. Der Framing Awareness Bot soll kritisches Denken stärken, Perspektivenvielfalt fördern und verhindern, dass Nutzer:innen einseitige oder voreingenommene Informationen ungeprüft übernehmen. Langfristig soll der Nudge dazu beitragen, die Medien- und KI-Kompetenz in der Gesellschaft zu verbessern.

    Bedarfsanalyse

    • Wachsende KI-Nutzung
      Immer mehr Menschen verwenden KI im Alltag, insbesondere zur Informationssuche, für Recherchen und zur Meinungsbildung.
    • Fehlendes Bewusstsein für KI-Bias
      Viele Nutzer:innen wissen nicht, dass KI-Antworten durch Trainingsdaten, Prompts und sprachliche Formulierungen beeinflusst werden.
    • Hohe Relevanz bei politischen und gesellschaftlichen Themen
      Politische und gesellschaftliche Themen sind oft emotional, komplex und von unterschiedlichen Interessen geprägt. Hier kann Framing besonders starken Einfluss auf Wahrnehmung und Meinungsbildung haben.
    • Gefahr unkritischer Übernahme von KI-Antworten
      Da KI häufig als objektiv wahrgenommen wird, übernehmen viele Menschen Antworten ungeprüft.

    Ursachenanalyse

    • Framing-Effekt

      Menschen bewerten identische Informationen unterschiedlich, abhängig davon, wie diese dargestellt oder formuliert werden

    • Confirmation Bias

      Menschen suchen bevorzugt nach Informationen, die ihre bestehenden Meinungen bestätigen, und ignorieren widersprüchliche Perspektiven.

    • Authority Bias

      Aussagen von vermeintlichen Autoritäten werden eher akzeptiert. KI wird oft als neutrale und
      verlässliche Autorität wahrgenommen.

    • Sycophancy

      Viele KI-Systeme neigen dazu, Nutzermeinungen zu bestätigen, anstatt aktiv Gegenperspektiven
      einzubringen.

    • Cognitive Ease

      Einfach formulierte und schnell verständliche Antworten werden oft als richtiger oder glaubwürdiger
      wahrgenommen, selbst wenn sie einseitig sind.

Die Zielgruppe

Unsere Hauptzielgruppe sind politische Institutionen, Behörden sowie Bildungs- und Beratungseinrichtungen, die KI in ihrer täglichen Arbeit einsetzen. Zusätzlich richtet sich der Nudge an Organisationen, die KI in Seminaren, Workshops oder politischer Bildungsarbeit nutzen. Darüber hinaus ist der Framing Awareness Bot für alle Menschen relevant, die KI zur Informationsgewinnung verwenden und lernen möchten, KI Antworten kritischer zu hinterfragen.

Mehrwert des Nudges

  • Unterstützt fundierte Entscheidungsfindung

    Der Bot hilft Nutzer:innen dabei, politische und gesellschaftliche Informationen zu sammeln,
    einzuordnen und reflektiert zu bewerten, um informiertere Entscheidungen zu treffen.

  • Fördert neutrale und transparente Informationsverarbeitung

    Durch die Trennung von Fakten und Meinungen sowie die Einbindung relevanter Quellen unterstützt der Bot eine ausgewogene und vertrauenswürdige Bewertung von Informationen

  • Stärkt kritisches Denken

    Nutzer:innen hinterfragen KI-generierte Antworten aktiver, anstatt sie ungeprüft zu übernehmen.

CONTACT US

Diana Le

diana-duyen.le@stud.hshl.de

Sofia Sianas

sofia.sians@stud.hshl.de

Amelie Reinelt

amelie.reinelt@stud.hshl.de

Lea Beverungen

lea.beverungen@stud.hshl.de