Als im Rahmen des Moduls Nudging die Möglichkeit bestand, statt eines klassischen Nudge-Projekts eine wissenschaftliche Publikation zu schreiben, war für uns schnell klar, dass wir diese Chance nutzen wollten. Uns hat vor allem gereizt, einmal einen Einblick in den wissenschaftlichen Publikationsprozess zu bekommen und selbst zu erleben, wie dieser tatsächlich abläuft. Gleichzeitig war diese Arbeitsweise für uns völlig neu. Anders als bei einer klassischen Hausarbeit gab es weder eine konkrete Fragestellung noch einen festen Aufbau. Das Einzige, was feststand, war das Rahmenthema Human Biases in AI. Welchen Schwerpunkt wir setzen und in welche Richtung sich unser Beitrag entwickeln soll, erarbeiteten wir in mehreren Brainstorming-Runden selbst.
Wir überlegten zunächst, welche Entwicklungen uns im Alltag tatsächlich beschäftigten. Dabei fiel uns schnell auf, dass wir persönlich Large Language Models (LLMs) wie ChatGPT längst nicht mehr nur für Hausarbeiten oder andere Studienaufgaben nutzen. Immer häufiger greifen wir auch bei Gesundheitsfragen darauf zurück, sei es, um Symptome einzuordnen, Informationen zu Krankheitsbildern zu erhalten oder uns auf einen Arztbesuch vorzubereiten. Daraus entstand die Frage, ob wir mit dieser Nutzung allein sind oder ob LLMs für viele Menschen zunehmend die Rolle digitaler Gesundheitsratgeber einnehmen.
Ein Blick auf aktuelle Erhebungen und Studien zeigte schnell, dass es sich keineswegs um ein individuelles Phänomen handelt. Laut einer Bitkom-Umfrage recherchieren bereits 73 % (Stand 2025) der Menschen bei gesundheitlichen Fragen im Internet, und fast jede zweite Person hat bereits einen KI-Chatbot wie ChatGPT, Gemini oder Copilot für Gesundheitsfragen genutzt (n = 1145).
Das Problem dabei ist jedoch, dass LLMs nicht neutral sind. Sie können eine Vielzahl unterschiedlicher Biases aufweisen, die ihre Antworten systematisch beeinflussen. Studien zeigen, dass Antworten beispielsweise je nach Geschlecht oder Herkunft unterschiedlich ausfallen können. Gerade im Gesundheitskontext ist das besonders relevant, da Menschen auf Grundlage solcher Informationen Entscheidungen über ihre eigene Gesundheit treffen. Genau diese Problematik wollten wir verständlich aufbereiten und in unserem ersten Exposé diskutieren. Unser Ziel war von Anfang an, die Relevanz des Themas greifbar zu machen. Dazu wollten wir zunächst aufzeigen, dass LLMs im Gesundheitskontext systematische Verzerrungen aufweisen können und weshalb diese angesichts ihrer wachsenden Verbreitung zunehmend an Bedeutung gewinnen. Darauf aufbauend beschäftigten wir uns mit der Frage, wie sich solche Biases erkennen lassen, welche Strategien einen kritischen und reflektierten Umgang mit den Antworten von LLMs fördern und wie potenzielle Verzerrungen bereits durch eine bewusste Gestaltung der Prompts reduziert werden können.
Als wir unsere Grundidee entwickelt hatten, beschäftigten wir uns intensiv mit der Methodik und begannen parallel mit der Suche nach einem geeigneten Journal. Rückblickend war diese Vorgehensweise jedoch wenig zielführend. Wir waren noch zu sehr in der Denkweise klassischer Seminararbeiten verhaftet und konzentrierten uns früh auf inhaltliche Details, obwohl der wichtigste Schritt zunächst die Wahl eines passenden Journals gewesen wäre. Erst durch die wiederholten Hinweise von Prof. Dr. Harff konnten wir uns von dieser Herangehensweise lösen und den Fokus zunächst vollständig auf die Journalsuche legen.
Dabei wurde uns bewusst, dass die Wahl eines geeigneten Journals den gesamten weiteren Publikationsprozess maßgeblich bestimmt. Ein Journal zu finden, das thematisch zu unserem Beitrag passte und dessen formale Anforderungen wir erfüllen konnten, erwies sich als deutlich schwieriger als erwartet. Besonders herausfordernd war es für uns, konsequent aus der Perspektive der jeweiligen Zielgruppe zu denken. Diese Arbeitsweise kannten wir aus bisherigen wissenschaftlichen Arbeiten nicht.
Zu Beginn kontaktierten wir überwiegend medizinische Fachzeitschriften. Durch die erhaltenen Rückmeldungen erkannten wir jedoch, dass dies vermutlich nicht die passende Richtung für unseren Beitrag war. Im Gegensatz zu Medizinstudierenden verfügen wir nicht über die notwendige medizinische Fachkompetenz, um einen primär medizinischen Fachartikel zu verfassen. Mit der Zeit erweiterten wir deshalb unser Spektrum und kontaktierten neben medizinischen Zeitschriften auch allgemeinwissenschaftliche sowie bildungsorientierte Journals. Die Idee, Aufmerksamkeit für den verantwortungsvollen Umgang mit LLMs im Gesundheitskontext zu schaffen, stand dabei für uns stets im Mittelpunkt.
Umso mehr freuten wir uns, als wir schließlich von einer Zeitschrift im Bereich Weiterbildung eine positive Rückmeldung auf unser Exposé erhielten. Spätestens an diesem Punkt wurde uns deutlich, wie viel Zeit wir uns zu Beginn hätten sparen können, wenn wir die Journalsuche früher priorisiert hätten. Viele der zuvor diskutierten inhaltlichen Details mussten wir nun ohnehin an die Anforderungen des Redakteurs und die Vorgaben der Zeitschrift anpassen.
Dadurch setzten wir uns noch intensiver mit der Zielgruppe auseinander und entwickelten unseren Beitrag entsprechend weiter. Unser Fokus liegt nun darauf, Verzerrungen in den Antworten von LLMs verständlich und greifbar zu machen sowie konkrete Handlungsmöglichkeiten aufzuzeigen. Insbesondere möchten wir Lehrende dabei unterstützen, dieses Wissen als Multiplikator:innen weiterzugeben und einen reflektierten Umgang mit KI-gestützten Gesundheitsinformationen zu fördern.
