BASE- When AI Makes Rare Risks Look Common

Unser Nudge besteht aus einem speziell entwickelten Prompt für KI-gestützte medizinische Selbstdiagnosen. Nutzergeben ihre Symptome in einer vorgegebenen Struktur ein, die die KI dazu anleitet, neben den geschilderten Symptomen auch die Grundwahrscheinlichkeit verschiedener Erkrankungen zu berücksichtigen. Dadurch werden Diagnosen nicht ausschließlich anhand auffälliger Symptome erstellt, sondern zusätzlich nach ihrer tatsächlichen Häufigkeit eingeordnet. Der Nudge verändert somit nicht die Entscheidungsfreiheit der Nutzer, sondern verbessert die Art und Weise, wie Informationen von der KI verarbeitet werden.

Akzeptieren Sie die Cookie Einstellung um Panopto Inhalte sehen zu können.

Panopto freischalten

Was bedeutet das Thema?

Künstliche Intelligenz wird zunehmend im Gesundheitswesen eingesetzt und gewinnt auch bei der medizinischen Selbstdiagnose an Bedeutung. Viele Menschen nutzen inzwischen ChatGPT oder ähnliche KI-Systeme, um Symptome einzuordnen oder mögliche Erkrankungen zu identifizieren. Studien zeigen, dass dabei häufiger allgemeine KI-Anwendungen wie ChatGPT genutzt werden als spezialisierte Symptomchecker von Krankenkassen oder medizinischen Einrichtungen. Gleichzeitig sind die Entscheidungsprozesse solcher Systeme oft schwer nachvollziehbar. Nutzer:innen bringen KI-generierten medizinischen Empfehlungen häufig großes Vertrauen entgegen, obwohl sie deren Qualität nur eingeschränkt beurteilen können. Dadurch steigt das Risiko, dass fehlerhafte oder unausgewogene Diagnosen ungeprüft übernommen werden.

Ziel des Nudges

Ziel des Nudges ist es, realistischere und ausgewogenere KI-Diagnosen zu fördern. Die KI soll dazu angeregt werden, nicht nur die Übereinstimmung von Symptomen mit bestimmten Krankheiten zu betrachten, sondern auch deren tatsächliche Häufigkeit in der Bevölkerung einzubeziehen. Dadurch sollen Fehldiagnosen reduziert, unnötige Sorgen vermieden und die Qualität der KI-gestützten Gesundheitsberatung verbessert werden.

    Bedarfsanalyse

    • Nutzung von KI zur Selbstdiagnose nimmt zu
    • 1/4 der deutschen Bevölkerung nutzt KI-Anwendungen vor einem Arztbesuch
    • LLM liefern nicht immer konsistente oder nachvollziehbare Ergebnisse
    • Viele Menschen vertrauen den Empfehlungen von KI-Systemen blind (Automation Bias)
    • Es besteht ein Bedarf an Mechanismen, die die Qualität und Transparenz der Diagnosen verbessern

    Ursachenanalyse

    • Im Mittelpunkt steht der Bias des Base Rate Neglect (Vernachlässigung der Grundwahrscheinlichkeit)

    • Dabei werden statistische Basisinformationen nicht ausreichend berücksichtigt

    • Menschen & KI-Systeme können dazu neigen, symptomatisch passende Erkrankungen als Diagnose anzusehen, obwohl die Wahrscheinlichkeit diese Krankheit zu haben gering ist

    • Kann zu unnötigen Untersuchungen, falschen Behandlungen oder psychischer Belastung führen

    • Unser Prompt wirkt dem entgegen: KI wird ausdrücklich aufgefordert, die Grundwahrscheinlichkeit von Erkrankungen einzubeziehen

Die Zielgruppe

Zielgruppe des Nudges sind Versicherte von Krankenkassen, die KI-gestützte Anwendungen zur medizinischen Selbstdiagnose nutzen. Krankenkassen stellen den Nudge über ihre bestehenden Informationskanäle, wie Websites, Apps oder Broschüren, bereit. So können Versicherte bei der Nutzung von KI-Systemen zu fundierteren und realistischeren Einschätzungen möglicher Erkrankungen unterstützt werden.

Mehrwert des Nudges

  • Reduktion von Fehldiagnosen

  • Vermeidung unnötiger Ängste

  • Entscheidungsgrundlage der KI wird transparenter

CONTACT US

Fabienne David

Fabienne.david@stud.hshl.de

Johanna Schreiner

Johanna.schreiner@stud.hshl.de

Rinkje Drost

Rinkje.drost@stud.hshl.de