Ein kleines Gedankenexperiment: Du öffnest Amazon.
Ein Produkt. Viereinhalb Sterne. 2.400 Bewertungen.
Du kaufst es — ohne ein einziges Review gelesen zu haben.
Wir alle tun das. Täglich. Ohne es zu merken.
Unser Gehirn sagt: Viele Menschen können sich nicht irren. Also muss es gut sein. Das ist keine Logik, das ist eine Heuristik.
Eine mentale Abkürzung, die unser Gehirn nutzt, um Entscheidungen zu treffen, ohne jede Information wirklich zu verarbeiten.
Klingt effizient. Ist es auch — meistens.
Aber manchmal kauft man halt Müll mit Viereinhalb-Sterne-Bewertung.
Jetzt kommt der Teil, der mich wirklich beschäftigt.
KI macht dasselbe. Nur mit Daten statt mit Bewertungen. Ein Sprachmodell wie ChatGPT wurde mit Milliarden von Texten trainiert. Es erkennt keine Bedeutung. Es berechnet Wahrscheinlichkeiten. Was kommt nach diesem Wort am häufigsten vor? Welche Antwort hat in ähnlichen Kontexten „funktioniert”?
Das ist strukturell identisch mit unserem Bewertungs-Reflex.
Beide nehmen Abkürzungen. Beide basieren auf dem, was am häufigsten vorkommt, nicht auf dem, was wahr ist. Beide liegen dabei manchmal falsch.
Der Unterschied ist nur: Beim Menschen heißt die Abkürzung Erfahrung. Bei KI heißt sie Trainingsdaten.
Und genau deshalb ist KI nicht neutral. Sie ist ein Spiegel der Daten, mit denen sie aufgewachsen ist — mit allen Mustern, Vorurteilen und Verzerrungen, die darin stecken.
Die entscheidende Frage ist also nicht: „Kann ich KI vertrauen?”
Sondern: „Welche Abkürzungen hat sie gelernt und von wem?”
#Nudgenight #KI #Heuristik #Verzerrung #Mensch
(Quelle: Tversky & Kahneman, 1974 — Judgment under Uncertainty)
