Code auf Knopfdruck

Wir haben einen haptischen Nudge auf Augenhöhe, direkt am Bildschirmrand des Programmierenden – dem Point of Decision – entwickelt. Hier platzieren wir eine vielfältige Erinnerungshilfe. Auf der Vorderseite der Karte befinden sich die drei Vs – Verstehen – Verifizieren – Verantworten – und erinnern so den Programmierenden direkt im aktiven Workflow daran, den Antworten der KI nicht zu vertrauen, sondern diese zu hinterfragen und zu testen.

Akzeptieren Sie die Cookie Einstellung um Panopto Inhalte sehen zu können.

Panopto freischalten

Was bedeutet das Thema?

Programmierer vertrauen dem Code, den LLMs wie ChatGPT, Gemini oder Claude erstellen. Doch das birgt Gefahren – finanzielle Schäden in Milliardenhöhe, Verlust von Kundendaten und -vertrauen – sowie Sicherheitslücken zu sensiblen Daten entstehen dadurch. Die zwei Hauptgründe sind Overreliance – das blinde Vertrauen der KI-Antworten aufgrund von Zeitdruck, Bequemlichkeit oder Unwissenheit – sowie Halluzinationen, welche nicht einfach Fehler der KI sind, sondern falsche oder erfundene Antworten, die charismatisch und kompetent präsentiert werden. Oft werden hier Quellen ausgedacht oder bestehende Dateien erfunden. Dieses Zusammenspiel erzeugt diese massiven Schäden in der Wirtschaft – wenn menschliche Unvorsicht auf maschinelles Versagen trifft wie Mentos auf Cola.

Ziel des Nudges

Ziel des Nudges ist es, das Vertrauen in KI-Antworten abzubauen und so die Overreliance zu verhindern. Wir nudgen den Menschen in der Position der Verantwortung – die Halluzinationen bleiben also leider bestehen. Durch unseren Nudge werden Programmierende nun aber direkt in der Situation der Entscheidung über Ver- oder Misstrauen gegenüber den KI-Antworten genudgt, innezuhalten und den Code zu verstehen, zu verifizieren und ihn später guten Gewissens vertreten zu können. Somit holen wir den Menschen zurück ans Steuer des digitalen Projektes und verhindern maßgeblich die negativen wirtschaftlichen Folgen von Overreliance und Halluzinationen.

    Bedarfsanalyse

    • Hohe Fehlerkosten durch Automatisierung
      Routineabläufe beim Schreiben von Code führen zu einer Abnahme der bewussten Aufmerksamkeit, wodurch kritische Randfälle übersehen werden und teure Nacharbeiten in der Qualitätssicherung entstehen.
    • Mangelnde Barrieren im Workflow
      Gängige Entwicklungsumgebungen (IDEs) bieten beim Commit-Prozess oft nur rein visuelle Standard-Bestätigungen an, die aufgrund von Gewöhnungseffekten blind überklickt werden und keine kognitive Relevanz mehr besitzen.
    • Psychischer Druck und Zeiteffizienz
      Der Druck, Deadlines einzuhalten, verleitet Entwickler dazu, Code-Prüfungen zugunsten der Geschwindigkeit zu verkürzen, wodurch die Fehlerwahrscheinlichkeit exponentiell ansteigt.

    Ursachenanalyse

    • Overreliance (Übermäßiges Vertrauen in das System)

      Entwickler neigen dazu,
      die Kontrollverantwortung unkritisch an automatisierte Systeme abzugeben,
      entweder aus Bequemlichkeit im Workflow, Unsicherheit im Thema oder akutem
      Zeitdruck. Die Antworten der KI werden folglich nicht überprüft und/oder nicht
      verstanden.

    • Halluzinationen (Selbstsichere Falschinformationen der KI)

      Wenn im
      Entwicklungsprozess generative KI genutzt wird, besteht das Risiko, dass diese
      nicht existierende Code-Quellen, Bibliotheken oder Syntax-Fehler frei erfindet und
      diese Fehler dem Entwickler gegenüber absolut plausibel und selbstsicher
      verkauft. Dies führt zu massiver Verwirrung, erhöht den Zeitaufwand für die
      Fehlersuche und zerstört nachhaltig das Vertrauen in die generierten Ergebnisse.

Die Zielgruppe

Die Zielgruppe umfasst primär professionelle Softwareentwickler, Programmierer und IT
Architekten, die in agilen Projektstrukturen arbeiten und regelmäßige Code-Integrationen durchführen. Darüber hinaus richtet sich die Intervention an Manager, Teamleads und Projektverantwortliche in diesen technischen Bereichen, um durch deren strategische Einbindung eine breitere Akzeptanz im Unternehmen zu schaffen, mehr Menschen zu erreichen und die Qualitätssicherung auf organisationaler Ebene zu verankern. Der Nudge ist somit gleichermaßen für ausführende Entwickler – vom Junior bis zum Senior – als auch für die steuernden Führungskräfte konzipiert.

Mehrwert des Nudges

  • Signifikante Steigerung der Code-Qualität

    Durch die haptische Barriere am Point of
    Decision und die anschließende strukturierte Validierung werden kritische Fehler und
    KI-Halluzinationen abgefangen, bevor sie in das Repository gelangen.

  • Enorme Ressourcen- und Kostenersparnis

    Die frühzeitige Fehlerreduktion entlastet
    nachgelagerte Testphasen (QA) und verhindert teure, zeitaufwendige
    Korrekturschleifen im Deployment-Prozess sowie grundsätzliche Schäden in der Phase
    des aktiven Produktes.

  • Breite Verhaltensänderung über alle Hierarchiestufen

    Das System sensibilisiert
    nicht nur Entwickler (vom Junior bis zum Senior) für automatisierte Blindspots, sondern
    bietet auch Managern ein effektives Werkzeug zur Etablierung einer nachhaltigen,
    unternehmensweiten Qualitätskultur.

CONTACT US

Eric Ewald

eric.ewald@stud.hshl.de

Louis Hein

louis.hein@stud.hshl.de

Sebastian Müller

sebastian.mueller2@stud.hshl.de

Olaf Potrzasaj

olaf.potrzasaj@stud.hshl.de