KI-Ratschläge unterdrücken die menschliche Bereitschaft, Unsicherheit einzugestehen: Studie mit fünf Experimenten

Die Verhaltensforscher Chiara Marcoccia, Walter Quattrociocchi und Valerio Capraro haben in fünf Experimenten mit 3.132 Teilnehmern — vier davon präregistriert — gemessen, was die bloße Präsenz von KI-Ratschlägen mit dem menschlichen Urteil macht. Das Ergebnis, veröffentlicht auf arXiv am 15. Juli 2026: Der Zugang zu KI-Vorschlägen hat die Bereitschaft der Teilnehmer, das Urteil auszusetzen und Unsicherheit einzugestehen, nahezu ausgelöscht — auch dann, wenn der Rat falsch war und Genauigkeit mit echtem Geld belohnt wurde.

Was die Forscher herausfanden

Das Studiendesign ist bewusst einfach. Die Teilnehmer beantworteten schwierige Fragen und hatten eine explizite Option, sich zu enthalten — Unsicherheit zu erklären statt zu raten. Eine Kontrollgruppe arbeitete eigenständig; die Treatmentgruppen erhielten KI-Vorschläge, darunter Bedingungen mit systematisch fehlerhaftem Rat. Die Designentscheidung zählt: Indem das Setup Genauigkeit belohnt und Enthaltung erlaubt, gibt es den Teilnehmern jeden Grund, ehrlich mit den Grenzen des eigenen Wissens umzugehen. Was die Enthaltung hier unterdrückt, wirkt gegen den Anreizgradienten — das macht die Messung konservativ. In fünf Experimenten mit N = 3.132, vier davon präregistriert, replizierte sich das Muster mit bemerkenswerter Konsistenz.

Drei gemessene Effekte stechen hervor. Erstens: Der bloße Zugang zur KI hat die Bereitschaft, das Urteil auszusetzen, nahezu eliminiert — die Enthaltungsoption, frei verfügbar und straffrei, blieb fast ungenutzt, sobald ein KI-Vorschlag auf dem Bildschirm erschien. Zweitens: War der Rat fehlerhaft, beantworteten die Teilnehmer mehr Fragen und trafen die richtige Antwort etwa ein Drittel so oft wie die KI-freie Baseline — sie tauschten epistemische Vorsicht gegen selbstbewussten Irrtum. Drittens: Ihr Vertrauen verdoppelte sich nahezu, unabhängig von der Qualität des Rats. Die Enthaltung ist die verhaltensbezogene Signatur epistemischer Demut — die Einsicht, dass eine zurückgestellte Antwort weniger kostet als eine falsche — und genau dieses Verhalten kollabierte.

Die Anreizexperimente tragen das größte praktische Gewicht. Die Bezahlung für Genauigkeit verbesserte sowohl die Genauigkeit als auch die Bereitschaft zur Urteilsenthaltung — und beide Kennzahlen blieben weit unter der KI-freien Baseline. Geld hilft; es gewinnt einen Bruchteil der verlorenen Demut zurück. Der Unterdrückungseffekt überlebt direkten finanziellen Druck zur Sorgfalt.

Warum das über das Labor hinaus zählt

Menschliche Aufsicht ist die tragende Annahme der KI-Governance in Unternehmen. Eskalationsprozesse, Vier-Augen-Prüfungen, Aufsichtsanforderungen im Stil des EU AI Act: Jede davon baut auf der Überzeugung, dass ein menschlicher Prüfer sein unabhängiges Urteil bewahrt, wenn das Modell irrt — dass eine unsichere Person das ausspricht und eskaliert. Diese Studie misst die entgegengesetzte Dynamik. Die Präsenz des KI-Ratschlags lässt die Enthaltung kollabieren, bläht das Vertrauen auf und verwandelt fehlerhaften Output in selbstsicher weitergetragenen Irrtum. Der Prüfer im Loop wird genau dann zum Verstärker, wenn das System eine Bremse braucht.

Die Unternehmenslesart ist direkt. Deployment-Dashboards messen Modellgenauigkeit, Latenz und Adoption; die menschliche Hälfte des Loops bleibt typischerweise unvermessen. Dieses Paper gibt Governance-Teams ein messbares Konstrukt an die Hand: die Enthaltungsrate der Prüfer als Frühindikator für die Gesundheit der Aufsicht. Die Literatur zum Automation Bias dokumentierte übermäßiges Vertrauen in Maschinenoutput. Dieses Design isoliert etwas Schärferes — die Erosion der Bereitschaft, Unwissen überhaupt einzugestehen, unter Bedingungen, die genau dieses Eingeständnis belohnen.

MIRAs Rigorositätsregel gilt auch für dieses Paper, deshalb verdienen die Grenzen gleichen Raum. Es handelt sich um ein Preprint; die Peer-Review steht aus. Der Rahmen ist ein Online-Experiment mit schwierigen Allgemeinwissensfragen, und die Effektstärke in Expertenworkflows — eine Radiologin vor einem markierten Scan, ein Analyst über einem modellgenerierten Bericht — bleibt eine offene empirische Frage. Die Richtung des Befunds, repliziert über vier präregistrierte Designs, verdient die Aufmerksamkeit. Und das Anreizergebnis ist konstruktiv: Epistemische Demut reagiert auf Design. Sie ist eine Variable, und Variablen lassen sich gestalten.

Die R&D-Entscheidung

Die Frage an CTO oder Forschungsleitung: Welcher Ihrer Human-in-the-Loop-Checkpoints misst die Enthaltungsrate der Prüfer — und was geschieht mit Ihrem Fehlerfortpflanzungsmodell, wenn die Enthaltung gegen null sinkt, sobald ein Vorschlag erscheint? Die übliche Roadmap-Annahme behandelt Aufsichtsqualität als Personalfrage. Dieser Befund formuliert sie neu als Frage von Interface und Anreizen: sichtbare Enthaltungsoptionen, Reibung vor der Bestätigung und Belohnungsstrukturen für Eskalation sind messbare Designhebel, und die gemessene Lücke zwischen belohntem Verhalten und KI-freier Baseline zeigt, wie viel Boden reine Anreize offen lassen. Instrumentieren Sie Enthaltungsraten in Ihren Review-Workflows so, wie Sie Modellgenauigkeit instrumentieren. Was gemessen wird, wird gesteuert.