Kognitive Verzerrung · Gut belegt
Automation Bias
Menschen können automatischen Hinweisen oder Empfehlungen zu stark folgen, besonders wenn ihre Prüfung aufwendig ist oder das System meist zuverlässig wirkt.
Auch gesucht als: Automatisierungsbias · Automatisierungsverzerrung · Automation bias
Was passiert?
Woran du das Muster erkennen kannst
Eine Empfehlung aus Software oder KI kann wie eine Abkürzung für eigene Informationssuche wirken. Fehler entstehen, wenn falsche Hinweise übernommen werden oder ein Problem übersehen wird, weil das System keinen Alarm gegeben hat.
Probier das
Mach den nächsten Schritt prüfbarer
- Formuliere bei wichtigen Entscheidungen eine vorläufige eigene Einschätzung oder feste Prüfkriterien, bevor du die Empfehlung siehst, wenn das praktikabel ist.
- Prüfe folgenreiche Empfehlungen gegen unabhängige Daten, Quellen oder Signale.
- Fordere Quellen, zerlegte Prüfschritte und sichtbare Unsicherheit an, statt dich auf einen allgemeinen Hinweis wie 'KI kann Fehler machen' zu verlassen.
- Lege fest, wer die finale Prüfung verantwortet, wenn ein automatisiertes System am Prozess beteiligt ist.
Das ist kein Diagnosewerkzeug und keine Garantie gegen Denkfehler. Ziel ist ein besser prüfbarer Entscheidungsprozess.
Warum es helfen kann
Was die Forschung vorsichtig stützt
Automation Bias ist in Forschung zu automatisierter Entscheidungsunterstützung dokumentiert. Er kann zu Commission- und Omission-Fehlern beitragen; zugleich kann gute Automatisierung die Gesamtleistung verbessern. Entscheidend ist, ob Vertrauen auch dann angemessen bleibt, wenn das System falsch, unvollständig oder schwer überprüfbar ist.
Grenzen
Automation ist nicht grundsätzlich schädlich und jede Übereinstimmung mit einer Systemempfehlung ist kein Bias. Arbeitslast, Erfahrung, Zeitdruck, Aufgabenschwierigkeit und Verifikationskosten beeinflussen die Reliance.
Geprüfte Quellen
Anwendung