Когнитивное искажение · Хорошо подтверждено
Склонность чрезмерно доверять автоматизации
Рекомендации автоматизированной системы могут получать слишком большой вес, из-за чего человек реже замечает её ошибки, пропуски или противоречащие сигналы.
Automation bias · варианты поиска: предвзятость автоматизации, automation bias
Где ловушка
Что именно может пойти не так
Автоматизация экономит внимание — в этом её польза. Но та же экономия создаёт риск принять уверенную рекомендацию как уже проверенный факт.
Что показывают исследования
Что можно утверждать осторожно
Automation bias описан в исследованиях систем поддержки решений и систематических обзорах. Неправильная опора на автоматизацию может приводить как к следованию ошибочному совету, так и к пропуску проблемы, которую система не отметила.
Граница применения
Автоматизация не является вредной по определению и часто улучшает общую работу. Вопрос в калибровке доверия: сохраняется ли качество решения, когда система ошибается, неполна или её вывод трудно проверить.
Основные источники
- Automation bias: decision making and performance in high-tech cockpits · 1997
- Automation bias: a systematic review of frequency, effect mediators, and mitigators · 2011
- Automation bias and verification complexity: a systematic review · 2017
- What is Wrong With Automation Bias? · 2026
Обзор доказательств обновлён: 18 августа 2026 г..
Практическая проверка
Что сделать перед следующим решением
- Для важных решений заранее определите, какие утверждения требуют независимой проверки.
- Отделяйте качество интерфейса и уверенность формулировки от измеренной точности системы.
- Периодически проверяйте не только случаи, где система была права, но и пропуски и ложные срабатывания.
- Сохраняйте человеку понятный путь отклонить рекомендацию и зафиксировать основание.
Это не диагноз и не способ «выключить» искажение. Проверка делает рассуждение более наблюдаемым и помогает заметить типичную ошибку.