ИИ и решения · практическая статья
Почему человекоподобному ИИ хочется доверять больше
Тёплый тон, имя и естественный диалог могут создавать ощущение понимания и надёжности, которое ещё нужно подтверждать реальной работой системы.
Ситуация
Как это выглядит в обычной жизни
Чат-бот помнит контекст разговора, извиняется и уверенно объясняет ответ. Постепенно возникает ощущение, что он понимает ситуацию почти так же, как человек.
Что здесь происходит
Механизм без лишней терминологии
Человекоподобные сигналы делают взаимодействие удобнее, но одновременно подталкивают нас приписывать системе намерения, понимание и компетентность, которые интерфейс сам по себе не доказывает.
Почему это важно
Где решение может съехать в сторону
Приятный интерфейс и надёжная система — разные вещи. Доверие к важному ответу должно зависеть от того, какие данные система видит, что она умеет проверять и насколько хорошо выполняет именно эту задачу.
Попробуйте так
Одна проверка перед следующим шагом
Разделите впечатление от интерфейса и требуемую способность. Выпишите, что системе нужно знать или проверить для ответа, и отдельно проверьте, действительно ли у неё есть такие данные и возможности.
Вопрос себе: Я доверяю проверенной способности или реагирую на человекоподобную подачу?
На чём основано
Антропоморфизм
Антропоморфизм — хорошо изученная тенденция приписывать нечеловеческим агентам человеческие свойства. Исследования показывают, что человекоподобные сигналы и потребность понять поведение системы могут усиливать такие выводы.
Важно: Антропоморфизм не всегда ошибка. Человеческая метафора может помогать взаимодействовать с системой. Риск появляется, когда интерфейс становится доказательством точности, сознания, намерений или способностей, которые отдельно не проверялись.