После многих лет использования Google Maps можно подумать, что мы доверяем тому, что он знает, что делает. Тем не менее, мы думаем: "Может быть, поехать задним ходом было бы быстрее?"
Это пример того, что исследователи называют "неприятием алгоритмов": даже когда алгоритм постоянно выигрывает у человека, люди предпочитают полагаться на свою интуицию. Это может иметь вполне реальные последствия - от застревания в пробке до невыполнения плана продаж или неправильной диагностики пациента.
Алгоритмы делают более точные оценки в самых разных контекстах, и может показаться логичным, что если бы люди понимали это, они бы больше доверяли им. На самом деле наблюдение за работой алгоритмов ухудшает ситуацию, потому что это означает, что алгоритм иногда ошибается.
В опубликованной в прошлом году работе Беркли Дитворст, Джозеф Симмонс и Кейд Мэсси из Уортона обнаружили, что люди еще меньше доверяют алгоритмам, если видели, как они терпят неудачу, пусть даже небольшую. И в этом отношении они более строги к алгоритмам, чем к другим людям. Ошибаться свойственно человеку, но когда алгоритм совершает ошибку, мы вряд ли доверимся ему снова.
В одном из экспериментов участников попросили просмотреть данные о поступлении в MBA и угадать, насколько хорошо студенты справились с программой. Затем им сказали, что за точные предположения они выиграют небольшую сумму денег, и предоставили возможность либо представить свои собственные оценки, либо представить прогнозы, сгенерированные алгоритмом. Некоторым участникам показывали данные о том, насколько хорошими оказались их предыдущие предположения, некоторым - насколько точным был алгоритм, некоторым не показывали ни того, ни другого, а некоторым показывали и то, и другое.
Участники, видевшие результаты алгоритма, с меньшей вероятностью делали ставки на него, даже если им показывали и их результаты, и они могли убедиться в превосходстве алгоритма. А те, кто видел результаты, с гораздо меньшей вероятностью верили, что алгоритм будет показывать хорошие результаты в будущем. Этот вывод сохранился в нескольких аналогичных экспериментах в других контекстах, и даже когда исследователи сделали алгоритм более точным, чтобы подчеркнуть его превосходство.
Это не только эгоизм. Когда выбор был между ставкой на алгоритм и ставкой на другого человека, участники все равно чаще избегали алгоритма, если видели, как он работает, и, следовательно, неизбежно видели, что он ошибается.
Когда участников попросили объяснить это, самым распространенным ответом было то, что "люди-прогнозисты лучше, чем модель, становятся лучше с практикой [и] учатся на ошибках". Неважно, что алгоритмы тоже могут совершенствоваться, или что обучение со временем не было частью исследования. Похоже, что наша вера в человеческие суждения связана с нашей верой в собственную способность совершенствоваться.
Если демонстрация результатов не помогает избежать неприятия алгоритмов, то человеческий вклад может помочь. В готовящейся к публикации работе те же исследователи обнаружили, что люди значительно охотнее доверяют алгоритмам и используют их, если им разрешено немного подправить результат. Если, скажем, алгоритм предсказывал, что студент войдет в 10% лучших в своем классе MBA, у участников была возможность пересмотреть этот прогноз в сторону повышения или понижения на несколько пунктов. Это повышало вероятность того, что они сделают ставку на алгоритм, и снижало вероятность того, что они потеряют уверенность, увидев его результаты.
Конечно, во многих случаях добавление человеческого вклада ухудшало окончательный прогноз. Мы гордимся своей способностью к обучению, но мы никак не можем понять, что обычно лучше просто поверить в то, что алгоритм знает лучше.
Об авторе
Уолтер Фрик - редактор по вопросам членства в Quartz. До этого он шесть лет работал редактором в Harvard Business Review, в последнее время - заместителем редактора HBR.org. Он был стипендиатом Knight Visiting Nieman Fellow в Гарвардском фонде Nieman Foundation for Journalism и стипендиатом Ассамблеи в Гарвардском центре Berkman Klein Center for Internet & Society. Он также писал для The Atlantic, MIT Technology Review, The Boston Globe, BBC и других изданий.
- Hbr.org
Поделиться
