Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Синдром Плюшкина»: безобидная причуда или личностное расстройство? «Синдром Плюшкина»: безобидная причуда или личностное расстройство?

«Синдром Плюшкина», или «хоардинг» — чем опасен и как лечить?

Psychologies
«Утром мажу бутерброд — сразу мысль: а как народ?» Самые искрометные цитаты Леонида Филатова «Утром мажу бутерброд — сразу мысль: а как народ?» Самые искрометные цитаты Леонида Филатова

Цитаты Леонида Филатова

Maxim
Чем нынешние исследователи отличаются от тех, что были раньше Чем нынешние исследователи отличаются от тех, что были раньше

Кто же такой исследователь в современной реальности?

Популярная механика
В чем разница между белым и коричневым сахаром В чем разница между белым и коричневым сахаром

В чем отличия между белым и коричневым сахаром, и какой из них полезнее?

Популярная механика
Птицы-дуплогнездники отпугнули захватчиков фальшивыми остатками трапезы хищника Птицы-дуплогнездники отпугнули захватчиков фальшивыми остатками трапезы хищника

Как птицы-дуплогнездники выигрывают конкуренцию за дупла

N+1
7 советов по подготовке собаки к зиме 7 советов по подготовке собаки к зиме

Собак тоже нужно защитить от холода и реагентов на тротуаре!

Maxim
Как Роман Горюнов привел в Россию Apple и Tesla и вывел «СПБ Биржу» на IPO Как Роман Горюнов привел в Россию Apple и Tesla и вывел «СПБ Биржу» на IPO

Как Роман Горюнов построил и продал две российские биржи?

Forbes
Мембрана с сосудообразными порами оказалась эффективным добытчиком урана из воды Мембрана с сосудообразными порами оказалась эффективным добытчиком урана из воды

Китайские химики разработали мембрану для экстракции урана из воды

N+1
Почему люди грубят друг другу? Почему люди грубят друг другу?

Я решила разобраться, почему люди грубят и ругаются друг с другом

ПУСК
80 м² 80 м²

Квартира, спроектированная Ольгой Манаковой для дочери заказчицы

AD
Жан Бодрийяр Жан Бодрийяр

Правила жизни Жана Бодрийяра

Esquire
Сильная слабая девочка Сильная слабая девочка

В 21 год Яна Гладких стала самой юной артисткой труппы МХТ имени Чехова

OK!
Как сменить профессию и не пожалеть об этом. 3 совета от хедхантера Алены Владимирской Как сменить профессию и не пожалеть об этом. 3 совета от хедхантера Алены Владимирской

Как найти новую специальность?

СНОБ
«Новые технологии стерли былые социальные перегородки» «Новые технологии стерли былые социальные перегородки»

Пятерка главных «гуманитарных» трендов, изменивших мир за 15 лет

РБК
Букет в цветочном горшке Букет в цветочном горшке

Красивые комнатные растения с недолгим сроком жизни

Наука и жизнь
Польза и вред хурмы для здоровья: советы врача Польза и вред хурмы для здоровья: советы врача

Чем именно хороша хурма и сколько плодов в день есть полезно?

РБК
Балтийские косы Балтийские косы

Рассказ о путешествии в Калининградскую область тревел-журналиста

Отдых в России
Гоминины из Колыбели человечества поели мяса более миллиона лет назад Гоминины из Колыбели человечества поели мяса более миллиона лет назад

Палеозоологи обнаружили кости животных со следами разделки

N+1
Новая сексуальная жизнь в новом году Новая сексуальная жизнь в новом году

Полезны советы про секс или вредны — рассказывает семейный психолог

Psychologies
Банкет для шефа Банкет для шефа

Проведение банкета — всегда непростой процесс

Bones
Когда вы на грани: что такое нервный срыв и как с ним справиться Когда вы на грани: что такое нервный срыв и как с ним справиться

Что такое нервный срыв, почему он возникает и как себя проявляет

Forbes
Новая вакцина против старения увеличила продолжительность жизни мышей. А с людьми так сработает? Новая вакцина против старения увеличила продолжительность жизни мышей. А с людьми так сработает?

Ученые на шаг приблизились к созданию вакцины от старения

Популярная механика
Семен Файбисович. Не такой, как надо Семен Файбисович. Не такой, как надо

Семен Файбисович принадлежит к современному искусству, но всегда сам по себе

Караван историй
«Эгоцентризм и нытье». Вышел долгожданный альбом рэпера Oxxxymirona «Эгоцентризм и нытье». Вышел долгожданный альбом рэпера Oxxxymirona

Альбом Oxxxymirona «Красота и уродство» — самый громкий камбэк уходящего года

СНОБ
Маленький стартап против гигантов: Kytch может починить ломающиеся машины для мороженого McDonald's — сети это не нужно Маленький стартап против гигантов: Kytch может починить ломающиеся машины для мороженого McDonald's — сети это не нужно

Почему McDonald’s запретили и почти уничтожили Kytch

VC.RU
Ученые нашли способ сделать ОКТ в разы эффективнее Ученые нашли способ сделать ОКТ в разы эффективнее

Оптическая когерентная томография может отображать структуры под кожей

Популярная механика
Как Ульяна Суздалкина ушла из рекламы и стала шеф-поваром с рекомендацией Michelin Как Ульяна Суздалкина ушла из рекламы и стала шеф-поваром с рекомендацией Michelin

Ульяна Суздалкина решила все бросить, чтобы стать шеф-поваром

Forbes
«Кто за главного? Свобода воли с точки зрения нейробиологии» «Кто за главного? Свобода воли с точки зрения нейробиологии»

Что нейронауке известно о взаимосвязи разума и мозга

N+1
Запретная тема. Умерла Джоан Дидион Запретная тема. Умерла Джоан Дидион

Биографическое эссе в память о Джоан Дидион

СНОБ
Новогоднее обострение: почему нам бывает тоскливо перед праздниками Новогоднее обострение: почему нам бывает тоскливо перед праздниками

В канун праздников обостряются все проблемы. Как обрести праздничное настроение?

Psychologies
Открыть в приложении