Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Разгадка обратной стороны Луны Разгадка обратной стороны Луны

Факты об обратной стороне Луны, вид которой долгое время был загадкой для ученых

Популярная механика
Польза и вред хурмы для здоровья: советы врача Польза и вред хурмы для здоровья: советы врача

Чем именно хороша хурма и сколько плодов в день есть полезно?

РБК
Мария Скобцова: как русская поэтесса Серебряного века стала святой Мария Скобцова: как русская поэтесса Серебряного века стала святой

Мария Скобцова (в миру Елизавета) прожила удивительную и очень сложную жизнь

Cosmopolitan
Химики получили первые сэндвичевые комплексы селена и теллура Химики получили первые сэндвичевые комплексы селена и теллура

Химики получили полусэндвичевые комплексы теллура и селена

N+1
Приманка для топа: как стартапу привлечь опытного менеджера Приманка для топа: как стартапу привлечь опытного менеджера

Как подобрать подходящего управленца и чем его можно заманить в стартап

Inc.
7 причин есть арахис чаще 7 причин есть арахис чаще

Арахис богат белками, жирами и полезными питательными веществами

РБК
Универсальный актёр Универсальный актёр

Николай Черкасов мог сыграть кого угодно

Дилетант
Киллиан Мерфи. Человек в футляре Киллиан Мерфи. Человек в футляре

Прозрачным глазам и точеным скулам этого ирландца посвящена сотня веб-сайтов

Караван историй
Как в Даурии радужный камень нашли Как в Даурии радужный камень нашли

Флюорит — завораживающий минерал, появившийся в природной «лаборатории»

Наука и жизнь
Безопасная среда: как она помогает исцелиться от психологической травмы Безопасная среда: как она помогает исцелиться от психологической травмы

Как обрести безопасность после травмирующих событий?

Psychologies
Шарик бриллиантовый, ваш! Шарик бриллиантовый, ваш!

Свяжите ёлочные шары, и других таких не будет ни у кого!

Наука и жизнь
Характеры животных: пауки-социалисты и робкие рыбы Характеры животных: пауки-социалисты и робкие рыбы

Если оно шевелится, скорее всего, у него есть характер

Популярная механика
По напиткам, которые мужчина заказывает в баре, можно узнать о нем всю подноготную! По напиткам, которые мужчина заказывает в баре, можно узнать о нем всю подноготную!

Скажи мне, что ты пьешь, и я скажу, кто ты!

Maxim
Машинный перевод Google Neural Machine Translation Машинный перевод Google Neural Machine Translation

О новой нейросети Google - Google Neural Machine Translation

Популярная механика
Почему «беспощадный художник» Серов отказался писать портреты царской семьи Почему «беспощадный художник» Серов отказался писать портреты царской семьи

Серова называли беспощадным художником, и появилось это прозвище не зря

Cosmopolitan
Корона была ужасная, принцесса была прекрасная Корона была ужасная, принцесса была прекрасная

«Спенсер» Пабло Ларраина: леди Ди тошнит от Виндзоров

Weekend
Как избавиться от мозолей и научиться правильно выбирать обувь Как избавиться от мозолей и научиться правильно выбирать обувь

Несколько советов, чтобы шагать было весело

Playboy
«Звук поставим на всю»: что делать, если рядом слушают музыку без наушников «Звук поставим на всю»: что делать, если рядом слушают музыку без наушников

Стоит ли что-то делать, если рядом слишком громко слушают музыку?

Psychologies
10 антиутопий и их экранизации 10 антиутопий и их экранизации

Выдающиеся антиутопии, которые можно не только почитать, но и посмотреть

СНОБ
Без словаря Без словаря

Французская актриса Забу Брейтман читает русскую душу на языке оригинала

Seasons of life
Это старит! 5 ошибок в макияже, придающих возраст — предупреждает визажист Это старит! 5 ошибок в макияже, придающих возраст — предупреждает визажист

О приемах макияжа, которые вместо того чтобы украсить, накинут тебе 5-10 лет

VOICE
Не заводится автомобиль: причины, их симптомы и решения Не заводится автомобиль: причины, их симптомы и решения

Что надо знать автомобилистам о причинах отказа запуска двигателя

РБК
Как холодная погода влияет на психику? 5 неожиданных эффектов Как холодная погода влияет на психику? 5 неожиданных эффектов

Как меняется наше настроение и состояние в холодное время года?

Psychologies
«Все подруги замужем, а я?»: как эта установка портит нам жизнь «Все подруги замужем, а я?»: как эта установка портит нам жизнь

Как не сравнивать себя с другими и почему не стоит гнаться за замужеством?

Psychologies
Почему пора перестать бояться разговоров об онкологии и начать следить за своим здоровьем Почему пора перестать бояться разговоров об онкологии и начать следить за своим здоровьем

Что такое онкология и как она появляется?

GQ
Извержение как конец света: 10 фактов о супервулканах Извержение как конец света: 10 фактов о супервулканах

Извержение супервулкана: мыслимый конец света, который нельзя предотвратить

Популярная механика
Русская музыка: подкаст о главных именах современной академической сцены. Интервью с композиторами Еленой Рыковой и Антоном Васильевым Русская музыка: подкаст о главных именах современной академической сцены. Интервью с композиторами Еленой Рыковой и Антоном Васильевым

Композиторы о творчестве, культурном коде и технологиях

СНОБ
Как сделать красивые ножницы своими руками: видео Как сделать красивые ножницы своими руками: видео

Как из ненужного куска металла можно сделать увесистые ножницы своими руками

Популярная механика
Экспедиция за кислой жизнью. Какие сюрпризы ждут человечество на Венере Экспедиция за кислой жизнью. Какие сюрпризы ждут человечество на Венере

Объявлен старт программы Venus Life Finder («Поиск венерианской жизни»)

СНОБ
Чисто английский юмор. Как шутят настоящие джентльмены? Чисто английский юмор. Как шутят настоящие джентльмены?

Можно ли научиться шутить как истинный эсквайр «пришельцам» из других стран?

Популярная механика
Открыть в приложении