Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужна ли России общественная дискуссия о Сталине Нужна ли России общественная дискуссия о Сталине

Почему образ «вождя всех времен и народов» сливается с образом Деда Мороза

СНОБ
«Курьеру» Карена Шахназарова — 35 лет. Рассказываем историю одного из главных фильмов перестройки «Курьеру» Карена Шахназарова — 35 лет. Рассказываем историю одного из главных фильмов перестройки

Почему и сегодня «Курьер» смотрится свежо и злободневно?

Esquire
Что такое акклиматизация, в чем она проявляется и как ее облегчить Что такое акклиматизация, в чем она проявляется и как ее облегчить

Как справиться с акклиматизацией в различных условиях и можно ли избежать ее

РБК
Одна вокруг света: оползень на дороге и закрытая граница Эквадора Одна вокруг света: оползень на дороге и закрытая граница Эквадора

151-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Виктория Пархоменко: «В людях я ценю простоту» Виктория Пархоменко: «В людях я ценю простоту»

Шеф-кондитер Виктория Пархоменко — о профессии и источниках вдохновения

Bones
Под Грацским замком обнаружили погребение эпохи бронзы и средневековое поселение Под Грацским замком обнаружили погребение эпохи бронзы и средневековое поселение

Австрийские археологи провели раскопки на территории Грацского замка

N+1
60 м² 60 м²

Интерьер с ретроатмосферой, созданный Марией Пилипенко

AD
Для чего нужен витамин С и как его принимать Для чего нужен витамин С и как его принимать

Витамин C — ключевой элемент множества процессов, происходящих в организме

РБК
Два совета, которые предприниматели дали бы себе на старте Два совета, которые предприниматели дали бы себе на старте

Советы от сооснователей XYZ School для начинающих предпринимателей

Inc.
Опять начинается Опять начинается

Новая и лучшая жизнь не с понедельника и даже не с 1 января

Cosmopolitan
Путин поддержал идею обсудить закон об иноагентах с журналистами Путин поддержал идею обсудить закон об иноагентах с журналистами

Путин согласился, что закон об иноагентах нужно обсудить с профессионалами

Forbes
«Чувству меры нас научат Маша и три медведя»: беседа с киберпсихологом «Чувству меры нас научат Маша и три медведя»: беседа с киберпсихологом

Успеваем ли мы адаптироваться к цифровой среде? Меняемся или остаемся собой?

Psychologies
Чем больше секса - тем ты успешнее: психолог объясняет, как активная половая жизнь влияет на твой доход Чем больше секса - тем ты успешнее: психолог объясняет, как активная половая жизнь влияет на твой доход

Внешность и сексуальность связана с успешностью на работе

Playboy
Кричащий кэмп: каким получился второй сезон «Эмили в Париже» Кричащий кэмп: каким получился второй сезон «Эмили в Париже»

Продолжение сериала о жизни легкомысленной сммщицы в Париже

РБК
От Налы из Лос-Анджелеса до Степана из Харькова: 5 котов, которые стали звездами Instagram От Налы из Лос-Анджелеса до Степана из Харькова: 5 котов, которые стали звездами Instagram

Когда надоели привычные лица: кошки, которые стали звездами

Playboy
Курсы дизайнеров Курсы дизайнеров

Как Александр Аврамов и Андрей Анищенко строят «единорога» в Латинской Америке

Forbes
Что такое дефицит калорий и как его рассчитать, чтобы похудеть? Что такое дефицит калорий и как его рассчитать, чтобы похудеть?

Одного решения сбросить вес для похудения недостаточно

Cosmopolitan
Машина времени: 8 самых старинных отелей мира, в которых ты можешь остановиться прямо сейчас Машина времени: 8 самых старинных отелей мира, в которых ты можешь остановиться прямо сейчас

Старинные отели мира от Кейптауна до Львова

Playboy
Что такое «эффект прожектора» и как перестать все преувеличивать Что такое «эффект прожектора» и как перестать все преувеличивать

«Эффект прожектора». Разбираемся, что это такое и как с этим жить

РБК
50000 лет назад в Африке возникла сеть обмена бусинами из страусиных яиц 50000 лет назад в Африке возникла сеть обмена бусинами из страусиных яиц

Контакты между жителями Восточной и Южной Африки оборвались 19 тысяч лет назад

N+1
«В бизнесе надо просто не умереть по пути, есть вот такая задачка» «В бизнесе надо просто не умереть по пути, есть вот такая задачка»

Основатель «Партии еды» — зачем продал растущую компанию?

VC.RU
Священник-айтишник проповедует в Instagram и открывает ИТ-класс в Гродно Священник-айтишник проповедует в Instagram и открывает ИТ-класс в Гродно

Что будет, если человек уйдёт из бизнеса в церковь и сохранит желание создавать?

VC.RU
Россия из подполья Россия из подполья

Как Юрий Мамлеев исследовал потусторонние бездны и нашел утопию

Weekend
«Математическое образование заставляет людей думать по-другому» «Математическое образование заставляет людей думать по-другому»

Математик Федор Богомолов — про ученых и о роли математики в других науках

Наука
Лифтинг в домашних условиях: маски, аппараты и другие методы Лифтинг в домашних условиях: маски, аппараты и другие методы

Несколько способов провести лифтинг лица в домашних условиях

Cosmopolitan
Детский транспорт от «взрослых» автомобильных марок Детский транспорт от «взрослых» автомобильных марок

Детский транспорт по цене настоящего автомобиля

Playboy
Гнев и стыд: как героиня сериала «Я ненавижу Сьюзи» переживает крах семьи и карьеры Гнев и стыд: как героиня сериала «Я ненавижу Сьюзи» переживает крах семьи и карьеры

Чему стоит поучиться у актрисы, чьи интимные фото были слиты в сеть

Forbes
Теплое оружие: лютейшие клинки, которые не запрещены законом Теплое оружие: лютейшие клинки, которые не запрещены законом

Почему одни клинки считаются холодным оружием, а другие нет?

Maxim
Круче «Секса в большом городе»: 10 действительно актуальных сериалов про женщин Круче «Секса в большом городе»: 10 действительно актуальных сериалов про женщин

Интересные и современные сериалы про женщин

Cosmopolitan
Что такое йога: советы для начинающих Что такое йога: советы для начинающих

Развенчиваем мифы о йоге и рассказываем, с чего начать

РБК
Открыть в приложении