Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Фишинговые атаки: как противостоять интернет-мошенничеству Фишинговые атаки: как противостоять интернет-мошенничеству

Как защитить себя от злоумышленников в интернете?

Популярная механика
Лига киберчемпионов Лига киберчемпионов

Как россияне впервые выиграли самый престижный турнир Dota 2 The International

Forbes
Мембрана с сосудообразными порами оказалась эффективным добытчиком урана из воды Мембрана с сосудообразными порами оказалась эффективным добытчиком урана из воды

Китайские химики разработали мембрану для экстракции урана из воды

N+1
Да их тут тысячи! Да их тут тысячи!

Ксения Букша о любви к мемам и анекдотам

Weekend
Танцы с огнем: секреты работы фаерщиков Танцы с огнем: секреты работы фаерщиков

Неотъемлемый элемент фаершоу — это пойстеры, люди, которые «крутят» пои

Популярная механика
Том Круз, Дуэйн Джонсон и другие звезды, которые делали слишком щедрые подарки Том Круз, Дуэйн Джонсон и другие звезды, которые делали слишком щедрые подарки

Голливудские звезды порой не прочь порадовать коллег и поклонников!

Playboy
Cтартап и суперстар Cтартап и суперстар

Мате Римац построил компанию, которая произвела электрический гиперкар

Robb Report
Растяжка: 12 упражнений и советы тренера Растяжка: 12 упражнений и советы тренера

Растяжка: какие упражнения делать проще и полезнее всего

РБК
Бескомпромиссные: разговор Евгения Сангаджиева и Ксении Андриановой — о наставниках, превосходстве индивидуальности над командой, неумении подчиняться Бескомпромиссные: разговор Евгения Сангаджиева и Ксении Андриановой — о наставниках, превосходстве индивидуальности над командой, неумении подчиняться

Евгений Сангаджиев и Ксения Андрианова — крепкий семейный сплав режиссеров

Esquire
Праздничный «сезон покупок» может повлечь катастрофические затраты. Страшные, но не для вашего кошелька Праздничный «сезон покупок» может повлечь катастрофические затраты. Страшные, но не для вашего кошелька

Связь между изменением климата и продуктами, которые мы покупаем

Популярная механика
Вставили сенсор от смартфона и добавили нейросети: зачем стартап Opal попытался заново изобрести веб-камеру Вставили сенсор от смартфона и добавили нейросети: зачем стартап Opal попытался заново изобрести веб-камеру

Получилось ли у стартап Opal создать «лучшее решение для удалённой работы»

VC.RU
Ученые рассказали, почему содержательные разговоры с коллегами лучше светских бесед Ученые рассказали, почему содержательные разговоры с коллегами лучше светских бесед

Почему люди избегают содержательных бесед вне своего привычного круга общения

Inc.
Инвестиции в женщин: что такое «гендерные» облигации и можно ли на них заработать Инвестиции в женщин: что такое «гендерные» облигации и можно ли на них заработать

Могут ли гендерные облигации принести прибыль и повлиять на положение женщин

Forbes
Долгие разговоры с незнакомцами могут иметь удивительные последствия Долгие разговоры с незнакомцами могут иметь удивительные последствия

Ожидания людей относительно их взаимодействия с незнакомцами ошибочны

Популярная механика
Могут ли привлечь физлицо за использование пиратского ПО, и что в этом случае грозит Могут ли привлечь физлицо за использование пиратского ПО, и что в этом случае грозит

Могут ли вас привлечь как пиратов?

CHIP
Когда лучше стричь волосы? Попробуй учитывать фазы Луны – вот как это работает Когда лучше стричь волосы? Попробуй учитывать фазы Луны – вот как это работает

Попробуй ухаживать за кожей и волосами согласно лунным фазам

Cosmopolitan
Лифтинг в домашних условиях: маски, аппараты и другие методы Лифтинг в домашних условиях: маски, аппараты и другие методы

Несколько способов провести лифтинг лица в домашних условиях

Cosmopolitan
Можно ли вернуть гаджет в магазин, если он просто не понравился? Можно ли вернуть гаджет в магазин, если он просто не понравился?

Если гаджет не подошел или не понравился его можно вернуть продавцу

CHIP
«Сначала лучше, потом дешевле. Сначала доходы, потом расходы» «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

Интервью руководителя ВТБ Private Banking Дмитрия Брейтенбихера

Forbes
Леонид Роберман. Авантюрист Леонид Роберман. Авантюрист

Отношения продюсера и актеров — самое ценное и дорогое, что может быть

Коллекция. Караван историй
Манифест российского виноделия: лидеры рейтинга лучших вин России Манифест российского виноделия: лидеры рейтинга лучших вин России

Forbes составил рейтинг российских вин. Топ-10 рейтинга — в нашей статье

Forbes
В каких продуктах содержится магний В каких продуктах содержится магний

Почему благодаря магнию сердце ритмично бьется, а организм противостоит болезням

РБК
Милые нахлебники: тренд с животными из TikTok, которые снизят твою тревожность (видео) Милые нахлебники: тренд с животными из TikTok, которые снизят твою тревожность (видео)

Ученые сказали, что мимимишные ролики с животными снижают уровень стресса

Playboy
Ракетный комплекс «Искандер»: оперативная стратегия Ракетный комплекс «Искандер»: оперативная стратегия

Чем сегодня «грозит шведу» Российская Федерация

Популярная механика
5 гормонов, от которых мы полнеем 5 гормонов, от которых мы полнеем

Как гормоны влияют на вес?

Лиза
Грустный балбес: 6 серьезных ролей Юрия Никулина Грустный балбес: 6 серьезных ролей Юрия Никулина

Картины, в которых Юлий Никулин отошел от образа весельчака и Балбеса

Esquire
7 причин, почему трескаются губы – и как их быстро залечить 7 причин, почему трескаются губы – и как их быстро залечить

Потрескавшиеся губы – самая, кажется, распространенная «зимняя» проблема

Cosmopolitan
Слова и дни Слова и дни

Михаил Идов о том, как он решает кроссворды

Weekend
Открытие сезона Открытие сезона

Зарина Догузова, руководитель Ростуризма, посетила с рабочим визитом Кузбасс

Отдых в России
Профессия репортерка: как американская журналистка Нелли Блай покупала младенца Профессия репортерка: как американская журналистка Нелли Блай покупала младенца

Отрывок из книги «Профессия: репортерка» — сборника статей Элизабет Джейн Кокран

Forbes
Открыть в приложении