Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как разработчикам обойтись без Apple App Store и Google Play Как разработчикам обойтись без Apple App Store и Google Play

Как работают OEM-каналы и почему они становятся все популярнее у маркетологов?

Inc.
Что такое ураган? Сильнейшие бури за последние 5 лет Что такое ураган? Сильнейшие бури за последние 5 лет

Рассказываем про ураганы и самые мощные циклоны за последние 5 лет

Популярная механика
Почему не стоит покупать детям слишком много игрушек Почему не стоит покупать детям слишком много игрушек

Как правильно выбирать детям игрушки?

Популярная механика
«Стал отцом русского рэпа»: Оксимирон выпустил альбом «Красота и уродство» «Стал отцом русского рэпа»: Оксимирон выпустил альбом «Красота и уродство»

Оксимирон представил новый альбом. Критики уже оставил отзывы на композиции

Cosmopolitan
Какое место человек занимает в пищевой цепи Какое место человек занимает в пищевой цепи

Правильно ли считать, что человек находится на вершине пищевой цепи?

Популярная механика
Чаты, боты, персональные данные: как Райффайзенбанк общается с клиентами Чаты, боты, персональные данные: как Райффайзенбанк общается с клиентами

Райффайзенбанк: какую информацию собирают боты, как они общаются с клиентами?

Forbes
49 м² 49 м²

Квартира с панорамным видом на Серебряный Бор

AD
Глубоководный карьер: как добыть алмазы со дна океана Глубоководный карьер: как добыть алмазы со дна океана

«Погружение» горнодобывающих компаний на океанское дно

Популярная механика
«Люди так бесчеловечны, так людоедны, они такие животные» «Люди так бесчеловечны, так людоедны, они такие животные»

Игорь Северянин о том, как тяжело жить человеку с тонкой душевной организацией

Weekend
Какао-масло помогло напечатать растительное мясо на 3D-принтере Какао-масло помогло напечатать растительное мясо на 3D-принтере

Ученые напечатали аналог мяса из смеси на основе соевого белка и глютена

N+1
Дивный новый мир: как устроены NFT-площадки по продаже диджитал-искусства Дивный новый мир: как устроены NFT-площадки по продаже диджитал-искусства

Как продвигать цифровое искусство в эпоху высокой конкуренции?

СНОБ
Убегающие от быков люди указали на новый тип пешеходной динамики Убегающие от быков люди указали на новый тип пешеходной динамики

Коллаборация физиков разобралась с поведением толпы во время бычьих бегов

N+1
Шесть «что будет, если...?», на которые должен ответить стартап Шесть «что будет, если...?», на которые должен ответить стартап

Что будет, если проект не зайдет или кончатся деньги?

Inc.
Почему появляются прыщи на попе и что сделать, чтобы их там не было Почему появляются прыщи на попе и что сделать, чтобы их там не было

Прыщи на попе могут оказаться не самым приятным сюрпризом

Cosmopolitan
Сэндвич-увлажнение: что это за бьюти-техника и почему к ней стоит присмотреться Сэндвич-увлажнение: что это за бьюти-техника и почему к ней стоит присмотреться

Разбираем еще один модный бьюти-термин — сэндвич-увлажнение

Cosmopolitan
Почему не стоит менять полосу движения в пробке, чтобы быстрее добраться до места - ответ ученых Почему не стоит менять полосу движения в пробке, чтобы быстрее добраться до места - ответ ученых

Исследование, которое помогло объяснить, почему лучше не менять полосу в пробке

Популярная механика
Новый поворот: как создать карту желаний, которая работает Новый поворот: как создать карту желаний, которая работает

10 правил, которые надо соблюдать, когда составляешь свою карту желаний

Cosmopolitan
Как душе угодно Как душе угодно

Спасение утопающих в сезонной хандре больше не дело рук самих утопающих

Harper's Bazaar
А остальные им завидуют: топ-10 самых влиятельных российских звезд — 2021 А остальные им завидуют: топ-10 самых влиятельных российских звезд — 2021

Самые влиятельные звезды, которые особенно отличились своими успехами

Cosmopolitan
Аглая Тарасова Аглая Тарасова

Аглая Тарасова — о любимых городах, людях и эмоциях

Собака.ru
«Если водителям хватает глаз для управления машиной, автопилоту Tesla будет достаточно одних лишь камер» «Если водителям хватает глаз для управления машиной, автопилоту Tesla будет достаточно одних лишь камер»

В погоне за прогрессом Tesla отказалась от радаров в некоторых электрокарах

VC.RU
В путешествие с ребенком: как не испортить себе отдых В путешествие с ребенком: как не испортить себе отдых

Время отпусков и путешествий. Встает вопрос: как быть с ребенком?

Psychologies
Farus Beta: спорткар, который не знал конкурентов Farus Beta: спорткар, который не знал конкурентов

Farus Beta — необычный спорткар из Бразилии

Популярная механика
Мне под кожу запустить: что такое биоревитализация и для чего она нужна Мне под кожу запустить: что такое биоревитализация и для чего она нужна

Все о процедуре, которая помогает сделать кожу увлажненной и вернуть упругость

РБК
Труды и дни принцессы Уэльской: почему Диана до сих пор остается кумиром в Британии Труды и дни принцессы Уэльской: почему Диана до сих пор остается кумиром в Британии

Почему Диана до сих пор остается образцом инфлюенс-маркетинга в социальной сфере

Forbes
Измученная мать и папа-дебошир: быт и расходы семьи вундеркиндов Тепляковых Измученная мать и папа-дебошир: быт и расходы семьи вундеркиндов Тепляковых

Почему родителям так важно было отправить ребенка в институт раньше времени

Cosmopolitan
Как кешью помогает здоровью: 8 научных фактов Как кешью помогает здоровью: 8 научных фактов

Чем полезен и как может навредить кешью, сколько его можно есть?

РБК
Биоархеологи заподозрили в древних жителях России грибников Биоархеологи заподозрили в древних жителях России грибников

Они провели анализ стабильных изотопов населения IV–III тысячелетий до нашей эры

N+1
Российские археологи представили три античных клада пантикапейкских монет из Крыма Российские археологи представили три античных клада пантикапейкских монет из Крыма

В распоряжении ученых оказались 96 монет и серебряные женские серьги

N+1
Обрести семью после 30 лет в интернатах: Настина история с хэппи-эндом Обрести семью после 30 лет в интернатах: Настина история с хэппи-эндом

История Насти Головенкиной из Пермского края тянет на подвиг

Psychologies
Открыть в приложении