Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как купить автомобиль на торгах. Инструкция, риски и преимущества Как купить автомобиль на торгах. Инструкция, риски и преимущества

Как купить автомобиль на торгах, не потратив все нервы и силы?

РБК
Как продавать «спящим клиентам» Как продавать «спящим клиентам»

Почему клиенты «засыпают» и как с ними выстроить эффективную коммуникацию

Inc.
Токены превращаются в люкс: 10 самых дорогих NFT-произведений на аукционах 2021 года Токены превращаются в люкс: 10 самых дорогих NFT-произведений на аукционах 2021 года

Список самых дорогих аукционных продаж NFT за год

Forbes
3:0 в вашу пользу 3:0 в вашу пользу

Славный путь от смутных 90-х до наших по-спортивному подтянутых дней

Men’s Health
«Эгоцентризм и нытье». Вышел долгожданный альбом рэпера Oxxxymirona «Эгоцентризм и нытье». Вышел долгожданный альбом рэпера Oxxxymirona

Альбом Oxxxymirona «Красота и уродство» — самый громкий камбэк уходящего года

СНОБ
Актриса Янина Студилина: «Чудеса приходят к тем, кто в них верит» Актриса Янина Студилина: «Чудеса приходят к тем, кто в них верит»

Янина Студилина о съемках в сериале «Сестры» и секретах красоты

Cosmopolitan
5 гормонов, от которых мы полнеем 5 гормонов, от которых мы полнеем

Как гормоны влияют на вес?

Лиза
Через побои к славе: как Полину Осетинскую отец пытками превратил в вундеркинда Через побои к славе: как Полину Осетинскую отец пытками превратил в вундеркинда

Как в 80-х годах СССР охватила вундер-истерия: история Полины Осетинской

Cosmopolitan
Масло черного тмина: польза, противопоказания, научные данные Масло черного тмина: польза, противопоказания, научные данные

Полезные свойства тмина

РБК
Антония Сьюзен Байетт: «Дева в саду» Антония Сьюзен Байетт: «Дева в саду»

Отрывок из романа, ставшего первой частью тетралогии «Квартета Фредерики»

СНОБ
Юлия Ауг: «Свое тело я приняла значительно раньше, нежели лицо без косметики» Юлия Ауг: «Свое тело я приняла значительно раньше, нежели лицо без косметики»

Юлия Ауг рассказала об атмосфере счастья и отношении к обнаженному телу

Grazia
«Настоящий Индиана Джонс из Индианы»: американец за полвека собрал у себя дома целый «музей» древних артефактов. ФБР нашло у него останки 500 человек «Настоящий Индиана Джонс из Индианы»: американец за полвека собрал у себя дома целый «музей» древних артефактов. ФБР нашло у него останки 500 человек

Дон Миллер — коллекционер древностей из Индианы, которого искал отдел ФБР

Esquire
Долой лишний вес: 10 лучших приложений для похудения Долой лишний вес: 10 лучших приложений для похудения

Если борешься с ненавистными кило, лови нашу подборку виртуальных помощников

Playboy
Насколько опасны синтетические пищевые красители для вашего здоровья? Насколько опасны синтетические пищевые красители для вашего здоровья?

Как снизить риск развития колоректального рака.

Популярная механика
Как армия влияет на шанс выжить в зомби апокалипсисе: интересное исследование и советы Как армия влияет на шанс выжить в зомби апокалипсисе: интересное исследование и советы

В случае массового восстания зомби гражданское население будут защищать военные

Популярная механика
Астрономы построили карту релятивистских джетов радиогалактики Центавр А Астрономы построили карту релятивистских джетов радиогалактики Центавр А

Изображение релятивистских джетов активной галактики Центавр А в радиодиапазоне

N+1
«Толпа требовала крови!»: Илью Варламова после массовой драки задержали в Африке «Толпа требовала крови!»: Илью Варламова после массовой драки задержали в Африке

Илья Варламов попал в неприятную ситуацию в Либерии

Cosmopolitan
Измученная мать и папа-дебошир: быт и расходы семьи вундеркиндов Тепляковых Измученная мать и папа-дебошир: быт и расходы семьи вундеркиндов Тепляковых

Почему родителям так важно было отправить ребенка в институт раньше времени

Cosmopolitan
Регион как преимущество Регион как преимущество

Вы приехали в гости? Извольте пробовать локальные блюда и оценить нашу кухню

Bones
Махершала Али — Forbes: «Для создателей фильмов кинотеатр — это убежище» Махершала Али — Forbes: «Для создателей фильмов кинотеатр — это убежище»

Махершала Али в фильме «Лебединая песня»

Forbes
Киборг-герой: кто такие пилоты-испытатели протезов и чем они занимаются Киборг-герой: кто такие пилоты-испытатели протезов и чем они занимаются

Илья Морковский — пилот-испытатель, который постоянно тестирует протезы руки

Forbes
Аглая Тарасова Аглая Тарасова

Аглая Тарасова — о любимых городах, людях и эмоциях

Собака.ru
Artik:«Молодежь выбирает рэп» Artik:«Молодежь выбирает рэп»

Артем Умрихин: кого он ищет на смену солистке и почему надо чаще делать релизы

ЖАРА Magazine
Механические колебания иона увидели в оптический микроскоп Механические колебания иона увидели в оптический микроскоп

Физики смогли увидеть распределение иона иттербия в пространстве

N+1
Саманта против: как Ким Кэтролл пошла наперекор проекту, сделавшему ее звездой Саманта против: как Ким Кэтролл пошла наперекор проекту, сделавшему ее звездой

Почему Ким Кэтролл, сыгравшая Саманту, так ненавидит «Секс в большом городе»

VOICE
Военные машины прошлого: наследие пращи и лука Военные машины прошлого: наследие пращи и лука

Как лук и праща повлияли на развитие военных машин?

Популярная механика
Как разработчикам обойтись без Apple App Store и Google Play Как разработчикам обойтись без Apple App Store и Google Play

Как работают OEM-каналы и почему они становятся все популярнее у маркетологов?

Inc.
Юркие люди Юркие люди

Своих героев Анна Лужбина называет юркими людьми

Esquire
Как и куда начать инвестировать с нуля: раскладываем все в твоей голове по полочкам Как и куда начать инвестировать с нуля: раскладываем все в твоей голове по полочкам

Советы для начинающих инвесторов

Playboy
Доминирование через еду, или кто такие фидеры и зачем они откармливают своих женщин до необъятных размеров Доминирование через еду, или кто такие фидеры и зачем они откармливают своих женщин до необъятных размеров

Рассказываем о пугающем фетише «фидеризм»

Playboy
Открыть в приложении