Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужна ли России общественная дискуссия о Сталине Нужна ли России общественная дискуссия о Сталине

Почему образ «вождя всех времен и народов» сливается с образом Деда Мороза

СНОБ
Почему нельзя надевать чужие кольца и еще 5 нелепых суеверий, которые сбываются Почему нельзя надевать чужие кольца и еще 5 нелепых суеверий, которые сбываются

Откуда пошли самые популярные суеверия и почему они сбываются?

Cosmopolitan
Планетологи объяснили полигональность «сердца» на Плутоне Планетологи объяснили полигональность «сердца» на Плутоне

Полигональность «сердца» на Плутоне создали процессы тепловой конвекции

N+1
Действительно ли мужчина с ожирением прожил 382 дня без еды? Действительно ли мужчина с ожирением прожил 382 дня без еды?

В 1965 году «страдающий ожирением» мужчина прожил без еды в течение года

Популярная механика
Археологи нашли в Казахстане погребение девушки в царском облачении Археологи нашли в Казахстане погребение девушки в царском облачении

Девушка в царском облачении принадлежала к кочевой элите V–VI веков нашей эры

N+1
Активная позиция Активная позиция

Секс по правилам – твоим, конечно

Cosmopolitan
Биоархеологи заподозрили в древних жителях России грибников Биоархеологи заподозрили в древних жителях России грибников

Они провели анализ стабильных изотопов населения IV–III тысячелетий до нашей эры

N+1
Главный специалист по продуктивности Google назвала 4 стратегии эффективного управления временем Главный специалист по продуктивности Google назвала 4 стратегии эффективного управления временем

Четыре совета, которые помогут вам усилить свой тайм-менеджмент

Inc.
Испанские хищные динозавры оказались быстрыми бегунами Испанские хищные динозавры оказались быстрыми бегунами

Ископаемые следы теропод показали, что эти динозавры быстро бегали

N+1
Газуй Рейсинг. Toyota LC 300 с дизелем Газуй Рейсинг. Toyota LC 300 с дизелем

Версия GR Sport превосходна с любым мотором

4x4 Club
«Пошлая Молли», BTS и Моргенштерн: Spotify назвал самых популярных музыкантов года в разных жанрах «Пошлая Молли», BTS и Моргенштерн: Spotify назвал самых популярных музыкантов года в разных жанрах

Самые популярные у россиян исполнители в Spotify

Esquire
Спасти Джорджа Флойда, или 5 компьютерных игр со странным сюжетом Спасти Джорджа Флойда, или 5 компьютерных игр со странным сюжетом

Кринжовые игры, от которых невозможно оторваться

Playboy
Вопрос имиджа: к чему приведет игнорирование связанных с распространением ИИ рисков Вопрос имиджа: к чему приведет игнорирование связанных с распространением ИИ рисков

Как решить проблему доверия к ИИ?

Forbes
Что такое гиалуроновая кислота и как она работает Что такое гиалуроновая кислота и как она работает

Гиалуроновая кислота: как с ее помощью сделать кожу красивее и здоровее?

РБК
Итоги года: лучшая научная фантастика 2021 Итоги года: лучшая научная фантастика 2021

Интересные фантастические книги, которые нам принес 2021 год

Популярная механика
Запретная тема. Умерла Джоан Дидион Запретная тема. Умерла Джоан Дидион

Биографическое эссе в память о Джоан Дидион

СНОБ
Технология быстрой зарядки: просто о важном Технология быстрой зарядки: просто о важном

Разбираемся в технологиях быстрой зарядки и их ключевых особенностях

CHIP
Женщины толстеют зимой, а мужчины нет: вот 3 причины, по которым это происходит Женщины толстеют зимой, а мужчины нет: вот 3 причины, по которым это происходит

Почему женщины толстеют зимой чаще, чем мужчины

Cosmopolitan
Не для инвесторов, а для рабочего класса: почему в Китае растёт рынок дешёвых мини-электрокаров Не для инвесторов, а для рабочего класса: почему в Китае растёт рынок дешёвых мини-электрокаров

Пенсионеры, мигранты и малообеспеченные выбирают миниатюрный электротранспорт

VC.RU
«Новые технологии стерли былые социальные перегородки» «Новые технологии стерли былые социальные перегородки»

Пятерка главных «гуманитарных» трендов, изменивших мир за 15 лет

РБК
Из модели в актрисы, из чайлдфри в матери: история жизни Кэмерон Диаз Из модели в актрисы, из чайлдфри в матери: история жизни Кэмерон Диаз

В 2022 году Кэмерон Диаз исполнится 50 лет

Cosmopolitan
Кругосветное путешествие Алексея Камерзанова. Чад Кругосветное путешествие Алексея Камерзанова. Чад

Пройдя границу на стыке Камеруна и ЦАР, мы наконец-то попали в Чад

4x4 Club
Шарик бриллиантовый, ваш! Шарик бриллиантовый, ваш!

Свяжите ёлочные шары, и других таких не будет ни у кого!

Наука и жизнь
В болезни и здравии: как с годами менялась внешность княгини Монако Шарлен В болезни и здравии: как с годами менялась внешность княгини Монако Шарлен

Как княгиня Монако Шарлен менялась последние 13 лет

Cosmopolitan
На чем реально ездят звезды Голливуда? На чем реально ездят звезды Голливуда?

Люди, имеющие миллионы долларов, иногда покупают неожиданные автомобили

Maxim
C-25: как создавалась первая советская система ПРО C-25: как создавалась первая советская система ПРО

С-25 – одна из первых в мире систем объектовой противовоздушной обороны

Популярная механика
Хватит мерзнуть Хватит мерзнуть

9 привычек, из-за которых тебе холоднее, чем должно быть

Лиза
Холланд наступает: почему Том Холланд — новый всеобщий любимец Холланд наступает: почему Том Холланд — новый всеобщий любимец

Чем хорош Том Холланд и почему ему светит большое голливудское будущее

Esquire
Не только «Великолепный век»: 10 турецких сериалов, которые ты еще не видела Не только «Великолепный век»: 10 турецких сериалов, которые ты еще не видела

Какие турецкие сериалы стоит посмотреть

Cosmopolitan
Тусовки будущего: все, что нужно знать о секс-вечеринках в России Тусовки будущего: все, что нужно знать о секс-вечеринках в России

В последние пару лет в крупных городах России наблюдается бум секс-вечеринок

Playboy
Открыть в приложении