Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На зарядку становись: как развиваются инфраструктурные технологии для электромобилей На зарядку становись: как развиваются инфраструктурные технологии для электромобилей

Как инфраструктура для электромобилей способна изменить рынок

Forbes
Kia Rio: вазозаменитель Kia Rio: вазозаменитель

Запас прочности Kia Rio

АвтоМир
«Осторожно, затягивает»: как ледоколы ломают лед (на самом деле) «Осторожно, затягивает»: как ледоколы ломают лед (на самом деле)

Может ли мощное судно проиграть битву со льдом?

ТехИнсайдер
Товарищ Ку Ли Бин: 10 невероятных изобретений китайских Левшей Товарищ Ку Ли Бин: 10 невероятных изобретений китайских Левшей

Самые поразительные гаражные изобретения, которые явила миру КНР

Maxim
Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья

Страдающие ежи и Средневековье: что ели люди в эпоху рыцарей?

ТехИнсайдер
Как заставить куклу умереть Как заставить куклу умереть

Создатель пепелаца Теодор Тэжик объявил самоимпичмент

Русский репортер
Курение убивают. Табачные компании раскритиковали «обезличивание» сигарет Курение убивают. Табачные компании раскритиковали «обезличивание» сигарет

Курение убивают. Табачные компании раскритиковали «обезличивание» сигарет

Forbes
Новинки с презентации Apple 2018: MacBook Air, Mac mini, iPad Pro Новинки с презентации Apple 2018: MacBook Air, Mac mini, iPad Pro

Apple решила порадовать нас очередными новинками

CHIP
Не игрушка: Forbes составил рейтинг главных игроков киберспорта Не игрушка: Forbes составил рейтинг главных игроков киберспорта

Умы многих инвесторов и участников рынка начинает занимать новая индустрия

Forbes
Infiniti QX80: добавки не надо Infiniti QX80: добавки не надо

Самый большой внедорожник Infiniti

Maxim
Автоматы с трусиками и бары вибраторов: этот странный секс по-японски Автоматы с трусиками и бары вибраторов: этот странный секс по-японски

Япония - страна контрастов, в том числе в отношении сексуальных практик

Cosmopolitan
Жестокий урок от «Кэшбери». Как распознать финансовую пирамиду Жестокий урок от «Кэшбери». Как распознать финансовую пирамиду

Скандальное разоблачение компании «Кэшбери»

Forbes
Война культур: как неформальные правила компании могут погубить бизнес Война культур: как неформальные правила компании могут погубить бизнес

Противоречия в корпоративной культуре снижают рабочие усилия

Forbes
Обзор смартфона Apple iPhone Xr 128 GB: новая звезда среди айфонов Обзор смартфона Apple iPhone Xr 128 GB: новая звезда среди айфонов

iPhone Xr выгодно отличается от других новинок Apple

CHIP
Теплое местечко Теплое местечко

Что люди с героическим прошлым делают в Тель-Авиве и где их там искать

Tatler
Не Google, а Backrub: 17 известных проектов, которые могли называться иначе Не Google, а Backrub: 17 известных проектов, которые могли называться иначе

Только представь себе, что мы бы сейчас не гуглили, а бэкрабили

Playboy
Как организовать банкет без накладок Как организовать банкет без накладок

Прочитав эти советы, ты захочешь развестись, чтобы жениться заново

Maxim
Три хита сезонного меню «Тануки»: поке, роллы и гастро-фьюжн Три хита сезонного меню «Тануки»: поке, роллы и гастро-фьюжн

Японская кухня – одна из самых интересных в мире

Cosmopolitan
Нулевой счет. Когда оживет российский фондовый рынок Нулевой счет. Когда оживет российский фондовый рынок

Индивидуальные инвестиционные счета пока так и не выполнили своей задачи

Forbes
Михаил Шемякин Михаил Шемякин

Правила жизни художника Михаила Шемякина

Esquire
Как выбрать хороший холодильник, задав 5 вопросов своей жене Как выбрать хороший холодильник, задав 5 вопросов своей жене

Хотите купить хороший холодильник? Проконсультируйтесь с женщиной.

CHIP
5 правил, которые помогут сохранить место на жестком диске 5 правил, которые помогут сохранить место на жестком диске

Несколько актуальных советов, как изменить свое пользовательское поведение

CHIP
Как остаться здоровым, работая в офисе: 11 главных правил для планктона Как остаться здоровым, работая в офисе: 11 главных правил для планктона

Еще не поздно привести себя в порядок

Playboy
Купили собаку. А что дальше? Купили собаку. А что дальше?

Как наладить правильную коммуникацию с собакой всех членов семьи

Домашний Очаг
Так ли безопасны лоукостеры? 9 важных фактов о бюджетных авиалиниях Так ли безопасны лоукостеры? 9 важных фактов о бюджетных авиалиниях

Разбираемся, на какие особенности лоукостеров стоит обратить внимание до полета

Playboy
Семь иностранных музыкантов, которые прорвались в СССР Семь иностранных музыкантов, которые прорвались в СССР

Артисты, прорвавшиеся за железный занавес

Maxim
Русский травник: как заработать 100 млн рублей на промышленной конопле Русский травник: как заработать 100 млн рублей на промышленной конопле

Предприниматель, сколотивший состояние на промышленной конопле

Forbes
«Менять топор на шкуру»: Петр Авен о борьбе с долларом и экономике России «Менять топор на шкуру»: Петр Авен о борьбе с долларом и экономике России

Петр Авен — об ошибках советской экономики, которые рискует повторить Россия

Forbes
25 вещей, которые стыдно не уметь 25 вещей, которые стыдно не уметь

Жизненные навыки, которыми ты обязан обладать

Maxim
Набиуллина, Авен и Греф поспорили о конкуренции среди банков Набиуллина, Авен и Греф поспорили о конкуренции среди банков

Набиуллина, Авен и Греф поспорили о конкуренции среди банков

Forbes
Открыть в приложении