Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как стартап по внедрению ИИ в МРТ-диагностику для богатых биохакеров привлек $21 млн Как стартап по внедрению ИИ в МРТ-диагностику для богатых биохакеров привлек $21 млн

Как стартап Ezra пытается донести важность МРТ и есть ли в этом смысл

Forbes
Ночной дозор: как делать эффектные фото ночью? Ночной дозор: как делать эффектные фото ночью?

Рассказываем, как правильно снимать ночью – коротко и по сути

CHIP
Как обрезать изображение в Фотошопе: инструменты на выбор Как обрезать изображение в Фотошопе: инструменты на выбор

Инструкция, как скадрировать объект на изображении в Photoshop

CHIP
— К доске! — О, да! 11 самых горячих учительниц в кино — К доске! — О, да! 11 самых горячих учительниц в кино

Самые яркие и сексуальные учительницы из фильмов и сериалов

Playboy
«Она нимфоманка»: как стереотипы мешают женщинам проявлять инициативу в сексе «Она нимфоманка»: как стереотипы мешают женщинам проявлять инициативу в сексе

Почему быть женщиной с высоким либидо — это нормально

Forbes
Бутерброд Мерфи. Введение санкций стало фетишем американской элиты Бутерброд Мерфи. Введение санкций стало фетишем американской элиты

О возможном запрете деятельности российских банков в США

Forbes
Беда от НДС. Экономисты предсказали повышение ключевой ставки ЦБ до 8% Беда от НДС. Экономисты предсказали повышение ключевой ставки ЦБ до 8%

Специалисты Matrix Capital прогнозируют рост ставки ЦБ на 50 базисных пунктов

Forbes
7 приложений, которые откроют для вас дополненную реальность 7 приложений, которые откроют для вас дополненную реальность

Семь интересных игр на основе AR, которые помогут с пользой скоротать время

CHIP
Бухты, горы и острова Бухты, горы и острова

Приморский край – кладезь красивых мест и умопомрачительных видов

АвтоМир
5 обычных предметов, которые неожиданно стали слишком умными 5 обычных предметов, которые неожиданно стали слишком умными

Как неожиданно поумнели знакомые каждому с детства простые предметы

CHIP
У Солнца под боком У Солнца под боком

О том, какие загадки должен решить меркурианский зонд

Популярная механика
Крепкие узы Крепкие узы

Квартира, оформленная Анной Зиньковской, в Москве

AD
Кошмары мошкары Кошмары мошкары

Как увеличение численности насекомых скажется на нас с вами

Огонёк
У компьютеров есть глаза: как выбрать веб-камеру? У компьютеров есть глаза: как выбрать веб-камеру?

У компьютеров есть глаза: как выбрать веб-камеру?

CHIP
На край земли На край земли

Robb Report отправляется в потрясающий белый мир Антарктиды

Robb Report
Диплом отличника. Как проверить эффективность онлайн-курса Диплом отличника. Как проверить эффективность онлайн-курса

Чем меньше эксперт разбирается в предмете, тем больше у него хороших отзывов

Forbes
ЕГЭ на пять. Как построить онлайн-платформу для занятий c репетитором ЕГЭ на пять. Как построить онлайн-платформу для занятий c репетитором

О важности создания удобного интерфейса для образовательного сервиса

Forbes
Apple представила новый MacBook Air, Mac Mini и iPad Pro Apple представила новый MacBook Air, Mac Mini и iPad Pro

Осенний урожай гаджетов Apple официально собран.

Maxim
Нити судьбы Нити судьбы

Как Брунелло Кучинелли удалось сделать кашемир модным

Vogue
5 правил, которые помогут сохранить место на жестком диске 5 правил, которые помогут сохранить место на жестком диске

Несколько актуальных советов, как изменить свое пользовательское поведение

CHIP
Воображаемые друзья: 8 самых страшных историй, которые рассказали дети Воображаемые друзья: 8 самых страшных историй, которые рассказали дети

Каждая из этих историй могла бы быть отличным сюжетом для фильма ужасов

Cosmopolitan
Как превратить роутер в сетевое хранилище Как превратить роутер в сетевое хранилище

Как настроить свое сетевое хранилище

CHIP
Ипотечный бум заканчивается Ипотечный бум заканчивается

В 2019 году объем выдачи ипотечных кредитов сократится на десять процентов

Эксперт
Сытная история Сытная история

Местная кухня Мюнхена заслуживает не меньше внимания, чем музеи

Лиза
9 ипостасей Вирджила Абло 9 ипостасей Вирджила Абло

Разбираемся в ипостасях Вирджила Абло

Esquire
«У Миядзаки я учусь создавать миры» «У Миядзаки я учусь создавать миры»

Интервью с художником Кевином Хонгом

Мир Фантастики
Intel Core i9-7960X: 16 ядер достаточно? Intel Core i9-7960X: 16 ядер достаточно?

Intel Core i9-7960X — представитель какого-то перевернутого мира

CHIP
Тревожный сигнал. Американские компании стали занимать меньше денег Тревожный сигнал. Американские компании стали занимать меньше денег

Компании США резко сократили объемы выпуска и размещения облигаций

Forbes
К Черному морю К Черному морю

В сентябре отправляемся на автомобиле в пригород Сочи

АвтоМир
Железный кулак. 2 сезон Железный кулак. 2 сезон

Авторы высказывают свои аргументы о втором сезоне «Железного кулака»

Мир Фантастики
Открыть в приложении