Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не только материальная помощь: как устроен приют для женщин с детьми Не только материальная помощь: как устроен приют для женщин с детьми

Координатор проекта «Теплый дом» — о том, как помогать женщинам с детьми

Forbes
Английские пословицы для путешественников Английские пословицы для путешественников

Какие пословицы (proverbs) и поговорки (sayings) в ходу в англоязычных странах?

National Geographic
Телефонное мошенничество достигло национального уровня Телефонное мошенничество достигло национального уровня

Кураторы программы «Цифровая экономика» намерены расширить ее цели

РБК
Российскому вину придется потесниться Российскому вину придется потесниться

Как рекордный урожай винограда в Европе повлияет на стоимость алкоголя

РБК
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Футболист, который попал: хроника скандалов Александра Кокорина Футболист, который попал: хроника скандалов Александра Кокорина

Вождение в нетрезвом виде, вечеринки с реками шампанского...

Cosmopolitan
World Expo 2020 в Дубае: восхитительный оазис в сердце пустыни World Expo 2020 в Дубае: восхитительный оазис в сердце пустыни

В 2020 году World Expo пройдет в новом футуристическом районе Дубая

Популярная механика
Покрой только снится Покрой только снится

Ральф Лорен: как продавец галстуков из Бронкса стал легендой моды

GQ
22 аркана 22 аркана

Как работает гадание на картах Таро

Elle
Тайны старинных канализаций Лондона: что скрывают глубины Тайны старинных канализаций Лондона: что скрывают глубины

Старинные тайны и омерзительные открытия в канализации Лондона

Популярная механика
Воспоминания об Анне Харви Воспоминания об Анне Харви

Маша Федорова, Анита Гиговская и Карина Добротворская рассказывают об Анне Харви

Vogue
Рекламодателя — сразу в вагон Рекламодателя — сразу в вагон

Четыре вопроса о возвращении рекламы в московское метро

РБК
Времён очаковских и покоренья Крыма Времён очаковских и покоренья Крыма

Как императрица Екатерина II присоединила к России Северное Причерноморье и Крым

Дилетант
Наркотики для Трампа. Как фармацевтика влияет на политику США Наркотики для Трампа. Как фармацевтика влияет на политику США

Наркотики продолжают уносить жизни в США и по всему миру

Forbes
Как успешные гики создавали себе индивидуальный стиль? Как успешные гики создавали себе индивидуальный стиль?

Гики, которым удалось превратить небрежный и незамысловатый стиль в образцовый

GQ
Социальное государство прощается с вами Социальное государство прощается с вами

Россия может стать лучшим местом на Земле. Но не хочет

Эксперт
Баллистический спуск Баллистический спуск

Случившаяся авария на старте «Союза» ставит много вопросов

Огонёк
Хочешь уйти с работы? 6 советов, как уволиться, чтобы тебя не хейтили Хочешь уйти с работы? 6 советов, как уволиться, чтобы тебя не хейтили

Уходить надо красиво!

Playboy
Девочка-вопреки Девочка-вопреки

Мари Краймбрери — успешный молодой артист и номинант премии «Больше чем звёзды»

OK!
Венецианский мудрец Венецианский мудрец

Дача человека эпохи Ренессанса — шедевр чисто итальянского искусства

Tatler
«Мой дед убил бы меня»: как живут дочери и внучки нацистских преступников «Мой дед убил бы меня»: как живут дочери и внучки нацистских преступников

Чем сейчас живут и дышат дочери, внучки и правнучки преступников Второй мировой

Cosmopolitan
Что происходит в мужской моде прямо сейчас? Что происходит в мужской моде прямо сейчас?

Вот все, что вы должны знать о современных трендах и тенденциях

GQ
Последние романтики. Молодежь хочет работать в больших компаниях Последние романтики. Молодежь хочет работать в больших компаниях

Молодое поколение уже не верит в стартапы

Forbes
«Вояджер-1»: 10 фактов космического масштаба «Вояджер-1»: 10 фактов космического масштаба

Ровно 41 год назад произошел запуск «Вояджера-1»

Maxim
10 гей-пар из кино, которые заставили нас поверить в любовь 10 гей-пар из кино, которые заставили нас поверить в любовь

10 лучших, самых трогательных и чувственных гей-пар, появлявшихся на экране

Cosmopolitan
Шепот шин Собянина. Как электробусы сменяют дизель в Москве Шепот шин Собянина. Как электробусы сменяют дизель в Москве

Москва может войти в число лидеров по использованию транспорта на электротяге

Forbes
Пробирка ценой в $7 трлн. Трамп назвал худшую ошибку в истории США Пробирка ценой в $7 трлн. Трамп назвал худшую ошибку в истории США

Глава Белого дома оценил американское вторжение в Ирак и Афганистан в $7 трлн

Forbes
7 верных способов наказать мужчину 7 верных способов наказать мужчину

Неважно, что он сделал, важно, чтобы он почувствовал себя отшлепанным мальчиком

Cosmopolitan
Как Вирджил Абло меняет спортивную моду Как Вирджил Абло меняет спортивную моду

Вирджил Абло о коллаборации с Nike и сотрудничестве с олимпийцами

Vogue
Недотроги Недотроги

Кому выгодно нашествие компьютерных голограмм

GQ
Открыть в приложении