Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Болванчик из бейсбола: как фигурки-сувениры приносят миллионы командам МЛБ Болванчик из бейсбола: как фигурки-сувениры приносят миллионы командам МЛБ

Бейсбол: уникальная субкультура и сумасшедший спрос на фигурки

Forbes
Играем вдолгую: Играем вдолгую:

В какие фасоны и материалы можно «вложиться» в этом сезоне

Cosmopolitan
Культурный код ИИ: 3 совета по созданию чат-ботов для бизнеса Культурный код ИИ: 3 совета по созданию чат-ботов для бизнеса

Как строить более точные, этичные и адаптивные системы искусственного интеллекта

Inc.
10 режиссерских версий фильмов, которые стоит найти и посмотреть 10 режиссерских версий фильмов, которые стоит найти и посмотреть

Всегда ли стоит пересматривать привычное кино в непривычном виде

Maxim
Список уловок телефонных мошенников: разбираем самые частые способы обмана Список уловок телефонных мошенников: разбираем самые частые способы обмана

Список из самых распространенных атак телефонных мошенников

Maxim
В поисках музы В поисках музы

Едем за вдохновением и красивыми фотографиями в усадьбы русских писателей

Лиза
Ну приехали: как тема мигрантов отразилась в моде Ну приехали: как тема мигрантов отразилась в моде

Екатерина Ткаченко живет в Италии. И ей есть что рассказать на тему мигрантов

Cosmopolitan

Отрывок из книги эксперта моды Екатерины Кулиничевой об истории кроссовок в СССР

Esquire
Как убить самооценку: 22 вредных совета Как убить самооценку: 22 вредных совета

Как наконец поверить в себя и начать жить в полную силу

Psychologies
На край земли На край земли

Robb Report отправляется в потрясающий белый мир Антарктиды

Robb Report
Что посмотреть на Хеллоуин: самые страшные фильмы по версии iCHIP Что посмотреть на Хеллоуин: самые страшные фильмы по версии iCHIP

Мы всей редакцией решили вспомнить, какие фильмы напугали нас больше всего

CHIP
Выше облаков Выше облаков

Московская квартира, оформленная архитектором Алексеем Николашиным

AD
Пять пережитков прошлого, которые есть в современных гаджетах Пять пережитков прошлого, которые есть в современных гаджетах

В контексте современных гаджетов старые вещи наполняются новым смыслом

CHIP
Правила жизни Массимо Карреры Правила жизни Массимо Карреры

Правила жизни тренера «Спартака» Массимо Карреры

Esquire
Индекс надежды. Почему растут инвестиции в биржевые фонды Индекс надежды. Почему растут инвестиции в биржевые фонды

В мире наблюдается настоящий бум биржевых фондов, инвестирующих в индексы (ETF)

Forbes
10 фактов о «Богемской рапсодии» Queen 10 фактов о «Богемской рапсодии» Queen

43 года назад, 31 октября 1975 года, вышла «Богемская рапсодия»

Maxim
10 гаджетов для автомобиля, без которых путешествие невозможно 10 гаджетов для автомобиля, без которых путешествие невозможно

Гаджеты, которые нужно обязательно захватить с собой в дорогу

Популярная механика
Сбор актива Сбор актива

Познавая мир, познаёшь себя

Robb Report
Как готовить фо бо — главный суп холодного сезона Как готовить фо бо — главный суп холодного сезона

Почему фо так полюбили в России и как приготовить этот суп дома

Esquire
Робот за рулем. Кто будет водить такси в ближайшем будущем Робот за рулем. Кто будет водить такси в ближайшем будущем

Новые типы транспорта требуют новых компетенций от людей

Forbes
IPhone XS и IPhone XS Max: подробности, которые ты мог пропустить IPhone XS и IPhone XS Max: подробности, которые ты мог пропустить

«Просто хорошие смартфоны» — самая полная характеристика новых айфонов

Maxim
Стратегическая сделка. Стоит ли инвесторам опасаться продажи «Яндекса» Стратегическая сделка. Стоит ли инвесторам опасаться продажи «Яндекса»

Слухи о возможной продаже 30% «Яндекса» Сбербанку

Forbes
Тест-драйв: первые впечатления от новой Audi A6 Тест-драйв: первые впечатления от новой Audi A6

Первые впечатления от машины, которой хочется управлять, но не нужно

Esquire
Крепкие узы Крепкие узы

Квартира, оформленная Анной Зиньковской, в Москве

AD
Скалолазка и восьмиклассница: кем были героини известных отечественных песен Скалолазка и восьмиклассница: кем были героини известных отечественных песен

Каждому художнику, скульптору или музыканту нужна муза

Cosmopolitan
Забыл, что такое развитие? 13 советов, как улучшить жизнь за 20 минут Забыл, что такое развитие? 13 советов, как улучшить жизнь за 20 минут

Личностный рост — это быстро. Советы для тех, у кого мало свободного времени

Playboy
Так создавалась легенда Так создавалась легенда

Рами Малек поговорил с Grazia о чудесах перевоплощения во Фредди Меркьюри

Grazia
Товарищ Ку Ли Бин: 10 невероятных изобретений китайских Левшей Товарищ Ку Ли Бин: 10 невероятных изобретений китайских Левшей

Самые поразительные гаражные изобретения, которые явила миру КНР

Maxim
Вопрос времени: почему мужчины не носят юбки? Вопрос времени: почему мужчины не носят юбки?

Одежду теперь не делят на мужскую и женскую — в чем же тогда проблема

Esquire
«Я рос мажором, пока мы не оказались на улице» «Я рос мажором, пока мы не оказались на улице»

Казахский музыкант с азербайджанскими корнями Jah Khalib покоряет слушателей

OK!
Открыть в приложении