Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как фотограф Рино Бариллари снимал Одри Хепберн, принцессу Диану и 12 раз ломал ребра Как фотограф Рино Бариллари снимал Одри Хепберн, принцессу Диану и 12 раз ломал ребра

О том, почему профессия папарацци все еще жива и востребована

Forbes
Лучшие шутки о «золотой судье» Хахалевой, которая никогда не имела юридического образования Лучшие шутки о «золотой судье» Хахалевой, которая никогда не имела юридического образования

Лучшие шутки о «золотой судье» Хахалевой

Maxim
Напиши мне, напиши: как сервисы e-mail будут бороться с мессенджерами Напиши мне, напиши: как сервисы e-mail будут бороться с мессенджерами

Как сервисы электронной почты будут удерживать пользователей?

Forbes
Кто я? Кто я?

Кто ты такой? Вопрос, который мы задаем себе в течение жизни

Psychologies
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
«Я становлюсь большим консерватором» «Я становлюсь большим консерватором»

С Лизой Боярской у нас есть традиция: если мы делаем интервью, то рано утром

OK!
Выдуманная природа Рогана Брауна Выдуманная природа Рогана Брауна

Роган Браун создает из бумаги огромные колонии вымышленных микробов

Популярная механика
Французский поцелуй Французский поцелуй

Дом под Санкт-Петербургом, который оформила декоратор Алла Шумейко

AD
5 книг для тех, кто хочет заниматься творчеством, но боится начать 5 книг для тех, кто хочет заниматься творчеством, но боится начать

Подборка книг, которые помогут поверить, что творчество доступно каждому

Psychologies
В поисках музы В поисках музы

Едем за вдохновением и красивыми фотографиями в усадьбы русских писателей

Лиза
Как приучить себя не тратить деньги на ерунду Как приучить себя не тратить деньги на ерунду

Как оптимизировать траты, чтобы продлить удовольствие

Maxim
Кадастровый сюрприз. Ждать ли кризиса на рынке недвижимости Кадастровый сюрприз. Ждать ли кризиса на рынке недвижимости

Рост кадастровой стоимости коммерческой недвижимости может сказаться на цене

Forbes
Последний шанс турецкого султана Последний шанс турецкого султана

Война завершилась новой триумфальной победой русского оружия

Дилетант
Жизнь в сетях Жизнь в сетях

Соцсети изменили понятие о частной жизни, границах и конфиденциальности

Домашний Очаг
Ольга Зуева: «Теперь любой может быть звездой, а значит, никто» Ольга Зуева: «Теперь любой может быть звездой, а значит, никто»

Ольга Зуева о фильме «На районе» и Даниле Козловском

СНОБ
На все случаи жизни: 22 лука из новой коллекции российского бренда Walk Of Shame На все случаи жизни: 22 лука из новой коллекции российского бренда Walk Of Shame

Walk of Shame представил весенне-летнюю коллекцию 2019

Cosmopolitan
Вкусный Петербург: осенние коктейли в Raw Materials Bar проекта Molto Buono Вкусный Петербург: осенние коктейли в Raw Materials Bar проекта Molto Buono

Вкусный Петербург: осенние коктейли в Raw Materials Bar проекта Molto Buono

Cosmopolitan
Дело хозяйское Дело хозяйское

Марина Геворкян о принципах, которыми она руководствуется в работе и жизни

СНОБ
Тайные места Лондона Тайные места Лондона

Чем заняться, если вы уже купили себе банку чая в виде красной телефонной будки?

Cosmopolitan
10 самых жутких розыгрышей и забавных игрушек для Хэллоуина с AliExpress 10 самых жутких розыгрышей и забавных игрушек для Хэллоуина с AliExpress

10 самых жутких розыгрышей и забавных игрушек для Хэллоуина с AliExpress

Популярная механика
Тест-драйв: первые впечатления от новой Audi A6 Тест-драйв: первые впечатления от новой Audi A6

Первые впечатления от машины, которой хочется управлять, но не нужно

Esquire
Свадьба друзей: 8 способов разобраться, в чем пойти Свадьба друзей: 8 способов разобраться, в чем пойти

Что надеть на свадьбу друзей, если торжество выпало на холодное время года

Cosmopolitan
Игорь Верник: «Довожу себя и других до невменяемого состояния» Игорь Верник: «Довожу себя и других до невменяемого состояния»

Актеру и телеведущему Игорю Вернику 11 октября исполнится 55 лет!

StarHit
Свой парень Свой парень

Риналь Мухаметов о съемках, вождении и детях

Cosmopolitan
Обратная сторона счастья Обратная сторона счастья

Готовы ли мы столкнуться с теневой стороной положительных качеств человека?

Psychologies
Мискузи! 7 вещей, без которых реально не обойтись в путешествии Мискузи! 7 вещей, без которых реально не обойтись в путешествии

Список реально крутых гаджетов, которые точно пригодятся в путешествии

Playboy
Стоять, ни с места! 5 секретов отличной эрекции Стоять, ни с места! 5 секретов отличной эрекции

Ты готов. Она готова. А вот «он» — нет

Playboy
Сидеть бизнес-классом. Нужны ли в тюрьмах блоки для предпринимателей Сидеть бизнес-классом. Нужны ли в тюрьмах блоки для предпринимателей

Бизнесмены будут содержаться в СИЗО отдельно от других заключенных

Forbes
Эффект домино. Инвесторы бегут с развивающихся рынков Эффект домино. Инвесторы бегут с развивающихся рынков

Почему проседают курсы валют и есть ли повод опасаться новой волны кризиса?

Forbes
Бегство из рая. Японскую императорскую семью покинула принцесса Бегство из рая. Японскую императорскую семью покинула принцесса

Японская принцесса Аяко вышла замуж за простолюдина

Forbes
Открыть в приложении