Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Дневник невидимки»: история необычной старшеклассницы с обычными проблемами «Дневник невидимки»: история необычной старшеклассницы с обычными проблемами

Отрывок из «Дневника невидимки» — романа о том, как оставаться собой

Forbes
«Границы на карте мира условны» «Границы на карте мира условны»

Ладислав Бубнар — яркий пример того, как талант может в изменить жизненный путь

OK!
Дружелюбный инсайдер: как ИИ становится новым каналом утечек Дружелюбный инсайдер: как ИИ становится новым каналом утечек

ИИ против безопасности: почему компании теряют данные через ChatGPT

Forbes
Спорт для народа Спорт для народа

Автоваз представил новую спортивную модификацию седана Vesta

АвтоМир
50 лет исследований показали: эти 4 ошибки разрушают брак 50 лет исследований показали: эти 4 ошибки разрушают брак

Четыре стратегии общения, которые могут привести к расставаниям и разводам

Inc.
Защита от дурака: зачем начальник инициирует конфликт в коллективе Защита от дурака: зачем начальник инициирует конфликт в коллективе

Грамотный менеджер может умышленно заложить конфликт там, где это необходимо

Forbes
Обзор смартфона Honor 10: как вам такое, флагманы? Обзор смартфона Honor 10: как вам такое, флагманы?

Начинка и возможности Honor 10 вполне серьезные: проверили сами

CHIP
Дети и трущобы. Правительство ужесточит контроль за маткапиталом Дети и трущобы. Правительство ужесточит контроль за маткапиталом

Дети и трущобы. Правительство ужесточит контроль за маткапиталом

Forbes
Игорь Верник: Я – лучший зритель в мире Игорь Верник: Я – лучший зритель в мире

Интервью с актером Игорем Верником

Лиза
Как готовить фо бо — главный суп холодного сезона Как готовить фо бо — главный суп холодного сезона

Почему фо так полюбили в России и как приготовить этот суп дома

Esquire
Ты мое золото Ты мое золото

Дети-блогеры зарабатывают миллионы на YouTube

GQ
Кентавры угрожают Земле: описан новый тип планетарных катастроф Кентавры угрожают Земле: описан новый тип планетарных катастроф

Вычислена вероятность столкновения Земли с объектами группы Кентавров

Forbes
Назван лучший молодой повар России 2018 года Назван лучший молодой повар России 2018 года

Лучшим молодым поваром России экспертное жюри объявило Александра Райляна

Cosmopolitan
На все случаи жизни: 22 лука из новой коллекции российского бренда Walk Of Shame На все случаи жизни: 22 лука из новой коллекции российского бренда Walk Of Shame

Walk of Shame представил весенне-летнюю коллекцию 2019

Cosmopolitan
Роковое влечение Роковое влечение

Паулина Андреева тайно призналась в любви другому мужчине

StarHit
Алексей Романоф о конкурсах, удаче и музыкальных трендах Алексей Романоф о конкурсах, удаче и музыкальных трендах

Алексей Романоф спешит поделиться своим опытом с начинающими коллегами

Cosmopolitan
«Давай, до свидания!». 4 совета, как завершить самое ужасное свидание «Давай, до свидания!». 4 совета, как завершить самое ужасное свидание

Вечно проблемы с тем, как что-то начать и как завершить

Playboy
Новая муза Венсана: самые впечатляющие образы Тины Кунаки Новая муза Венсана: самые впечатляющие образы Тины Кунаки

24 августа Венсан Кассель женился во второй раз

Cosmopolitan
Cоюз ржавых-2: Ещё 5 грандиозных заброшенных сооружений Cоюз ржавых-2: Ещё 5 грандиозных заброшенных сооружений

Мы продолжаем серию статей о заброшенных инженерных объектах

Maxim
Путь воина Путь воина

Бунтующая творческая натура Гарика Burito

OK!
7 фраз, которые не стоит говорить женщине, потерявшей ребенка 7 фраз, которые не стоит говорить женщине, потерявшей ребенка

Как поддержать женщину, потерявшую ребенка

Psychologies
Новое диско Новое диско

Сегодня диско – не ностальгия, а новый модный тренд

Домашний Очаг
Какое кино смотреть в свой день рождения Какое кино смотреть в свой день рождения

Смотри тот фильм, что родился в один год с тобой!

Maxim
Лучшие в эфире! Лучшие в эфире!

Главные профессиональные награды в области телевидения нашли своих обладателей

OK!
Молчание и слово Молчание и слово

Три монолога о жизни на Русском Севере

Русский репортер
37 вещей, которые не должен делать мужчина 37 вещей, которые не должен делать мужчина

37 вещей, которые не должен делать мужчина

Maxim
Как стиль Фредди Меркьюри влияет на моду и кино Как стиль Фредди Меркьюри влияет на моду и кино

Почему легендарный музыкант до сих пор остается одной из главных икон моды

Vogue
Кризис не за горами. Saxo Bank призвал инвесторов продавать американские облигации Кризис не за горами. Saxo Bank призвал инвесторов продавать американские облигации

Экономисты прогнозируют рост волатильности на американском рынке

Forbes
Вечный винтаж Вечный винтаж

Игра с прошлым затрагивает самые неожиданные струны души

Домашний Очаг
«Меня преследуют неудачи»: как изменить негативный сценарий «Меня преследуют неудачи»: как изменить негативный сценарий

Почему у одних все в жизни протекает спокойно, а у других вечно какие-то ЧП?

Psychologies
Открыть в приложении