Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дышать или не дышать: насколько эффективна дорогостоящая ксенонотерапия Дышать или не дышать: насколько эффективна дорогостоящая ксенонотерапия

Ксенонотерапия: что это за метод, безопасен ли он и насколько полезен в лечении?

Forbes
Космос, глубина и радиация. Экстремальная робототехника Космос, глубина и радиация. Экстремальная робототехника

Машины для работы в самых экстремальных условиях

Популярная механика
Физическая сим-карта или eSIM: что лучше? Физическая сим-карта или eSIM: что лучше?

Разбираемся в плюсах и минусах пластиковых сим-карт и eSIM

CHIP
Любовь — великая замануха жизни Любовь — великая замануха жизни

История слепого массажиста без инвалидной психологии

Русский репортер
Как нас обманывает Disney: чем на самом деле заканчиваются популярные детские сказки Как нас обманывает Disney: чем на самом деле заканчиваются популярные детские сказки

Почти у каждой сказки, которую вы читали в детстве, есть версия 18+...

ТехИнсайдер
Тест 4К-проекторов: UHD-проекция для домашнего кинотеатра Тест 4К-проекторов: UHD-проекция для домашнего кинотеатра

Протестировали проекторы, чтобы понять, как лучше оборудовать домашний кинотеатр

CHIP
Эпидемия и МКАД: московский грипп не похож на провинциальный Эпидемия и МКАД: московский грипп не похож на провинциальный

В мегаполисах мира эпидемия гриппа проходит не так, как в небольших городах

Forbes
Второй лишний Второй лишний

Как избавиться от ненужного жира в области подбородка

Лиза
Протоиерей Владимир Вигилянский: Мы приближаемся к временам Византии, когда догматы церкви обсуждались на рынках Протоиерей Владимир Вигилянский: Мы приближаемся к временам Византии, когда догматы церкви обсуждались на рынках

Православным за рубежом, придется решать, с каким храмом они будут связаны

СНОБ
ЕГЭ на пять. Как построить онлайн-платформу для занятий c репетитором ЕГЭ на пять. Как построить онлайн-платформу для занятий c репетитором

О важности создания удобного интерфейса для образовательного сервиса

Forbes
Сидеть бизнес-классом. Нужны ли в тюрьмах блоки для предпринимателей Сидеть бизнес-классом. Нужны ли в тюрьмах блоки для предпринимателей

Бизнесмены будут содержаться в СИЗО отдельно от других заключенных

Forbes
Как готовить фо бо — главный суп холодного сезона Как готовить фо бо — главный суп холодного сезона

Почему фо так полюбили в России и как приготовить этот суп дома

Esquire
Как это по-русски: названия 10 самых актуальных моделей сумок нашего времени Как это по-русски: названия 10 самых актуальных моделей сумок нашего времени

Как называются самые актуальные из современных сумок на разных языках

Cosmopolitan
Автоматы с трусиками и бары вибраторов: этот странный секс по-японски Автоматы с трусиками и бары вибраторов: этот странный секс по-японски

Япония - страна контрастов, в том числе в отношении сексуальных практик

Cosmopolitan
Стресс в большом городе: 3 секрета, как побороть сильные эмоции на месте Стресс в большом городе: 3 секрета, как побороть сильные эмоции на месте

О том, как вернуть себе душевное равновесие

Playboy
В России стартовала перепись населения, вопросы анкеты ставят людей в тупик В России стартовала перепись населения, вопросы анкеты ставят людей в тупик

Во многих регионах и интернетах России проходит пробная перепись населения

Maxim
Игра в квадраты: показываем новую настолку Игра в квадраты: показываем новую настолку

Предлагаем вашему вниманию вариант новой (читай – уникальной!) настольной игры

Популярная механика
Свои люди: пять главных секретов продвижения в Instagram Свои люди: пять главных секретов продвижения в Instagram

Что считается дурным тоном в Instagram

Forbes
Союз ржавых 3 Союз ржавых 3

Фотоэкскурсия по заброшенным объектам индустриального наследия продолжается

Maxim
Как организовать банкет без накладок Как организовать банкет без накладок

Прочитав эти советы, ты захочешь развестись, чтобы жениться заново

Maxim
Не только Слендермен: самые страшные городские легенды Не только Слендермен: самые страшные городские легенды

Какие только ужасы не рождаются в глубокой тьме интернета

Cosmopolitan
Арак, бешбармак и Ак Калпак Арак, бешбармак и Ак Калпак

Арак, бешбармак и Ак калпак

Quattroruote
Каково это — преподавать английский в одной из самых богатых российских семей Каково это — преподавать английский в одной из самых богатых российских семей

Как преподаватель английского бежал из особняка, похожего на Букингемский дворец

Esquire
Рабочий класс. Как бизнес борется за талантливых курьеров и продавцов Рабочий класс. Как бизнес борется за талантливых курьеров и продавцов

Компании вынуждены петь и плясать, чтобы нанять и удержать «синих воротничков»

Forbes
Танцы с бубном. Почему компании избавляются от сотрудников-звезд Танцы с бубном. Почему компании избавляются от сотрудников-звезд

Граница между звездным и невыносимым работником удивительно тонкая

Forbes
Слабая арифметика. Кудрин раскритиковал проект федерального бюджета Слабая арифметика. Кудрин раскритиковал проект федерального бюджета

Глава Счетной палаты считает ошибкой отказ от приватизации в 2021 году

Forbes
Как завести друзей в классе? Как завести друзей в классе?

Эксперты: как помочь ребенку адаптироваться к школе

Psychologies
Наталья Кудряшова: «Называть себя актрисой лишний раз избегаю» Наталья Кудряшова: «Называть себя актрисой лишний раз избегаю»

Интервью с актрисой Натальей Кудряшовой

Grazia
Хрупкое создание: как Лука Модрич опередил Роналду и Месси Хрупкое создание: как Лука Модрич опередил Роналду и Месси

Впервые с 2007 года лучшим футболистом сезона признан не Роналду или Месси

Forbes
— К доске! — О, да! 11 самых горячих учительниц в кино — К доске! — О, да! 11 самых горячих учительниц в кино

Самые яркие и сексуальные учительницы из фильмов и сериалов

Playboy
Открыть в приложении