Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Накопленная усталость: почему молодые шведки чаще выбирают жизнь за счет партнера Накопленная усталость: почему молодые шведки чаще выбирают жизнь за счет партнера

Почему некоторые шведки выбирают отказ от карьеры и жизнь за счет партнера

Forbes
Обзор Bluetooth-спикерфона Jabra Speak 710: связь и музыка без проводов Обзор Bluetooth-спикерфона Jabra Speak 710: связь и музыка без проводов

Изучаем портативную колонку премиум-класса с мощным динамиком и микрофоном

CHIP
Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами

ИИ — спаситель человечества или его зловещий повелитель?

Forbes
«Пытаться изменить себя — глупая затея» «Пытаться изменить себя — глупая затея»

Себя изменить невозможно, а вот что стоит менять, так это свое поведение

Psychologies
Бухенвальдская ведьма: история Ильзы Кох, одного из крупнейших монстров Холокоста Бухенвальдская ведьма: история Ильзы Кох, одного из крупнейших монстров Холокоста

Ильза Кох — одна из самых жестких представительниц гитлеровского режима

ТехИнсайдер
Ракетное бессилие. Почему договор РСМД на самом деле никому не нужен Ракетное бессилие. Почему договор РСМД на самом деле никому не нужен

Дональд Трамп заявил о выходе из договора о ликвидации ракет

Forbes
Предложена модель распространения жизни во Вселенной Предложена модель распространения жизни во Вселенной

Ученые смоделировали гипотезу распространения жизни во Вселенной из одного очага

Популярная механика
Тест и обзор Asus ZenFone 5z:  больше, чем просто клон iPhone X Тест и обзор Asus ZenFone 5z:  больше, чем просто клон iPhone X

Asus ZenFone 5z выглядит очень изящно и, кроме того, весьма быстро бегает

CHIP
На все случаи жизни: 22 лука из новой коллекции российского бренда Walk Of Shame На все случаи жизни: 22 лука из новой коллекции российского бренда Walk Of Shame

Walk of Shame представил весенне-летнюю коллекцию 2019

Cosmopolitan
Продавцы счастья. Как компании рекламируют себя на рынке труда Продавцы счастья. Как компании рекламируют себя на рынке труда

Продавцы счастья. Как компании рекламируют себя на рынке труда

Forbes
Что почитать: самые яркие новинки октября Что почитать: самые яркие новинки октября

Лучшие книги, с которыми можно провести пятничный вечер и выходные

Cosmopolitan
Деньги из воздуха. Как Ким Кардашьян заработала $350 млн Деньги из воздуха. Как Ким Кардашьян заработала $350 млн

Все, к чему бы ни прикасалась рука семейства Кардашьян, превращается в деньги

Forbes
Электронные паспорта: к чему клонит государство Электронные паспорта: к чему клонит государство

Законопроект об электронном паспорте

Forbes
«Канцлер всегда на службе». Правила жизни Ангелы Меркель «Канцлер всегда на службе». Правила жизни Ангелы Меркель

«Я не сравниваю себя ни с кем и не читаю биографии политиков»,

Forbes
Три хита сезонного меню «Тануки»: поке, роллы и гастро-фьюжн Три хита сезонного меню «Тануки»: поке, роллы и гастро-фьюжн

Японская кухня – одна из самых интересных в мире

Cosmopolitan
В Берлине нашли лучшего бармена года — итальянца в Австралии В Берлине нашли лучшего бармена года — итальянца в Австралии

На конкурсе Diageo Reserve World Class соревновались бармены из 56 стран

Forbes
Не игрушка: Forbes составил рейтинг главных игроков киберспорта Не игрушка: Forbes составил рейтинг главных игроков киберспорта

Умы многих инвесторов и участников рынка начинает занимать новая индустрия

Forbes

В соцсетях проводят параллели с Петровым и Бошировым

Esquire
Тест-драйв: первые впечатления от новой Audi A6 Тест-драйв: первые впечатления от новой Audi A6

Первые впечатления от машины, которой хочется управлять, но не нужно

Esquire
Путь к сердцу Путь к сердцу

Компания HeartFlow инвестировала в диагностику заболеваний сердца $500млн

Forbes
Рейтинг самых влиятельных женщин в российских медиа Рейтинг самых влиятельных женщин в российских медиа

Самые яркие и влиятельные женщины, стоящих у руля русскоязычных медиа

Esquire
Брат меньший: как филиал может влиять на стратегию штаб-квартиры Брат меньший: как филиал может влиять на стратегию штаб-квартиры

Эксперт: как локальный офис может повлиять на решения штаб-квартиры компании

Forbes
Что такое мультирум и почему это круто? Что такое мультирум и почему это круто?

Мультирум — это когда музыка или кино играет по всему дому

CHIP
Не только iPhone: новых устройств от Apple ждут уже в октябре Не только iPhone: новых устройств от Apple ждут уже в октябре

Аналитики спрогнозировали анонс нового iPad, ноутбука MacBook и компьютера iMac

Forbes
Это реально: как студент-лузер в 24 года заработал $5 млрд, построив империю Это реально: как студент-лузер в 24 года заработал $5 млрд, построив империю

Как Ритеш Агарвала заработал миллиарды с помощью приложения для бронирования

Playboy
«Я становлюсь большим консерватором» «Я становлюсь большим консерватором»

С Лизой Боярской у нас есть традиция: если мы делаем интервью, то рано утром

OK!
Екатерина Климова: Остаюсь собой Екатерина Климова: Остаюсь собой

Над умением радоваться жизни тоже нужно работать, – уверена Екатерина Климова

Лиза
Хочешь уйти с работы? 6 советов, как уволиться, чтобы тебя не хейтили Хочешь уйти с работы? 6 советов, как уволиться, чтобы тебя не хейтили

Уходить надо красиво!

Playboy
Kia Rio: вазозаменитель Kia Rio: вазозаменитель

Запас прочности Kia Rio

АвтоМир
Она отказалась молчать. Нобелевский лауреат Надия Мурад о жизни в плену Она отказалась молчать. Нобелевский лауреат Надия Мурад о жизни в плену

Воспоминания Надии Мурад, получившей Нобелевскую премию мира 2018 года

Forbes
Открыть в приложении