Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием Перевоспитание мужчин и инвестиции: как Австралия стала примером в борьбе с насилием

Как Австралия смогла войти в топ-20 самых безопасных стран мира для женщин?

Forbes
16 самых продаваемых саундтреков всех времен 16 самых продаваемых саундтреков всех времен

Порой музыка к фильму выходит настолько мощной, что запоминается лучше фильма

Maxim
Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением

Как решения используют в России по уборке нефтепродуктов?

Inc.
Как это по-русски: названия 10 самых актуальных моделей сумок нашего времени Как это по-русски: названия 10 самых актуальных моделей сумок нашего времени

Как называются самые актуальные из современных сумок на разных языках

Cosmopolitan
Насколько вы терпеливый человек? Психологический тест для самопознания Насколько вы терпеливый человек? Психологический тест для самопознания

Выберите свечу и узнайте, насколько вы терпеливы

ТехИнсайдер
Datsun on-DO: игра в бренды Datsun on-DO: игра в бренды

Запас прочности Datsun on-DO

АвтоМир
Кто пришел на смену хипстерам: хэлс-готы, морские панки и другие из поколения Z Кто пришел на смену хипстерам: хэлс-готы, морские панки и другие из поколения Z

Какие новые модные субкультуры, возможно, заменят хипстеров

Cosmopolitan
Внимание, тинейджер: инструкция для родителей Внимание, тинейджер: инструкция для родителей

Рассказываем, как ужиться с хаотичным подростком

Psychologies
Мама-писатель Мама-писатель

Три года назад у Маши Рупасовой вышла первая книга детских стихов

Домашний Очаг
Актриса Клэр Фой — о Актриса Клэр Фой — о

Клэр Фой: Мне везет работать с лучшими из лучших

Esquire
Деньги из воздуха. Как Ким Кардашьян заработала $350 млн Деньги из воздуха. Как Ким Кардашьян заработала $350 млн

Все, к чему бы ни прикасалась рука семейства Кардашьян, превращается в деньги

Forbes
Триумф популизма. Станет ли бразильский президент новым Трампом Триумф популизма. Станет ли бразильский президент новым Трампом

Триумф популизма. Станет ли бразильский президент новым Трампом

Forbes
С Думой о мире С Думой о мире

Мирослава Дума пересмотрела взгляды на моду и свой гардероб

Vogue
Нью–Йорк в Москве Нью–Йорк в Москве

Эта квартира, предназначенная для приёма гостей, призвана произвести впечатление

SALON-Interior
Игра в глобализацию Игра в глобализацию

Издательство tinyBuild выводит независимые игры из СНГ на глобальный рынок

РБК
Как найти телефон по IMEI. Развеиваем мифы Как найти телефон по IMEI. Развеиваем мифы

Можно ли найти телефон по IMEI, со спутника или как то иначе?

CHIP
Империя наносит ответный удар: зачем смотреть сериал «Романовы» о потомках российской царской семьи Империя наносит ответный удар: зачем смотреть сериал «Романовы» о потомках российской царской семьи

«Романовы» — антология про потомков царской семьи от Мэттью Вайнера

Esquire
Кукольный театр: как манипулировать своими сотрудниками Кукольный театр: как манипулировать своими сотрудниками

Вредные советы по управлению сотрудниками, от которых выигрывают все

Forbes
Как стиль Фредди Меркьюри влияет на моду и кино Как стиль Фредди Меркьюри влияет на моду и кино

Почему легендарный музыкант до сих пор остается одной из главных икон моды

Vogue
Скрытая угроза. Погубит ли «Почта России» российский онлайн-ретейл Скрытая угроза. Погубит ли «Почта России» российский онлайн-ретейл

Через пару лет китайский интернет-ретейл начнет доминировать в России

Forbes
Простая математика. Сколько должен стоить качественный сыр Простая математика. Сколько должен стоить качественный сыр

Половина всего сыра на прилавках — подделка, таковы данные Россельхознадзора

Forbes
Ретроградный Меркьюри Ретроградный Меркьюри

Двойник Фредди Меркьюри — актер Рами Малек

GQ
История создания образов пяти самых известных киноманьяков История создания образов пяти самых известных киноманьяков

После прочтения этой статьи ты не сможешь спать даже при включенном свете

Maxim
Великий надзиратель. Чем хорош контролирующий лидер Великий надзиратель. Чем хорош контролирующий лидер

На надзирающих лидеров можно положиться, когда нужен идеальный результат

Forbes
Сельская новь. Как вести бизнес в провинции Сельская новь. Как вести бизнес в провинции

Провинция привлекает столичных бизнесменов, но вести бизнес в регионах не просто

Forbes
«Менять топор на шкуру»: Петр Авен о борьбе с долларом и экономике России «Менять топор на шкуру»: Петр Авен о борьбе с долларом и экономике России

Петр Авен — об ошибках советской экономики, которые рискует повторить Россия

Forbes
Арестованный миллиардер Магомедов разбогател после продажи акций НМТП Арестованный миллиардер Магомедов разбогател после продажи акций НМТП

После объявления о сделке котировки порта резко подскочили

Forbes
Когда погаснет БАК Когда погаснет БАК

Мегапроекты, которые придут на смену Большому адронному коллайдеру

Популярная механика
Отечественная волна Отечественная волна

Три молодых российских дизайнера с большими планами на будущее

Vogue
Лицо с экрана: как Опра Уинфри заработала свои миллиарды Лицо с экрана: как Опра Уинфри заработала свои миллиарды

Что помогло Опре Уинфри стать первой темнокожей женщиной–миллиардером

Forbes
Открыть в приложении