Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Крупным франшизам запрещают быть эксклюзивными Крупным франшизам запрещают быть эксклюзивными

Суд признал права франчайзи продавать не только товары франчайзера

Forbes
Операция прикрытия. Действия ЦБ ослабят курс доллара до 62 рублей Операция прикрытия. Действия ЦБ ослабят курс доллара до 62 рублей

Курс рубля может укрепиться до отметки 62 рубля за доллар

Forbes
Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер

За 15 лет видение о том, каким должен быть Ту-204, несколько раз менялось

ТехИнсайдер
Среда для единорогов: возможна ли в России Кремниевая долина Среда для единорогов: возможна ли в России Кремниевая долина

Эффект Кремниевой долины — это совпадение потенциала людей, идей и финансов

Forbes
Антиоксиданты: зачем они нужны и где их искать Антиоксиданты: зачем они нужны и где их искать

Какие продукты стоит внести в меню, чтобы поддерживать тело в тонусе?

Правила жизни
Дышите свободно! Дышите свободно!

Бронхиальная астма есть у каждого десятого жителя Земли

Лиза
А как же Я? А как же Я?

Что делать, если чувство детской недолюбленности мешает вам жить

Добрые советы
Мамы разные нужны Мамы разные нужны

Кира Найтли раскритиковала герцогиню Кембриджскую

Grazia
25 вещей, которые стыдно не уметь 25 вещей, которые стыдно не уметь

Жизненные навыки, которыми ты обязан обладать

Maxim
Как правильно бросить старую надоевшую работу Как правильно бросить старую надоевшую работу

Как расстаться с опостылевшей работой максимально безболезненно

Maxim
Трое в MINI: как в Греции, только в Ярославле Трое в MINI: как в Греции, только в Ярославле

Путешествие в Ярославль

Cosmopolitan
Мне за это ничего не будет. Почему харассмент в России в порядке вещей Мне за это ничего не будет. Почему харассмент в России в порядке вещей

Харассмент — это один из способов продемонстрировать свое превосходство

Forbes
Розовая пантера Розовая пантера

Британка Клэр Фой отбирает роли у Руни Мары

GQ
Подарок от арестантов. Можно ли заработать на акциях НМТП Подарок от арестантов. Можно ли заработать на акциях НМТП

Долго ли будут дорожать акции и стоит ли участвовать в этом ралли

Forbes
Все пропало Все пропало

Станет ли история с Forex Trend прецедентом в сфере мошенничества на рынке Forex

РБК
7 нелепых девайсов, которые собрали кучу денег на Kickstarter 7 нелепых девайсов, которые собрали кучу денег на Kickstarter

Бриться лазером, рисовать на кофе ручкой и... управлять тараканами!

CHIP
8 финансовых правил для каждой пары перед тем, как начать жить вместе 8 финансовых правил для каждой пары перед тем, как начать жить вместе

Финансовый вопрос — испытание для пары, поэтому важно заранее о нем договориться

Psychologies
Обида на мать: что делать? Обида на мать: что делать?

Наша читательница рассказывает историю отношений с матерью

Psychologies
По ней сходит с ума весь мир: что такое кето-диета и почему она тебе необходима По ней сходит с ума весь мир: что такое кето-диета и почему она тебе необходима

Разбираем плюсы, минусы и суть кето-диеты

Playboy
«Я становлюсь большим консерватором» «Я становлюсь большим консерватором»

С Лизой Боярской у нас есть традиция: если мы делаем интервью, то рано утром

OK!
Диплом отличника. Как проверить эффективность онлайн-курса Диплом отличника. Как проверить эффективность онлайн-курса

Чем меньше эксперт разбирается в предмете, тем больше у него хороших отзывов

Forbes
Новое диско Новое диско

Сегодня диско – не ностальгия, а новый модный тренд

Домашний Очаг
Лучшие в эфире! Лучшие в эфире!

Главные профессиональные награды в области телевидения нашли своих обладателей

OK!
Как же тебе повезет, моей невесте Как же тебе повезет, моей невесте

Зачем нужен брачный договор и не подрывает ли он саму концепцию брака по любви

Cosmopolitan
Можно ли вычислить вас по IP? Можно ли вычислить вас по IP?

Чтобы вас можно было вычислить по IP, вам нужно быть адским злодеем

CHIP
Глубокая разморозка: что происходит, когда из тела уходит страх Глубокая разморозка: что происходит, когда из тела уходит страх

Часто непонятная боль сигнализирует о том, что нам нужно пересмотреть свою жизнь

Psychologies
Война культур: как неформальные правила компании могут погубить бизнес Война культур: как неформальные правила компании могут погубить бизнес

Противоречия в корпоративной культуре снижают рабочие усилия

Forbes
Пять самых фотогеничных мест для ноябрьских выходных Пять самых фотогеничных мест для ноябрьских выходных

Самые живописные места, куда можно сбежать ненадолго

Cosmopolitan
Сладкий ноябрь Сладкий ноябрь

Меняй привычки – и жизнь заиграет новыми красками

Cosmopolitan
Рецензия на сериал Рецензия на сериал

Cериал «Маньяк» cобрал совершенно противоположные отзывы зрителей

Esquire
Открыть в приложении