О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Проспать все неприятности и очнуться счастливой: лайфхаки от Спящей красавицы Проспать все неприятности и очнуться счастливой: лайфхаки от Спящей красавицы

Над чем следует задуматься, когда мы читаем историю про заколдованную принцессу?

Psychologies
Как голуби находят дорогу домой Как голуби находят дорогу домой

Как голуби ориентируются в сложных и меняющихся ландшафтах?

Популярная механика
Быт военного времени Быт военного времени

Первая часть ответов на вопросы о повседневной жизни в условиях военного времени

Дилетант
«Ребенку, а не ей»: что не так с предложением контролировать расход алиментов «Ребенку, а не ей»: что не так с предложением контролировать расход алиментов

Почему идея контроля алиментов придумана совсем не для блага детей?

Cosmopolitan
Повесть о Настоящем Адвокате Повесть о Настоящем Адвокате

Адвокат Семён Ария и дело об убийстве супруг Раскиных

Дилетант
Несбывшееся будущее: как NASA видело гражданскую авиацию в 2025 году Несбывшееся будущее: как NASA видело гражданскую авиацию в 2025 году

Как в 1996 году NASA видело будущее гражданских самолетов

Популярная механика
Золотая классика: 10 лучших американских автомобилей 40-60-х годов Золотая классика: 10 лучших американских автомобилей 40-60-х годов

Американские автомобильные фирмы 40-60-х годов, которые почти забыли

Популярная механика
Рома Штайн «Не хочу в эту кабалу!» Рома Штайн «Не хочу в эту кабалу!»

Певец и блогер Рома Штайн — что можно считать настоящей музыкой?

ЖАРА Magazine
Тусклые, жирные, ломкие? Научись составлять диету для решения проблем с волосами Тусклые, жирные, ломкие? Научись составлять диету для решения проблем с волосами

5 основных проблем шевелюры. Мы разберем каждую

Cosmopolitan
8 необычных мужских эрогенных зон 8 необычных мужских эрогенных зон

Рассказываем о чувствительных зонах мужчин

Psychologies
“Мы пытаемся, но не слышим друг друга” “Мы пытаемся, но не слышим друг друга”

Конфликтолог Олег Иванов помогает Вике и Антону разобраться в своих отношениях

Psychologies
Пещерным медведям приглянулась для зимовки неандертальская стоянка в Польше Пещерным медведям приглянулась для зимовки неандертальская стоянка в Польше

Неандертальцы собирали рога и кости животных

N+1
Как выжить в тюрьме: советы звезд из-за решетки Как выжить в тюрьме: советы звезд из-за решетки

Рекомендации знаменитостей, оказавшихся за решеткой

Maxim
Основатель сервиса такси inDriver Арсен Томский: Мы — поджарые ниндзя в стане пухлых хипстеров Основатель сервиса такси inDriver Арсен Томский: Мы — поджарые ниндзя в стане пухлых хипстеров

Арсен Томский — предприниматель, который построил конкурента Uber и Gett

Inc.
Паразиты под прикрытием: 3 типа мужчин, которые питаются твоей самооценкой Паразиты под прикрытием: 3 типа мужчин, которые питаются твоей самооценкой

Типы мужчин-абьюзеров, которые испортят твою самооценку

Cosmopolitan
Пепел миров: как мертвые звезды помогли заглянуть в недра далеких планет Пепел миров: как мертвые звезды помогли заглянуть в недра далеких планет

Американские ученые всмотрелись в остывающие звезды

Forbes
Особый взгляд Особый взгляд

Подборка психологических книг, помогающих разобраться в себе и окружающих

Psychologies
Рассказ из сборника «Сибирь: счастье за горами» Рассказ из сборника «Сибирь: счастье за горами»

Отрывок из сборника рассказов, посвященных Сибири

СНОБ
Веганские инвестиции, «голубой» углерод и экопроповедники. 5 экотрендов будущего Веганские инвестиции, «голубой» углерод и экопроповедники. 5 экотрендов будущего

Какие экотренды в разных сферах жизни нас ждут в ближайшем будущем

СНОБ
Как выбрать идеальную подушку: советы эксперта Как выбрать идеальную подушку: советы эксперта

Что такое анатомическая подушка? Какой материал должен быть внутри?

РБК
8 типов прыщей, которые нельзя давить никому и никогда 8 типов прыщей, которые нельзя давить никому и никогда

Можно ли давить самостоятельно и какие прыщи категорически нельзя трогать

Cosmopolitan
Секс или самовыражение? Что такое кинки-пати — разбираемся подробно Секс или самовыражение? Что такое кинки-пати — разбираемся подробно

Kinky party — что это такое, как и где происходит?

Cosmopolitan
«Уходя — уходи»: как отпустить тех, кого мы любили «Уходя — уходи»: как отпустить тех, кого мы любили

Почему так сложно пережить расставание?

Psychologies
Открытки и плакаты из советского детства к празднику 7 Ноября Открытки и плакаты из советского детства к празднику 7 Ноября

Подборка советских открыток и плакатов к 7 Ноября. Возможны приступы ностальгии

Maxim
Терапия для миллениалов: как зарабатывать 44 млн рублей в год на онлайн-консультациях Терапия для миллениалов: как зарабатывать 44 млн рублей в год на онлайн-консультациях

YouTalk — один из первых российских сервисов подбора психологов онлайн

Forbes
Как устроена машина для обработки самолётов антиобледенителем Как устроена машина для обработки самолётов антиобледенителем

Как управляют машинами, которые обрабатывают крылья авиалайнеров

Популярная механика
Сьюки-любовь Сьюки-любовь

Сьюки Уотерхаус рассказала о том, как начала просто петь

Harper's Bazaar
«Остался без рук и ног». Как годовалый Артем стал инвалидом из-за халатности врачей «Остался без рук и ног». Как годовалый Артем стал инвалидом из-за халатности врачей

Как медики сделали годовалого Артема инвалидом

СНОБ
8 вещей, которые нельзя делать после 30-ти 8 вещей, которые нельзя делать после 30-ти

Прочитай, что не стоит делать мужчине, вступающему в самый расцвет сил

Maxim
Новые лица: лучшие российские сериалы этого года с яркими дебютантами Новые лица: лучшие российские сериалы этого года с яркими дебютантами

Новые сериалы — идеальная возможность для начинающих актёров проявить себя

Cosmopolitan
Открыть в приложении