О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Гендерный скандал: как феминистки обиделись на теорему Гендерный скандал: как феминистки обиделись на теорему

Принято считать, что естественные науки — поле объективного знания

Forbes
Как искусственный интеллект помогает обслуживать клиентов Как искусственный интеллект помогает обслуживать клиентов

Анатолий Попов — о влиянии цифровизации на развитие продуктовой линейки

Forbes
Из помазанников Божьих в святые мученики Из помазанников Божьих в святые мученики

Расстрел царской семьи — едва ли не самый хорошо исследованный сюжет

Дилетант
8 мужских поступков, от которых девушек передергивает 8 мужских поступков, от которых девушек передергивает

Эти твои милые и галантные поступки могут казаться твоей девушке извращенными

Maxim
Зависимость и контрзависимость: как отличить одно от другого Зависимость и контрзависимость: как отличить одно от другого

Почему кто-то бежит от отношений, а другой старается привязать партнера к себе?

Psychologies
О чем вам говорит ваш гнев О чем вам говорит ваш гнев

Гнев может быть полезным, если мы научимся понимать, о чем он говорит

Psychologies
Химики оценили эффективность переработки океанского пластикового мусора на борту корабля Химики оценили эффективность переработки океанского пластикового мусора на борту корабля

Работа кораблей-мусорщиков выгоднее, чем транспортировка мусора на берег

N+1
«Валера хотел назвать дочь не Агатой»: Альбина Джанабаева спорила с мужем «Валера хотел назвать дочь не Агатой»: Альбина Джанабаева спорила с мужем

Альбина Джанабаева рассказала о своих материнских буднях

Cosmopolitan
Помогает ли йога похудеть Помогает ли йога похудеть

Йога стала очень популярной практикой. Но поможет ли она похудеть?

Популярная механика
«Папа, твое равнодушие помогло мне стать счастливой»: признание дочери «Папа, твое равнодушие помогло мне стать счастливой»: признание дочери

Как отсутствие близости с отцом помогло нашей героине построить свою жизнь

Psychologies
Как перестать бояться и начать свое дело Как перестать бояться и начать свое дело

Какие качества помогут создать успешный бизнес

СНОБ
«Мы забираем документы»: когда пора менять школу? «Мы забираем документы»: когда пора менять школу?

Иногда родителям приходится задуматься: а комфортно ли ребенку на учебе?

Psychologies
Движение по кругу: как менялась мода на джинсы последние 100 лет Движение по кругу: как менялась мода на джинсы последние 100 лет

Почему та или иная модель джинсов становилась культовой

Esquire
Почему султан Сулейман в «Великолепном веке» запретил кофе? Почему султан Сулейман в «Великолепном веке» запретил кофе?

Почему в Турции боялись, что кофе разрушит страну?

Cosmopolitan
Миллионеры из коробки: как россияне зарабатывают на перепродаже игровых предметов Миллионеры из коробки: как россияне зарабатывают на перепродаже игровых предметов

Что не так с рынком перепродажи игровых предметов?

Forbes
Карбоновая бухгалтерия: как сервис для учета выбросов газа привлек более $100 млн Карбоновая бухгалтерия: как сервис для учета выбросов газа привлек более $100 млн

Стартап Persefoni намерен помочь миру смягчить изменение климата

Forbes
Стесняюсь спросить: 20 важных вопросов подологу — специалисту, который занимается лечением стоп и ногтей Стесняюсь спросить: 20 важных вопросов подологу — специалисту, который занимается лечением стоп и ногтей

20 наивных, неудобных и важных вопросов эксперту в области подологии

Esquire
Кто и когда изобрёл ластик Кто и когда изобрёл ластик

Как только человек овладел письмом, ему понадобился инструмент для стирания

Популярная механика
Активно-реактивные снаряды: как это работает Активно-реактивные снаряды: как это работает

Колыбелью практически всех военных технологий стала Вторая мировая война

Популярная механика
Безумие и винтаж: 8 диких изобретений прошлого Безумие и винтаж: 8 диких изобретений прошлого

По всем законам этих диких изобретений просто не должно было существовать

Maxim
Из предпринимателя в инвесторы: как вложить первый $1 млн и сделать правильные выводы Из предпринимателя в инвесторы: как вложить первый $1 млн и сделать правильные выводы

Венчурные инвестиции — способ расширить свои предпринимательские навыки

Forbes
Певица года: Манижа Певица года: Манижа

Манижа показала российскому обществу его лицо

Glamour
История с продолжением История с продолжением

Квартира с коллекционным дизайном и современным искусством

AD
Жизнь после CEO: уйти, чтобы остаться Жизнь после CEO: уйти, чтобы остаться

Иногда уйти — это лучший способ остаться

Inc.
Химики получили соединение со связью калифорний-углерод Химики получили соединение со связью калифорний-углерод

Связь калифорний-углерод получили с помощью рентгеноструктурного анализа

N+1
20 сугубо научных фактов, о которых вы не знали 20 сугубо научных фактов, о которых вы не знали

Чем картофель похож на человека, зачем чихают африканские собаки?

Популярная механика
Не знала, что ждет ребенка: 6 причин, почему женщины не замечают беременность Не знала, что ждет ребенка: 6 причин, почему женщины не замечают беременность

Почему женщины не замечают беременность и как ее можно не заметить

Cosmopolitan
Главное терпение: как проходят самые долгие эксперименты в истории Главное терпение: как проходят самые долгие эксперименты в истории

Опыт с капающей смолой продолжается уже почти столетие

Популярная механика
Обязаны ли дети ухаживать за престарелыми родителями? Обязаны ли дети ухаживать за престарелыми родителями?

В каких случаях уход за ближайшими родственниками стоит переложить на других?

Psychologies
5 ошибок Анастасии Постригай, основательницы OpPopArt 5 ошибок Анастасии Постригай, основательницы OpPopArt

Компании нельзя делать финансовые отчеты на коленке, а основателю — быть робким

Inc.
Открыть в приложении