О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Генетические аномалии: люди, не чувствующие боли и видящие без глаз Генетические аномалии: люди, не чувствующие боли и видящие без глаз

Порой природа вторгается в набор чувств, и тогда происходят странные вещи

Популярная механика
Игра по памяти Игра по памяти

«Рука Бога» – обескураживающе откровенная автобиография Паоло Соррентино

Harper's Bazaar
Зачем я живу? Тварь я дрожащая или право имею? Ответы на эти и другие вечные вопросы с точки зрения науки Зачем я живу? Тварь я дрожащая или право имею? Ответы на эти и другие вечные вопросы с точки зрения науки

Мы попытались популярно ответить на некоторые вечные вопросы

Maxim
Опрично-земские порядки в российской истории Опрично-земские порядки в российской истории

В чем причины и содержание очередного поражения русской демократии

Дилетант
Кейт Миддлтон показала, как модно носить яркое пальто — учись у герцогини Кейт Миддлтон показала, как модно носить яркое пальто — учись у герцогини

Пальто классического кроя — основа зимнего гардероба Кейт Миддлтон

Cosmopolitan
Секскоуч Екатерина Бибишева рассказала, можно ли получать оргазмы в 50 лет Секскоуч Екатерина Бибишева рассказала, можно ли получать оргазмы в 50 лет

«Можно ли отсрочить климакс?»

Cosmopolitan
Как на самом деле выглядят пакистанские невесты: фото с макияжем и без Как на самом деле выглядят пакистанские невесты: фото с макияжем и без

Свадебная красота из Пакистана. Здешние бьюти-традиции отличаются от наших!

Cosmopolitan
«Нечего надеть»: почему мы так часто недовольны своей одеждой «Нечего надеть»: почему мы так часто недовольны своей одеждой

Почему нам кажется, что надеть нечего, если каждая вешалка занята?

Psychologies
Почему североамериканские спецслужбы ежегодно следят за Санта Клаусом? Почему североамериканские спецслужбы ежегодно следят за Санта Клаусом?

Откуда взялась традиция «отслеживать Санту» в США?

Популярная механика
Российские ученые передали квантовый сигнал вместе с классическим по одному оптоволокну Российские ученые передали квантовый сигнал вместе с классическим по одному оптоволокну

Российские ученые осуществили квантовую генерацию ключей

N+1
Мужчина года: Евгений Чебатков Мужчина года: Евгений Чебатков

Это год Чебаткова, сумевшего объединить Казахстан и Россию, рэп и стендап

Glamour
Разгром императорских покоев Разгром императорских покоев

Зимний дворец не раз подвергался серьёзной опасности

Дилетант
Обязательно ли завтракать? Вот что говорят исследования Обязательно ли завтракать? Вот что говорят исследования

Вокруг питания и завтрака, в частности, существует множество предубеждений

РБК
Земля – Орбита. Как отправить свое имя в космос? Земля – Орбита. Как отправить свое имя в космос?

Пластина — 10 на 15 мм, а имен — 22 772. Как всё уместить, Карл?

Популярная механика
Владимир Кехман — Forbes: «МХАТ им. Горького станет музыкально-драматическим театром» Владимир Кехман — Forbes: «МХАТ им. Горького станет музыкально-драматическим театром»

Владимир Кехман — о том, что будет происходить в МХАТе

Forbes
Алкоголизм в наследство: как семейные сценарии влияют на зависимость Алкоголизм в наследство: как семейные сценарии влияют на зависимость

Как связан алкоголизм с наследственностью

Psychologies
10 предметов из фильмов и сериалов, которые останавливали пулю 10 предметов из фильмов и сериалов, которые останавливали пулю

Или что такое «карманный защитник» и как его эксплуатирует кинематограф

Maxim
Как мужчине снимать нюдсы? Как мужчине снимать нюдсы?

Как снять идеальное «голое селфи»?

Maxim
10 чешских производителей самолётов, о которых никто не слышал 10 чешских производителей самолётов, о которых никто не слышал

Чехословакия славится своей авиационной промышленностью

Популярная механика
Спасти планету и жить счастливо: 7 книг об экологичном образе жизни, который можно начать уже сегодня Спасти планету и жить счастливо: 7 книг об экологичном образе жизни, который можно начать уже сегодня

Как помочь планете вернуть биоразнообразие и остановить глобальное потепление

Популярная механика
Почему женщины ненавидят: что такое женская мизогиния и как она влияет на гендерное равенство Почему женщины ненавидят: что такое женская мизогиния и как она влияет на гендерное равенство

Мизогиния: в чем причина неприязни женщин друг к другу?

Esquire
«Усоногий рак Чарльза Дарвина и паук Дэвида Боуи: Как научные названия воспевают героев, авантюристов и негодяев». Отрывок из книги «Усоногий рак Чарльза Дарвина и паук Дэвида Боуи: Как научные названия воспевают героев, авантюристов и негодяев». Отрывок из книги

Отрывок из книги Стивена Херда — что «нейминг» может рассказать об открытиях

СНОБ
Штрафы ГИБДД, на которые водители махнули рукой (накажут в любой момент) Штрафы ГИБДД, на которые водители махнули рукой (накажут в любой момент)

За какие неузаконенные улучшения и недочеты можно получить штраф

РБК
Посланник Христа: что думали писатели о Федоре Достоевском Посланник Христа: что думали писатели о Федоре Достоевском

Как мировая культура отозвалась на самого Достоевского

Esquire
Серебряная экономика Серебряная экономика

Проблема эйджизма в российском обществе и бизнесе

Forbes Life
Вырывать ресницы и есть перед ТВ: вредные привычки знаменитостей Вырывать ресницы и есть перед ТВ: вредные привычки знаменитостей

Какие привычки можно считать странностями, а какие — красными флажками?

РБК
Как открыть бизнес с родственниками и не разрушить семью Как открыть бизнес с родственниками и не разрушить семью

Семейный бизнес — отличная идея или полный провал?

GQ
Как родительские запреты могут портить нам жизнь Как родительские запреты могут портить нам жизнь

Бывает, человек вырос в хорошей семье, но его взрослая жизнь летит под откос

Psychologies
Когда психика толкает на преступление. Что такое клептомания Когда психика толкает на преступление. Что такое клептомания

Клептомания – тяжелое и опасное психическое расстройство

РБК
Как формат изакая-бар попал из Японии в Москву и почему стал таким популярным Как формат изакая-бар попал из Японии в Москву и почему стал таким популярным

Японский формат баров, которые называют изакая, успешно работает в Москве

Forbes
Открыть в приложении