О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На бумаге На бумаге

История простого, но удивительного изобретения

kiozk originals
Углекислый газ выступил катализатором получения амидов Углекислый газ выступил катализатором получения амидов

Ученые предложили экологичный и дешевый метод переамидирования

N+1
Страдания юных веганов Страдания юных веганов

Хроника мучений первых вегетарианцев в России

Weekend
Что быстрые углеводы делают с телом и почему не все диетологи их запрещают Что быстрые углеводы делают с телом и почему не все диетологи их запрещают

Действительно ли быстрые углеводы являются причиной лишних кило?

Cosmopolitan
Вальсирующие у царских врат. К 100-летию Государственного академического театра им. Евгения Вахтангова Вальсирующие у царских врат. К 100-летию Государственного академического театра им. Евгения Вахтангова

Премьера спектакля «Война и мир» Римаса Туминаса в Театре им. Вахтангова

СНОБ
Самолюбие и внутренняя пустота: как распознать психопатку Самолюбие и внутренняя пустота: как распознать психопатку

Распознать женщину-психопатку не так-то просто — издалека они само очарование

Psychologies
Вредно ли заряжать телефон по ночам? Вредно ли заряжать телефон по ночам?

Как и когда заряжать смартфон наилучшим образом

CHIP
В каких продуктах много витамина D В каких продуктах много витамина D

Как дефицит витамина D можно восполнить с помощью рациона

РБК
Как выглядят люди, которых ты знаешь только по голосу: Алиса из колонки и другие Как выглядят люди, которых ты знаешь только по голосу: Алиса из колонки и другие

Ты точно слышала их голос, но вряд ли когда-нибудь видела лицо

Cosmopolitan
Время сказок Время сказок

Почему дети так любят сказки, стоит ли выбирать только «старые добрые» сказки

Домашний Очаг
Спектр масс черных дыр объяснили расширением Вселенной Спектр масс черных дыр объяснили расширением Вселенной

Рост массы черных дыр позволяет согласовать данные наблюдений с теорией

N+1
Как токсичная гарь ДВС превращается в запах фиалок Как токсичная гарь ДВС превращается в запах фиалок

Разбираемся в машинерии, которая превращает токсичные выхлопы ДВС в запах фиалок

Популярная механика
Дело об убийстве угличском Дело об убийстве угличском

Дело розыскное 1591 года, об убийстве царевича Дмитрия Иоанновича

Дилетант
Правила счастливой жизни: 33 совета, за которые ты скажешь спасибо Правила счастливой жизни: 33 совета, за которые ты скажешь спасибо

Три десятка способов обеспечить себе счастливое будущее

Cosmopolitan
Дмитрий Брейтенбихер: «Сначала лучше, потом дешевле. Сначала доходы, потом расходы» Дмитрий Брейтенбихер: «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

ВТБ намерен развивать бизнес по работе с состоятельными клиентами

Forbes
Эксперт рассказал, какие позы для сна выбирают пары с самыми крепкими отношениями Эксперт рассказал, какие позы для сна выбирают пары с самыми крепкими отношениями

А ты спишь кабанчиком или ложечками?

Playboy
«Не доказано, что работает, доказано, что не работает» «Не доказано, что работает, доказано, что не работает»

Кто такие биохакеры сегодня?

Forbes Life
Зима близко! Очень смешные комиксы про жизнь девушек в холодный сезон Зима близко! Очень смешные комиксы про жизнь девушек в холодный сезон

Комиксы BlooMe точно поднимут тебе настроение в холодный сезон!

Cosmopolitan

Исполнилось 68 лет с момента испытаний первой советской водородной бомбы

Популярная механика
Даже Питт и Гослинг: секс-символы Голливуда, о пластике которых ты вряд ли знала Даже Питт и Гослинг: секс-символы Голливуда, о пластике которых ты вряд ли знала

Рассказываем, на какие хирургические вмешательства решились эти актеры

Cosmopolitan
Плазмида с CRISPR/Cas9 убила патогенные штаммы в кишечнике мыши Плазмида с CRISPR/Cas9 убила патогенные штаммы в кишечнике мыши

Ученым создали плазмиду с высокой скоростью конъюгации

N+1
В поисках утраченной В поисках утраченной

Какому Деду Морозу писать письма, чтобы вернуть нашу радость обратно?

Cosmopolitan
Главное терпение: как проходят самые долгие эксперименты в истории Главное терпение: как проходят самые долгие эксперименты в истории

Опыт с капающей смолой продолжается уже почти столетие

Популярная механика
Монетный сор: что не так с созданной последователями Дурова криптовалютой Toncoin Монетный сор: что не так с созданной последователями Дурова криптовалютой Toncoin

Что такое Toncoin и что с ней не так?

Forbes
Жизнь Фёдора Достоевского в 20 событиях Жизнь Фёдора Достоевского в 20 событиях

Главные события в удивительной биографии Фёдора Достоевского

Полка
Декольте, бархат, роскошные ноги: что нужно знать о стиле красавицы Шейлин Вудли Декольте, бархат, роскошные ноги: что нужно знать о стиле красавицы Шейлин Вудли

10 самых ярких образов Шейлин Вудли, в которых она выходила в свет

Cosmopolitan
Цветы, призрак и яйцо Фаберже: 7 необычных бутылок алкоголя, которые украсят коллекцию Цветы, призрак и яйцо Фаберже: 7 необычных бутылок алкоголя, которые украсят коллекцию

Алкоголь может быть не только напитком, но и предметом искусства

Playboy
В Дальневосточном заповеднике впервые сняли самую большую в мире медузу: видео В Дальневосточном заповеднике впервые сняли самую большую в мире медузу: видео

Познакомьтесь с гигантской волосистой цианеей

National Geographic
Станет больше пыток и коррупции. Чем нам всем грозит закрытие «Мемориала»* Станет больше пыток и коррупции. Чем нам всем грозит закрытие «Мемориала»*

Чем закрытие «Мемориала»* грозит обычным гражданам

СНОБ
По зову природы По зову природы

Мари Коберидзе во время родов отказалась от анестезии в пользу медитации

Tatler
Открыть в приложении