О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как переживали изоляцию русские писатели и их герои Как переживали изоляцию русские писатели и их герои

Многих русских писателей коснулась изоляции: карантин или ссылка

Культура.РФ
Свобода власти: почему за 30 лет в России так и не появилось политической конкуренции Свобода власти: почему за 30 лет в России так и не появилось политической конкуренции

Почему в стране не возникло движений, способных оказать давление на власть

Forbes
Жатва Гиппократа Жатва Гиппократа

Что нового в медицине в последние 20 лет начавшегося века

Maxim
Материнская плата для майнинга: как выбрать лучший вариант? Материнская плата для майнинга: как выбрать лучший вариант?

Как не ошибиться при покупке материнской платы

CHIP
Искусство терять: роман о том, как мы продолжаем жить после утраты близких Искусство терять: роман о том, как мы продолжаем жить после утраты близких

Отрывок из книги Алис Зенитер «Искусство терять»

Forbes
Даже Питт и Гослинг: секс-символы Голливуда, о пластике которых ты вряд ли знала Даже Питт и Гослинг: секс-символы Голливуда, о пластике которых ты вряд ли знала

Рассказываем, на какие хирургические вмешательства решились эти актеры

Cosmopolitan
Как женщины-режиссеры борются за место в индустрии в России и мире Как женщины-режиссеры борются за место в индустрии в России и мире

Отрывок из книги Анжелики Артюх «Кинорежиссерки в современном мире»

Forbes
Горячие закуски на скорую руку: простые мужские рецепты Горячие закуски на скорую руку: простые мужские рецепты

Простые мужские блюда, которые ты легко сможешь повторить

Maxim
Секретные факты о рептилоидах Секретные факты о рептилоидах

Срываем покровы с истинных хозяев планеты

Maxim
Вива, Виктория! Вива, Виктория!

Виктория Мирошниченко — о мастерстве перевоплощения и сибирских травах

Grazia
Путеводитель по женской груди: 45 фактов о двух аргументах Путеводитель по женской груди: 45 фактов о двух аргументах

Научный мир по нашей просьбе бросился на изучение женской груди

Maxim
«Я не знаю, кто такой Юра Борисов, — в этом весь прикол» «Я не знаю, кто такой Юра Борисов, — в этом весь прикол»

Юра Борисов о фильмах «Бык», «Брат» и «Купе номер 6»

Weekend
Что такое спортивное питание, для чего оно нужно и стоит ли его использовать Что такое спортивное питание, для чего оно нужно и стоит ли его использовать

Что такое спортивное питание и кому оно нужно?

Maxim
Искусство жить красиво Искусство жить красиво

История у гостиницы «Метрополь» всегда была непростой

Караван историй
Можно ли собрать пушку Гаусса своими руками: силовая установка Можно ли собрать пушку Гаусса своими руками: силовая установка

Пистолет Гаусса – это самое серьезное оружие, которое мы когда-либо строили

ТехИнсайдер
Было, но не прошло: может ли бывший муж стать верным другом? Было, но не прошло: может ли бывший муж стать верным другом?

Если друг оказался вдруг... бывшим мужем, значит, у тебя все прекрасно!

Cosmopolitan
Штрафы ГИБДД, на которые водители махнули рукой (накажут в любой момент) Штрафы ГИБДД, на которые водители махнули рукой (накажут в любой момент)

За какие неузаконенные улучшения и недочеты можно получить штраф

РБК
Почему Стинг, Элтон Джон и Джеки Чан лишили детей наследства? Почему Стинг, Элтон Джон и Джеки Чан лишили детей наследства?

Эти знаменитости считают, что деньги испортят их наследников

Cosmopolitan
Бум иноязычного контента в эпоху кадрового кризиса: почему скоро некому будет переводить фильмы и сериалы Бум иноязычного контента в эпоху кадрового кризиса: почему скоро некому будет переводить фильмы и сериалы

Как «Игра в кальмара» привлекла внимание к сфере перевода

VC.RU
Археологи уточнили хронологию бронзового века в Минусинской котловине Археологи уточнили хронологию бронзового века в Минусинской котловине

Афанасьевцы пришли на Средний Енисей в XXX веке до нашей эры

N+1
В Южной Германии впервые обнаружили захоронение культуры колоколовидных кубков В Южной Германии впервые обнаружили захоронение культуры колоколовидных кубков

Символическую могилу сделали во второй половине III тысячелетия до нашей эры

N+1
Как строили Бурдж-Халифа и почему он до сих пор не упал: занимательное видео Как строили Бурдж-Халифа и почему он до сих пор не упал: занимательное видео

Как строили высочайшее здание в мире — Бурдж-Халифа

Популярная механика
«Купила 5 купальников, и все открытые»: псориаз мешал мне жить, но я справилась «Купила 5 купальников, и все открытые»: псориаз мешал мне жить, но я справилась

История Зарины, которая смогла вывести псориаз в ремиссию

Cosmopolitan
Не просто упаковка для еды, но и предмет искусства: история коробок для пиццы, рынок которых оценивается в $2 млрд Не просто упаковка для еды, но и предмет искусства: история коробок для пиццы, рынок которых оценивается в $2 млрд

Как появились коробки для пиццы из гофрокартона

VC.RU
Кто первый начал: что нам мешает считать микробов причиной аутизма Кто первый начал: что нам мешает считать микробов причиной аутизма

Не спешите лечить аутизм пересадкой кишечных бактерий

N+1
Совсем как женщина: Алина Фаркаш о феминистках и женском счастье Совсем как женщина: Алина Фаркаш о феминистках и женском счастье

Феминистка искренне уверена, что она ценна и прекрасна сама по себе

Cosmopolitan
No stress No stress

Профессиональная жизнь Анастасии Уколовой набирает обороты

OK!
Воскрешение в пробирке: вымершие животные, которых люди пытаются возродить Воскрешение в пробирке: вымершие животные, которых люди пытаются возродить

О нескольких проектах по восстановлению вымерших видов

Популярная механика
Земля – Орбита. Как отправить свое имя в космос? Земля – Орбита. Как отправить свое имя в космос?

Пластина — 10 на 15 мм, а имен — 22 772. Как всё уместить, Карл?

Популярная механика
Лучшие фильмы с музыкой Эннио Морриконе Лучшие фильмы с музыкой Эннио Морриконе

10 ноября в Риме родился человек, ставший звуковым знаком качества киноэкрана

Maxim
Открыть в приложении