О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Похороны вприсядку и еще 10 удивительных церемоний погребения Похороны вприсядку и еще 10 удивительных церемоний погребения

Мы покажем тебе необычные ритуальные церемонии разных времен и народов

Maxim
Как перестать беспокоиться о том, что думают другие Как перестать беспокоиться о том, что думают другие

Как перестать волноваться из-за мнений окружающих по поводу вашей персоны

Psychologies
Жизнь на грани полной катастрофы Жизнь на грани полной катастрофы

Как преодолеть физическую и эмоциональную боль?

kiozk originals
Действительно ли темная тема на компьютере экономит заряд батареи Действительно ли темная тема на компьютере экономит заряд батареи

Поможет ли переход на темную тему продлить работу ПК?

Популярная механика
Физики разобрались в стабильности стоячей молекулы Физики разобрались в стабильности стоячей молекулы

Физики выяснили причину необычного поведения молекулы кислоты

N+1
Почему Россия не стремится защищать Армению от азербайджанского вторжения Почему Россия не стремится защищать Армению от азербайджанского вторжения

Нельзя защищать тех, кто сделал все, чтобы сдать свои территории

СНОБ
10 программ для рисования на графическом планшете 10 программ для рисования на графическом планшете

Paint, Gimp и другие программы для диджитал-художников

CHIP
Когда наш эротический сон — не про секс? Когда наш эротический сон — не про секс?

Наши героини рассказали о своих эротических снах, а сексолог их проанализировала

Psychologies
Любовь и маркетинг — что общего? Как устроить личную жизнь по законам рынка Любовь и маркетинг — что общего? Как устроить личную жизнь по законам рынка

Можно ли найти любовь, используя научный подход?

Cosmopolitan
Закон не всегда суров: необычные наказания за реальные проступки Закон не всегда суров: необычные наказания за реальные проступки

Оказаться на скамье подсудимых не всегда означает получить срок или штраф

Playboy
Звезда нашего периода Звезда нашего периода

Узнаем у Ренаты Литвиновой, почему она считает бриллианты своими оберегами

Glamour
Николай Цискаридзе: те, кого он любил Николай Цискаридзе: те, кого он любил

Николай Цискаридзе — талант, влюбленность в искусство и бойцовский характер

СНОБ
Минералка без газа и кофе с маслом: что пить на интервальном голодании Минералка без газа и кофе с маслом: что пить на интервальном голодании

Можно ли пить и что именно во время интервального голодания?

Cosmopolitan
Вива, Виктория! Вива, Виктория!

Виктория Мирошниченко — о мастерстве перевоплощения и сибирских травах

Grazia
Розовая вода (гидролат розы): чем полезна для кожи, глаз и горла Розовая вода (гидролат розы): чем полезна для кожи, глаз и горла

Преимущества розовой воды и инструкция для ее самостоятельного приготовления

РБК
Тамара Семина. Все начинается с дороги Тамара Семина. Все начинается с дороги

Я отправилась в Москву учиться на артистку для того, чтобы сбежать из дома

Караван историй
Холодный расчет Холодный расчет

Чем народная практика купания в проруби привлекла богатых и продвинутых

Vogue
Одна вокруг света: камень размером с гору и разноцветный город Одна вокруг света: камень размером с гору и разноцветный город

148-я серия о кругосветном путешествии москвички Ирины Сидоренко: Колумбия

Forbes
Как собрать вокруг себя карьерных единомышленников Как собрать вокруг себя карьерных единомышленников

Как собрать вокруг себя крепкую и эффективную команду?

GQ
«Сом»: как русская подлодка затонула в Швеции «Сом»: как русская подлодка затонула в Швеции

На глубине действительно лежали останки российской подлодки «СОМЪ»

Популярная механика
Оборот в ₽500 млн и Хайди Клум среди клиентов: история бренда Monochrome Оборот в ₽500 млн и Хайди Клум среди клиентов: история бренда Monochrome

Сооснователи российского бренда оверсайз-одежды Monochrome

РБК
Как может работать «налог на миллиардеров», из-за которого Маск задумал продать 10% своих акций Tesla Как может работать «налог на миллиардеров», из-за которого Маск задумал продать 10% своих акций Tesla

Как миллиардеры в США пытаются обойти налоговый кодекс

VC.RU
Гастрономическая карта Гастрономическая карта

Гастрономические удовольствия – неотъемлемая часть любого путешествия

Лиза
Основатель «2ГИС» Александр Сысоев: «Сейчас мы даём технологии экосистеме “Сбера”, потом — она нам» Основатель «2ГИС» Александр Сысоев: «Сейчас мы даём технологии экосистеме “Сбера”, потом — она нам»

Основатель «2ГИС» — как сервис вписался в экосистему «Сбера»

VC.RU
Как крупные компании поддерживают современное искусство Как крупные компании поддерживают современное искусство

Застройщик Hutton Development позволяет художникам украшать свои жилые комплексы

GQ
Искусство терять: роман о том, как мы продолжаем жить после утраты близких Искусство терять: роман о том, как мы продолжаем жить после утраты близких

Отрывок из книги Алис Зенитер «Искусство терять»

Forbes
Корейский мастер-класс Корейский мастер-класс

Сияющие ухоженные лица жительниц Кореи – визитная карточка этой страны

Здоровье
Перестань заедать стресс! Как победить жор на нервной почве? Перестань заедать стресс! Как победить жор на нервной почве?

Мы часто едим вовсе не потому, что голодны, а от скуки или в состоянии стресса

Cosmopolitan
Телесно-ориентированная психотерапия: что это, как работает, где обучают Телесно-ориентированная психотерапия: что это, как работает, где обучают

Все самое важное о телесно-ориентированной психотерапии — в этом материале

РБК
Ей 21, ему 59: что известно о мисс Россия-2018, родившей дочь миллиардеру Тарико Ей 21, ему 59: что известно о мисс Россия-2018, родившей дочь миллиардеру Тарико

У Рустама Тарико новая возлюбленная

Cosmopolitan
Открыть в приложении