О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Горные инженеры «залечат» выработанные шахты техногенными отходами Горные инженеры «залечат» выработанные шахты техногенными отходами

Молодые ученые Горного института разработали инновационный закладочный материал

Популярная механика
Джентльмен удачи Джентльмен удачи

Александр Цыпкин – писатель, сценарист, а с недавних пор и актер дает советы

Playboy
Инвентаризация ценностей князя Юсупова Инвентаризация ценностей князя Юсупова

Князья Юсуповы были богатейшей семьёй России

Дилетант
Тракторист-шахтер: что известно о владельце шахты «Листвяжная» Тракторист-шахтер: что известно о владельце шахты «Листвяжная»

Как Федяев прошел путь от тракториста до угольного магната и миллиардера

Forbes
“Зеленый” подросток: может ли молодое поколение спасти мир “Зеленый” подросток: может ли молодое поколение спасти мир

Для молодого поколения “зеленая” повестка занимает особое место в жизни

Популярная механика
Китайские, глобальные и российские смартфоны Xiaomi: чем они отличаются? Китайские, глобальные и российские смартфоны Xiaomi: чем они отличаются?

Чем отличаются версии Xiaomi для разных рынков?

CHIP
Как расстаться с девушкой так, чтобы ваши дальнейшие отношения развивались по твоему сценарию Как расстаться с девушкой так, чтобы ваши дальнейшие отношения развивались по твоему сценарию

Если вы наконец расходитесь, то эти советы придутся кстати

Maxim
Есть можно всегда: что такое грязное голодание Есть можно всегда: что такое грязное голодание

Диета, при которой необходимо есть в определенный интервал в течении дня

Cosmopolitan
Пограничное состояние Пограничное состояние

Александр Добровинский с нежностью вспоминает месть любимой женщины

Tatler
Не только мужское либидо: зачем тестостерон нужен людям обоих полов Не только мужское либидо: зачем тестостерон нужен людям обоих полов

Гормон тестостерон — герой множества мифов

РБК
Первая помощь при инсульте: что делать до приезда скорой Первая помощь при инсульте: что делать до приезда скорой

Подробный гид по оказанию первой помощи при инсульте

РБК
Презервативы-унисекс: что это такое, как они работают и кому подойдут Презервативы-унисекс: что это такое, как они работают и кому подойдут

Стартап Wondaleaf Uni Condom занимается производством презервативов унисекс

Cosmopolitan
Ольга Кабо: «Я могла стать первой актрисой в космосе» Ольга Кабо: «Я могла стать первой актрисой в космосе»

Ольга Кабо о школе, детских мечтах и неизменной любви к кино

Лиза
Тизнаос: самодельные испанские броневики времен Гражданской войны Тизнаос: самодельные испанские броневики времен Гражданской войны

Тизнаос — алмаз самодельных броневиков Испании

Популярная механика
Нормы красоты Нормы красоты

Какие проблемы сегодня актуальны для индустрии красоты?

Forbes Life
Кожа, шпон и роботы: где и как производят Aurus Кожа, шпон и роботы: где и как производят Aurus

Как производят самые передовые автомобили России

РБК
8 мужских поступков, от которых девушек передергивает 8 мужских поступков, от которых девушек передергивает

Эти твои милые и галантные поступки могут казаться твоей девушке извращенными

Maxim
Без кисельных берегов: кому и как можно худеть на молочной диете Без кисельных берегов: кому и как можно худеть на молочной диете

Как работает молочная диета и насколько она эффективна?

Cosmopolitan
«Карандаш в стакане»: пять страшилок, которыми пугают женщин за 40 «Карандаш в стакане»: пять страшилок, которыми пугают женщин за 40

Чем мужчины любят пугать женщин, возраст которых перевалил за 40

Cosmopolitan
15 способов нравиться людям 15 способов нравиться людям

15 общеизвестных банальных правил: как нравиться людям

Maxim
«Я больше не могу»: 5 шагов в борьбе с эмоциональным выгоранием «Я больше не могу»: 5 шагов в борьбе с эмоциональным выгоранием

«Работа надоела настолько, что не могу себя заставить включить утром ноутбук»

Psychologies
Дело об убийстве угличском Дело об убийстве угличском

Дело розыскное 1591 года, об убийстве царевича Дмитрия Иоанновича

Дилетант
Сексуальная зависимость или просто любовь к сексу? Когда пора бить тревогу Сексуальная зависимость или просто любовь к сексу? Когда пора бить тревогу

Вы «сексоголик» или у вас просто высокое либидо?

Psychologies
Магнитным частицам во внутреннем ухе голубей отказали в роли магниторецепторов Магнитным частицам во внутреннем ухе голубей отказали в роли магниторецепторов

Биофизики выяснили, что кутикулосомы не участвуют в механизме магнитной рецепции

N+1
Почему ногти на руках растут быстрее, чем на ногах Почему ногти на руках растут быстрее, чем на ногах

Замечали ли вы, что ногти на ваших руках растут быстрее, чем на ногах?

Популярная механика
Химики оценили эффективность переработки океанского пластикового мусора на борту корабля Химики оценили эффективность переработки океанского пластикового мусора на борту корабля

Работа кораблей-мусорщиков выгоднее, чем транспортировка мусора на берег

N+1
Физики измерили волновые функции свободных дырок Физики измерили волновые функции свободных дырок

Физики исследовали поляризационные свойства компонент высшего порядка

N+1
Как выбрать зимние шины: 5 важных советов для тех, кто еще не переобулся Как выбрать зимние шины: 5 важных советов для тех, кто еще не переобулся

Когда переобуваться, как подобрать модель шин и нужный размер?

РБК
Власти заработали на налоговом маневре для IТ-компаний 48 млрд рублей Власти заработали на налоговом маневре для IТ-компаний 48 млрд рублей

О результатах введения налоговых послаблений для российских IT-компаний

Forbes
Александр «Чача» Иванов Александр «Чача» Иванов

Ветеран панк-рока рассказал о своих отношениях со спиртным, религией и музыкой

Maxim
Открыть в приложении