О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вторая квантовая революция Вторая квантовая революция

Сергей Кулик — о том, насколько мы близки к прорыву в квантовых технологиях

Эксперт
Его запах бесит: 5 признаков, что вашим отношениям пришел конец Его запах бесит: 5 признаков, что вашим отношениям пришел конец

Вот подсказки, которые помогут тебе понять: пора расстаться

Cosmopolitan
Скопцы: самая загадочная и влиятельная секта кастратов в России Скопцы: самая загадочная и влиятельная секта кастратов в России

Об одной из самых влиятельных и странных сект России — скопцах

Cosmopolitan
Хорошо забытое Хорошо забытое

Сколько кулинарных чудес произошло благодаря этому досадному свойству: забывать

Psychologies
Держим спину Держим спину

Что влияет на осанку и как о ней правильно заботиться

Лиза
Детей в Древнем Перу отлучили от груди на третьем году жизни Детей в Древнем Перу отлучили от груди на третьем году жизни

Биоархеологи исследовали останки 48 детей, похороненных около 2500 лет назад

N+1
Как правильно наносить термопасту на процессор? Как правильно наносить термопасту на процессор?

Некоторые нюансы при замене термопасты на процессоре

CHIP
«Нужно не бороться, а жить»: онколог о борьбе с раком и партнерском подходе к лечению «Нужно не бороться, а жить»: онколог о борьбе с раком и партнерском подходе к лечению

Онколог — о том, чем западные стандарты лечения отличаются от российских

Forbes
Мы созданы для жизни вдвоем? Мы созданы для жизни вдвоем?

Люди предназначены для жизни вдвоем или в одиночестве?

Psychologies
Как меня посадили Как меня посадили

Писатель Таша Карлюка о том, как провела двое суток в тюрьме аэропорта

СНОБ
12 главных электромобилей 2021 года 12 главных электромобилей 2021 года

Тренд автомобилей 2021 года — сила тока

Playboy
Ляйсан Утяшева: «Я обожаю эксперименты!» Ляйсан Утяшева: «Я обожаю эксперименты!»

Ляйсан Утяшева — о счастливого браке и любви к разным творческим форматам

Cosmopolitan
Пепел миров: как мертвые звезды помогли заглянуть в недра далеких планет Пепел миров: как мертвые звезды помогли заглянуть в недра далеких планет

Американские ученые всмотрелись в остывающие звезды

Forbes
Flying Phantom: невероятные яхты, которые летят по волнам Flying Phantom: невероятные яхты, которые летят по волнам

Катамараны Flying Phantom стремительно ворвались в парусный спорт

Популярная механика
Как устроена цензура в Китае Как устроена цензура в Китае

Как устроена китайская цензура и как журналисты дружат с цензорами

Esquire
White Punk – о провинции, индустрии и воссоединении YungRussia White Punk – о провинции, индустрии и воссоединении YungRussia

Интервью с White Punk – о прошлом и настоящем рэп-музыки

GQ
Как родительские запреты могут портить нам жизнь Как родительские запреты могут портить нам жизнь

Бывает, человек вырос в хорошей семье, но его взрослая жизнь летит под откос

Psychologies
Темные пятна и светлые головы: 5 увлекательных книг по истории России Темные пятна и светлые головы: 5 увлекательных книг по истории России

Книги, которые помогут составить объективную картину прошлого России

Популярная механика
«Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД «Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД

Что раздражает инспекторов ГИБДД на дороге и как отучить автомобилистов нарушать

РБК
Чиновница и ее таблетки. Да еще от чего! Чиновница и ее таблетки. Да еще от чего!

Российский сериал «Чиновница». Криминальный триллер вперемешку с мелодрамой

Эксперт
Стрижка «веник»: что мы знаем о горячем hair-тренде этой зимы Стрижка «веник»: что мы знаем о горячем hair-тренде этой зимы

Чем прическа «веник» отличается от классического боба

Cosmopolitan
Спи в носках! Для этого есть 5 важных причин Спи в носках! Для этого есть 5 важных причин

Не вредно ли спать в носках?

Cosmopolitan
Спроси VC: почему стартапу не нужна свободная конкуренция Спроси VC: почему стартапу не нужна свободная конкуренция

Почему стартапу важно занимать доминирующее положение в важных для бизнеса нишах

Forbes
Тянуть за язык: с какими запросами россияне обращаются в справочные службы русского языка Тянуть за язык: с какими запросами россияне обращаются в справочные службы русского языка

Забавные запросы в справочные службы русского языка

Esquire
Опасности метавселенных: что прогнозируют фантасты Опасности метавселенных: что прогнозируют фантасты

Книги о том, какие опасности могут сулить метавселенные

Популярная механика
“Мы пытаемся, но не слышим друг друга” “Мы пытаемся, но не слышим друг друга”

Конфликтолог Олег Иванов помогает Вике и Антону разобраться в своих отношениях

Psychologies
«Красное уведомление»: Дуэйн Джонсон, Райан Рейнольдс и Галь Гадот охотятся за яйцами Клеопатры «Красное уведомление»: Дуэйн Джонсон, Райан Рейнольдс и Галь Гадот охотятся за яйцами Клеопатры

Рассказываем, стоит ли смотреть новое кино от Netflix — «Красное уведомление»

GQ
Чем хороши новые Genesis G70 и GV70 Чем хороши новые Genesis G70 и GV70

Оцениваем возможности новых автомобилей корейской марки Genesis

Esquire
«Девочки» выросли: дружба, отношения и поиск себя в сериале «Женщины за сорок» «Девочки» выросли: дружба, отношения и поиск себя в сериале «Женщины за сорок»

Четыре героини, большой город, отношения с мужьями, настоящая дружба

Forbes
«Глядя в бездну. Заметки нейропсихиатра о душевных расстройствах» «Глядя в бездну. Заметки нейропсихиатра о душевных расстройствах»

Отрывок из книги нейропсихиатра о душевных расстройствах

N+1
Открыть в приложении