О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как в «Чёрном зеркале»: нейросеть GPT-3 помогла канадцу «связаться» с умершей невестой — в ИИ-чате Как в «Чёрном зеркале»: нейросеть GPT-3 помогла канадцу «связаться» с умершей невестой — в ИИ-чате

C помощью ИИ можно «оживить» умерших, но их всё равно придётся потерять

VC.RU
Перейти на зеленый. Стать вегетарианцем и не навредить своему здоровью Перейти на зеленый. Стать вегетарианцем и не навредить своему здоровью

Как правильно перейти на вегетарианство?

Лиза
Идея: Читать живопись Идея: Читать живопись

Инсталляция «Апология иммерсивной пустоты» – искусство не для всех

Maxim
Как выбрать косметику онлайн в «черную пятницу» и купить то, что точно подойдет Как выбрать косметику онлайн в «черную пятницу» и купить то, что точно подойдет

Онлайн-покупка косметики. На что обратить внимание

Cosmopolitan
Дмитрий Брейтенбихер: «Сначала лучше, потом дешевле. Сначала доходы, потом расходы» Дмитрий Брейтенбихер: «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

ВТБ намерен развивать бизнес по работе с состоятельными клиентами

Forbes
Гид по татуировкам Гид по татуировкам

Тренды в тату-индустрии

Playboy
Он - великан, а она - карлица: фильмы о необычных историях любви Он - великан, а она - карлица: фильмы о необычных историях любви

Все различия не имеют значения, когда речь заходит о любви

Cosmopolitan
Настоящая фея-крестная: главная спасительница по знаку зодиака - кто она? Настоящая фея-крестная: главная спасительница по знаку зодиака - кто она?

Кто из знаков зодиака готов всю себя положить, чтобы помочь другим

Cosmopolitan
Физики экспериментально обнаружили паулевскую блокировку светорассеяния Физики экспериментально обнаружили паулевскую блокировку светорассеяния

Эффект паулевской блокировки светорассеяния искали 30 лет

N+1
Источники питания Источники питания

Что такое ресурс, зачем он нужен и как соотносится с заботой о себе?

Glamour
Лингвисты назвали Северо-Восточный Китай прародиной трансевразийских языков Лингвисты назвали Северо-Восточный Китай прародиной трансевразийских языков

Ученые исследовали происхождение трансевразийских языков

N+1
Что вы тут устроили? Что вы тут устроили?

Виктория Шелягова в этом году организовала слишком много мероприятий

Tatler
Считаем, сколько заработали участники турнира UFC 268 Считаем, сколько заработали участники турнира UFC 268

Участники турнира UFC 268 выбили 268 578 680 рублей

Maxim
5 женских поступков, которые мужчины считают пассивной агрессией 5 женских поступков, которые мужчины считают пассивной агрессией

Мы спросили у мужчин, что они считают скрытой агрессией со стороны женщин

Psychologies
Герой и предатель Герой и предатель

Как подружились британский продавец и советский шпион

Дилетант
Вперед в прошлое: почему кнопочные телефоны до сих пор не пропали с прилавков Вперед в прошлое: почему кнопочные телефоны до сих пор не пропали с прилавков

В чем секрет длительной актуальности кнопочных телефонов

Популярная механика
Таки хороший доктор Таки хороший доктор

«Психиатр по соседству»: комедийный психотриллер о реальных событиях

Weekend
Почему мы забываем, зачем шли в другую комнату: дело не в возрасте или усталости Почему мы забываем, зачем шли в другую комнату: дело не в возрасте или усталости

С тобой бывало такое — заходишь на кухню и не понимаешь зачем?

Cosmopolitan
Дедвлей, Намибия Дедвлей, Намибия

Пятачок, на котором встретились сразу несколько природных аномалий и подружились

Maxim
Личинки данио-рерио успели починить ДНК в нейронах за шесть часов сна Личинки данио-рерио успели починить ДНК в нейронах за шесть часов сна

Эффективность репарации ДНК в нейронах данио-рерио зависела от количества сна

N+1
Не узнает лицо и не зарядится: чем грозят попытки самостоятельно починить смартфон Не узнает лицо и не зарядится: чем грозят попытки самостоятельно починить смартфон

Стремление сэкономить на ремонте телефона привести к еще большим расходам

Playboy
Материалы корпуса ноутбука: какой лучше выбрать Материалы корпуса ноутбука: какой лучше выбрать

Из каких вообще материалов производят ноутбуки и как выбрать подходящий?

Популярная механика
Тургенев, Vogue, сладости: странности и чудачества Федора Достоевского Тургенев, Vogue, сладости: странности и чудачества Федора Достоевского

Странные факты о Федоре Достоевском, которых вы не знали

Esquire
Дыши глубже! Дыши глубже!

10 комнатных растений, которые очищают и обеззараживают воздух в квартире

Лиза
Как женщины справляются с травлей на кухне ресторанов и становятся шеф-поварами Как женщины справляются с травлей на кухне ресторанов и становятся шеф-поварами

Алена Солодовиченко о травле со стороны коллег-мужчин и жестких нравах на кухне

Forbes
Как понять, что у тебя есть проблемы со стилем — 7 неочевидных признаков Как понять, что у тебя есть проблемы со стилем — 7 неочевидных признаков

Главные модные ошибки, которые мешают выглядеть стильно

Cosmopolitan
Волшебный топ: 7 отличных фильмов про магию и колдовство Волшебный топ: 7 отличных фильмов про магию и колдовство

Многим хочется верить в сказки, поэтому мы собрали для вас 7 колдовских фильмов

Cosmopolitan
Почему нас раздражает собственный голос в записи? Почему нас раздражает собственный голос в записи?

Нам не нравится свой голос в записи, потому что мы не узнаем себя

Cosmopolitan
Божья коровка, обезьяна и другие существа, которых врачи находили в желудках у пациентов Божья коровка, обезьяна и другие существа, которых врачи находили в желудках у пациентов

Насекомые, рыбы, грызуны и прочие обитатели живота человека

Playboy
Эмили Ратаковски выпустила книгу Эмили Ратаковски выпустила книгу

Интервью с Эмили Ратаковски в преддверии выхода ее книги "Мое тело"

Esquire
Открыть в приложении