О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 бесчеловечных экспериментов, о которых мечтают ученые 10 бесчеловечных экспериментов, о которых мечтают ученые

Мечты научного сообщества, от которых по коже бегут мурашки

Maxim
Команда на удаленке: держать руку на пульсе или пистолет у виска? Команда на удаленке: держать руку на пульсе или пистолет у виска?

Где грань между заботой об эффективности сотрудников и тоталитарным давлением?

СНОБ
Страдания юных веганов Страдания юных веганов

Хроника мучений первых вегетарианцев в России

Weekend
«Нас считают вампирами». Мать и дочь преследуют за кожную аллергию на солнце «Нас считают вампирами». Мать и дочь преследуют за кожную аллергию на солнце

Женщину и ребенка преследуют религиозные фанатики, называя их вампирами

Cosmopolitan
5 самых кровавых революций в истории 5 самых кровавых революций в истории

Сколько стоит революция?

Maxim
Повелители стиля: история архитектора Евгения Коблова Повелители стиля: история архитектора Евгения Коблова

Почему сейчас дизайн квартир больше, чем просто смена обстановки

Cosmopolitan
Тамара Семина. Все начинается с дороги Тамара Семина. Все начинается с дороги

Я отправилась в Москву учиться на артистку для того, чтобы сбежать из дома

Караван историй
Про космос и медицину: какую научно-популярную литературу читают в России Про космос и медицину: какую научно-популярную литературу читают в России

Научпоп: больше всего россияне интересуются астрономией, космосом и медициной

Forbes
Эффект Google: как справиться с цифровой амнезией Эффект Google: как справиться с цифровой амнезией

Почему мы не можем запомнить легкодоступную информацию

VC.RU
Такие неопасные, но ужасные колики Такие неопасные, но ужасные колики

Младенческие колики отравляют жизнь всей семье, как с ними справиться?

Здоровье
Курс на груз Курс на груз

Как авиагруппа «Волга-Днепр» ворвалась в сотню крупнейших компаний России

РБК
Эффект Манделы и другие искажения памяти: психолог о том, почему с нами это случается Эффект Манделы и другие искажения памяти: психолог о том, почему с нами это случается

Ты тоже иногда думаешь, что закончил универ "только вчера"?

Playboy
«Ты пой ему больше песен». Почему Есенин бросил первую жену с сыном «Ты пой ему больше песен». Почему Есенин бросил первую жену с сыном

Анна Изряднова была, наверное, первой настоящей поклонницей Сергея Есенина

Cosmopolitan
Электромобиль для зумеров: WayRay Holograktor Электромобиль для зумеров: WayRay Holograktor

WayRay представила первый в мире электромобиль с голографическим AR-остеклением

Популярная механика
Действительно ли салемских ведьм сжигали на костре Действительно ли салемских ведьм сжигали на костре

Правда ли ведьм и колдунов в XVII сжигали на кострах?

Популярная механика
Перезагрузка Перезагрузка

Удалось ли вернуть к жизни сериал "Декстер" после восьмилетнего забвения

Esquire
Роберт Сапольски: «У человечества есть огромный фетиш — свобода воли» Роберт Сапольски: «У человечества есть огромный фетиш — свобода воли»

Роберт Сапольски — о том, как любовь и жизнь существуют в рамках свободы воли

Forbes Life
Людмила Гаврилова. Людмила Гаврилова.

История актрисы Людмилы Гавриловой

Коллекция. Караван историй
Биологи нашли гены долголетия тихоокеанских окуней Биологи нашли гены долголетия тихоокеанских окуней

Биологи выявили гены, связанные с высокой продолжительностью жизни у окуней

N+1
Правило № 68: Ребята, надо верить в чудеса Правило № 68: Ребята, надо верить в чудеса

Коуч Алексей Ситников объясняет, как выдать безумные фантазии за бизнес

Tatler
Тайна хрущёвок: зачем в старых квартирах делали окно между кухней и ванной? Тайна хрущёвок: зачем в старых квартирах делали окно между кухней и ванной?

Правда и мифы о том, зачем в квартирах делали окно между кухней и ванной

Cosmopolitan
Повесть о Настоящем Адвокате Повесть о Настоящем Адвокате

Адвокат Семён Ария и дело об убийстве супруг Раскиных

Дилетант
Беспроигрышная лотерея Беспроигрышная лотерея

Зачем аналитики и экономисты делают неверные прогнозы и не останавливаются

Forbes
Карты, деньги и дипфейки: как мошенники используют технологии для вымогательств Карты, деньги и дипфейки: как мошенники используют технологии для вымогательств

Сегодня можно генерировать изображения и видеоролики с несуществующими людьми

Inc.
Боги, люди и поганки Боги, люди и поганки

Грибы занимают уникальное место не только в биосфере, но и в истории цивилизации

Вокруг света
Как будущий американский самолет может доминировать в воздухе Как будущий американский самолет может доминировать в воздухе

ВВС США продолжает разработку новых истребителей

Популярная механика
Соединить экологию с экономикой Соединить экологию с экономикой

Как принципы ESG могут изменить современное производство

РБК
Как вернуть людей в офисы после удаленки Как вернуть людей в офисы после удаленки

Как снизить риски выгорания сотрудников в больших офисах?

СНОБ
Как выглядят люди, которых ты знаешь только по голосу: Алиса из колонки и другие Как выглядят люди, которых ты знаешь только по голосу: Алиса из колонки и другие

Ты точно слышала их голос, но вряд ли когда-нибудь видела лицо

Cosmopolitan
История о том, как астронавт НАСА чуть не утонул в скафандре во время выхода в открытый космос История о том, как астронавт НАСА чуть не утонул в скафандре во время выхода в открытый космос

Гаррет Райзман едва не стал первым космонавтом, утонувшим в космосе

Популярная механика
Открыть в приложении