О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Не продавай свою душу дешево»: чему учит стоицизм, по которому сходит с ума Кремниевая долина «Не продавай свою душу дешево»: чему учит стоицизм, по которому сходит с ума Кремниевая долина

Идеи античных философов стали невероятно популярными среди предпринимателей

Forbes
Он не Илон: как младший брат основателя Tesla скопил состояние в $700 млн Он не Илон: как младший брат основателя Tesla скопил состояние в $700 млн

Илон Маск — не единственный из Масков, разбогатевший благодаря инвестициям

Forbes
Из помазанников Божьих в святые мученики Из помазанников Божьих в святые мученики

Расстрел царской семьи — едва ли не самый хорошо исследованный сюжет

Дилетант
Как стартап Gatik доставляет товары на грузовиках без водителя Как стартап Gatik доставляет товары на грузовиках без водителя

За рулем грузовиков нет водителей — они самостоятельно курсируют по маршруту

Forbes
«Я тебя недостоин»: что значат некоторые фразы мужчин «Я тебя недостоин»: что значат некоторые фразы мужчин

Что на самом деле хочет сказать мужчина

VOICE
Материалы корпуса ноутбука: какой лучше выбрать Материалы корпуса ноутбука: какой лучше выбрать

Из каких вообще материалов производят ноутбуки и как выбрать подходящий?

Популярная механика
Самолюбие и внутренняя пустота: как распознать психопатку Самолюбие и внутренняя пустота: как распознать психопатку

Распознать женщину-психопатку не так-то просто — издалека они само очарование

Psychologies
Утюг, отпариватель или парогенератор – что выбрать для дома? Утюг, отпариватель или парогенератор – что выбрать для дома?

Что лучше – отпариватель или парогенератор для одежды?

CHIP
Все итоги хороши Все итоги хороши

Как научиться ценить разные результаты?

Домашний Очаг
Когда мы будем летать на аэротакси, как Брюс Уиллис в Когда мы будем летать на аэротакси, как Брюс Уиллис в

Какое аэротакси ожидает нас в ближайшем будущем?

Популярная механика
Что быстрые углеводы делают с телом и почему не все диетологи их запрещают Что быстрые углеводы делают с телом и почему не все диетологи их запрещают

Действительно ли быстрые углеводы являются причиной лишних кило?

Cosmopolitan
Семь советов, чтобы похудеть к Новому году Семь советов, чтобы похудеть к Новому году

Как легко похудеть на 5-6 килограмм?

Здоровье
Эпидемия незавершенных дел: как научиться доводить начатое до конца Эпидемия незавершенных дел: как научиться доводить начатое до конца

О том, как научиться доводить начатое до конца

Inc.
Открытки и плакаты из советского детства к празднику 7 Ноября Открытки и плакаты из советского детства к празднику 7 Ноября

Подборка советских открыток и плакатов к 7 Ноября. Возможны приступы ностальгии

Maxim
Шум катеров с бензиновыми двигателями помешал матерям-гриндам отдыхать и кормить детенышей Шум катеров с бензиновыми двигателями помешал матерям-гриндам отдыхать и кормить детенышей

Как катера с бензиновыми двигателями влияют на гринд

N+1
Время сказок Время сказок

Почему дети так любят сказки, стоит ли выбирать только «старые добрые» сказки

Домашний Очаг
Perlan 2: самолет, которому не нужно топливо Perlan 2: самолет, которому не нужно топливо

Сверхлегкий летательный аппарат Perlan 2

Популярная механика
Что Вирджил Абло сделал для модной индустрии Что Вирджил Абло сделал для модной индустрии

Вирджил Абло — художник, которого мы либо хвалили, либо критиковали

GQ
Звёздный состав Звёздный состав

Двухуровневый лофт в Москве с креативным интерьером

SALON-Interior
9 супермодных пар обуви, которые тебе могут не подойти — разбираемся почему 9 супермодных пар обуви, которые тебе могут не подойти — разбираемся почему

Рассмотрим актуальные модели обуви и расскажем, чем они опасны

Cosmopolitan
Фазаны и дрофы оказались любимой пищей древнекорейской знати Фазаны и дрофы оказались любимой пищей древнекорейской знати

Чем питались люди в Древней Корее?

N+1
Особенный стоматолог Особенный стоматолог

4 лайфхака, как выбрать имплантолога и не прогадать

Лиза
Как эмбрион человека прожил в пробирке 13 дней Как эмбрион человека прожил в пробирке 13 дней

Эмбрион в пробирке впервые прошел in vitro стадию бластоцисты

Популярная механика
Эффект Google: как справиться с цифровой амнезией Эффект Google: как справиться с цифровой амнезией

Почему мы не можем запомнить легкодоступную информацию

VC.RU
Все виды камер на дорогах: как выглядят, за что штрафуют (памятка) Все виды камер на дорогах: как выглядят, за что штрафуют (памятка)

Все о комплексах видеофиксации, работающих на дорогах России

РБК
Забытые советские марки: завод автобусов «Уралец» Забытые советские марки: завод автобусов «Уралец»

Видели когда-нибудь автобусы «Уралец»?

Популярная механика
Спектр масс черных дыр объяснили расширением Вселенной Спектр масс черных дыр объяснили расширением Вселенной

Рост массы черных дыр позволяет согласовать данные наблюдений с теорией

N+1
Особенности потусторонней охоты Особенности потусторонней охоты

«Охотники за привидениями: Наследники»: полтергейст 80-х как живой

Weekend
Как алкоголь, уединение и чтение помогают найти гениальное решение и войти в поток Как алкоголь, уединение и чтение помогают найти гениальное решение и войти в поток

Как нейронаука помогает добиваться продуктивности в бизнесе, спорте и жизни

Forbes
Морская тачанка. История первого катера на воздушной подушке Морская тачанка. История первого катера на воздушной подушке

Угадай, где придумали судно на воздушной подушке?

Maxim
Открыть в приложении