О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Фата по талонам и спиртное по карточкам: как праздновали свадьбы в 1980-х Фата по талонам и спиртное по карточкам: как праздновали свадьбы в 1980-х

Как в предперестроечные времена устраивали свадьбы

Psychologies
Разнообразие как ключ к счастливой и осмысленной жизни Разнообразие как ключ к счастливой и осмысленной жизни

Говорят, разнообразие придает жизни вкус. Но что конкретно мы можем сделать?

Psychologies
Двухсотлетний Тарас Двухсотлетний Тарас

Что не так в гоголевской хронологии истории Тараса Бульбы

Дилетант
Начистоту: новые фото Навки, Бузовой, Бони и других звезд без макияжа и ретуши Начистоту: новые фото Навки, Бузовой, Бони и других звезд без макияжа и ретуши

Смотреть на фото звезд без макияжа всегда безумно интересно!

Cosmopolitan
Бокальчик-другой Бокальчик-другой

Как понять, что с алкоголем пора завязывать

Лиза
Как заплатить фрилансеру: десять сервисов Как заплатить фрилансеру: десять сервисов

Как можно упростить работу с фрилансерами, хоть и не бесплатно

VC.RU
Чего хотят звезды: самые желанные женщины России о сексе и отношениях Чего хотят звезды: самые желанные женщины России о сексе и отношениях

Звезды рассказывают, как снискать успех даже у гиперпопулярных женщин

Maxim
Если пупок надоел Если пупок надоел

Места, которые мы постоянно видим и трогаем, а названий-то и не знаем

Maxim
Лучшие фильмы с музыкой Эннио Морриконе Лучшие фильмы с музыкой Эннио Морриконе

10 ноября в Риме родился человек, ставший звуковым знаком качества киноэкрана

Maxim
Сергей Долмов: Как бороться с пьяными водителями Сергей Долмов: Как бороться с пьяными водителями

Пьяные водители стали самым настоящим бичом российских автодорог

СНОБ
Можно ли собрать пушку Гаусса своими руками: силовая установка Можно ли собрать пушку Гаусса своими руками: силовая установка

Пистолет Гаусса – это самое серьезное оружие, которое мы когда-либо строили

ТехИнсайдер
«Мальчики открыли ротики». Как Оксимирон спровоцировал противостояние мужчин и разозлил женщин «Мальчики открыли ротики». Как Оксимирон спровоцировал противостояние мужчин и разозлил женщин

Оксимирон выпустил трек, который окрестили сеансом психотерапии

СНОБ
Майнинг: что это, как работает и для чего используется Майнинг: что это, как работает и для чего используется

основные принципы майнинга, что это такое и как все работает

CHIP
О перспективах спасения планеты О перспективах спасения планеты

Как человечество планирует бороться с глобальным изменением климата

СНОБ
Как перенести чаты WhatsApp со смартфона Android на iPhone Как перенести чаты WhatsApp со смартфона Android на iPhone

Как правильно перенести чаты WhatsApp со смартфона Android на iPhone

CHIP
Как Чарльз Мэнсон повлиял на современную культуру: фильмы, сериалы, музыка о лидере смертоносного культа Как Чарльз Мэнсон повлиял на современную культуру: фильмы, сериалы, музыка о лидере смертоносного культа

Как Мэнсон повлиял на то, каким мы видим сегодняшний мир

Maxim
Стрельба по орбите: зачем Россия сбила советский спутник Стрельба по орбите: зачем Россия сбила советский спутник

Россия продемонстрировала свои возможности сбивать спутники на низкой орбите

Forbes
Провал Zillow на $500 млн — ошибка в расчетах гиганта индустрии или убыточная бизнес-модель? Провал Zillow на $500 млн — ошибка в расчетах гиганта индустрии или убыточная бизнес-модель?

Автоматизированная покупка и продажа жилья — плохая идея?

Inc.
Скрытые фигуры: почему из пяти основателей Tesla только двое стали богатыми Скрытые фигуры: почему из пяти основателей Tesla только двое стали богатыми

Почему не всем основателям Tesla удалось заработать состояние?

Forbes
Волчья собака Сарлоса Волчья собака Сарлоса

Ручной волк

Weekend
Игры разума Игры разума

Дорн и Чумаченко — о том, где проходит грань между творчеством и алгоритмами

Esquire
По зову природы По зову природы

Мари Коберидзе во время родов отказалась от анестезии в пользу медитации

Tatler
Декольте, бархат, роскошные ноги: что нужно знать о стиле красавицы Шейлин Вудли Декольте, бархат, роскошные ноги: что нужно знать о стиле красавицы Шейлин Вудли

10 самых ярких образов Шейлин Вудли, в которых она выходила в свет

Cosmopolitan
Клуб самоучек. Разговор режиссера Ильи Найшуллера с художником Александром Sub Sensus — о том, как нырнуть в бассейн с головой, не умея плавать Клуб самоучек. Разговор режиссера Ильи Найшуллера с художником Александром Sub Sensus — о том, как нырнуть в бассейн с головой, не умея плавать

Илья Найшуллер и Александр Sub Sensus — как чувствуют себя в свободном плавании

Esquire
У крымского степняка обнаружили крупнейшую для бронзового века прижизненную трепанацию черепа У крымского степняка обнаружили крупнейшую для бронзового века прижизненную трепанацию черепа

Древний хирург провел трепанацию черепа с помощью каменных инструментов

N+1
«Мать выгнала меня из дома. А теперь ждет, что я стану ухаживать за ней» «Мать выгнала меня из дома. А теперь ждет, что я стану ухаживать за ней»

Обязаны ли взрослые дети помогать родителям?

Psychologies
Зачем на каждый Новый год наряжают ёлку? Зачем на каждый Новый год наряжают ёлку?

Откуда взялась мода украшать на Новый Год и Рождество хвойные деревья

Cosmopolitan
Одна вокруг света: путешествие на лодке и знакомство с индейцами куна Одна вокруг света: путешествие на лодке и знакомство с индейцами куна

146-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Он же памятник! Звезды и их откровенные фотографии на фоне храмов Он же памятник! Звезды и их откровенные фотографии на фоне храмов

Самые громкие истории с эпатажными фотографиями на фоне храмов

Cosmopolitan
Кокни, скауз и королевский английский: как рождаются акценты в языке Кокни, скауз и королевский английский: как рождаются акценты в языке

Рассказываем о британских акцентах и их происхождении

Популярная механика
Открыть в приложении