Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Жарим правильно: 5 правил идеального сочного стейка своими руками от шеф-повара Жарим правильно: 5 правил идеального сочного стейка своими руками от шеф-повара

Советы от шефа и тот самый рецепт, который может стать твоим фирменным

Playboy
10 шагов к пониманию Дэвида Линча 10 шагов к пониманию Дэвида Линча

Разбираемся, как понимать пресловутую линчевскую иносказательность

Esquire
Virgin Orbit впервые запустила ракету-носитель LauncherOne с самолета Virgin Orbit впервые запустила ракету-носитель LauncherOne с самолета

Компания Virgin Orbit впервые запустила ракету-носитель LauncherOne

N+1
Комментировать тело вашего партнера – плохая затея Комментировать тело вашего партнера – плохая затея

Мы не прочь услышать голую правду, но лишь когда на ней что-то надето

GQ
Дэвид Линч и «Твин Пикс»: 10 главных заблуждений Дэвид Линч и «Твин Пикс»: 10 главных заблуждений

Мифы, которыми оброс и продолжает обрастать «Твин Пикс»

Esquire
«Самые хрупкие в мире плечики»: эксклюзивная публикация писем Эдуарда Лимонова графине Елене Щаповой де Карли «Самые хрупкие в мире плечики»: эксклюзивная публикация писем Эдуарда Лимонова графине Елене Щаповой де Карли

Отрывки из писем Эдуарда Лимонова графине Елены Щаповой де Карли

Forbes
Ученые решили одну из главных проблем солнечных панелей Ученые решили одну из главных проблем солнечных панелей

У солнечных панелей есть один существенный недостаток

Популярная механика
«Маячки», по которым манипуляторы вычисляют жертв «Маячки», по которым манипуляторы вычисляют жертв

Чем опасны личностные проблемы и как не дать манипулятору ими воспользоваться?

Psychologies
Ричард Докинз: Высокомерие религии, скромность науки и интеллектуальное и нравственное бесстрашие атеизма Ричард Докинз: Высокомерие религии, скромность науки и интеллектуальное и нравственное бесстрашие атеизма

Отрывок из дискуссии интеллектуалов о вере, атеизме, религии и многом другом

СНОБ
«Застенчивая невеста»: она отвергла 65 предложений руки и сердца «Застенчивая невеста»: она отвергла 65 предложений руки и сердца

Героиня нашего материала предпочла остаться в одиночестве

Cosmopolitan
Перенос контактов с iPhone на Android: 5 способов Перенос контактов с iPhone на Android: 5 способов

Как перенести контакты с iPhone на Android?

CHIP
В поисках идеала В поисках идеала

Как найти работу, которая не только приносит доход, но и радость?

Лиза
Патриарх Иван Ильич, крепостная Брежнева и императрица Катюша Патриарх Иван Ильич, крепостная Брежнева и императрица Катюша

Сергей Ходнев о приключениях русских фамилий и обстоятельств в сериале «Великая»

Weekend
Как умные люди делают убогую рекламу (быль) Как умные люди делают убогую рекламу (быль)

Откуда берется скучная и бездарная реклама?

Esquire
Сон или зубрежка всю ночь? Ответ подсказали мозговые волны Сон или зубрежка всю ночь? Ответ подсказали мозговые волны

Научные доказательства того, что сон очень важен в процессе запоминания

Популярная механика
Пересадка бороды: 6 ответов на главные вопросы Пересадка бороды: 6 ответов на главные вопросы

Рассказываем обо всех тонкостях пересадки бороды

Playboy
Сюжетные дыры и вопиющие ляпы всех-всех фильмов Marvel Сюжетные дыры и вопиющие ляпы всех-всех фильмов Marvel

Ошибки в фильмах дают повод пересмотреть их еще раз

Maxim
Без пятен и бледности: как носить «жидкие колготки» Без пятен и бледности: как носить «жидкие колготки»

Для тех, кто хочет «ножки как с обложки», придумали жидкие колготки

Cosmopolitan
10 привычек для тех, кто хочет жить долго 10 привычек для тех, кто хочет жить долго

Долголетие - это просто!

Cosmopolitan
Преодоление себя, победы и поражения: 8 отличных документальных фильмов про спорт Преодоление себя, победы и поражения: 8 отличных документальных фильмов про спорт

Документальные фильмы о спорте — эмоциональные, полные триумфа и печали

Esquire
«Я заперлась в туалете, и тут раздался звук топора» «Я заперлась в туалете, и тут раздался звук топора»

Боитесь подать на развод, потому что уверены — вы не заслуживаете ничего лучше?

Psychologies
5 новых книг об искусстве, которые стоит прочитать 5 новых книг об искусстве, которые стоит прочитать

Пять книг, которые помогут вам открыть новые области в мире искусства

Esquire
Встречаюсь с женатым и не чувствую вины Встречаюсь с женатым и не чувствую вины

История читательницы о романе с женатым человеком с комментариями психолога

Psychologies
Продают продукты и доставляют пельмени: почему бары на самоизоляции продолжают работать в убыток Продают продукты и доставляют пельмени: почему бары на самоизоляции продолжают работать в убыток

Владельцы трёх петербургских заведений рассказали, как переживают кризис

VC.RU
Почему объявленные в России нерабочие дни требуют от компаний платить больше, чем раньше Почему объявленные в России нерабочие дни требуют от компаний платить больше, чем раньше

В трудовом праве явочным порядком появилось новое понятие — «нерабочие дни»

Forbes
8 летних напитков для иммунитета, которые легко приготовить дома 8 летних напитков для иммунитета, которые легко приготовить дома

Напитки, которые будут полезны для укрепления защитных сил организма

РБК
Ревнует девушка? 4 способа исправить ситуацию и зажить в гармонии Ревнует девушка? 4 способа исправить ситуацию и зажить в гармонии

Что делать, если твоя девушка постоянно ревнует тебя?

Playboy
10 видов современного оружия, изобретённого в глубокой древности 10 видов современного оружия, изобретённого в глубокой древности

Предтечи нынешних средств ведения войны насчитывают по несколько тысяч лет

Популярная механика
Правила жизни Фрэнсиса Форда Копполы Правила жизни Фрэнсиса Форда Копполы

Правила жизни режиссера кинотрилогии «Крестный отец» Фрэнсиса Форда Копполы

Esquire
Масло масляное: зачем нужны гидрофильные очищающие средства Масло масляное: зачем нужны гидрофильные очищающие средства

Что же такое гидрофильные масла и всем ли они нужны?

Psychologies
Открыть в приложении