Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лики Вики Лики Вики

До съемки в нашем презренном журнале снизошла богиня «Инстаграма» Вики Одинцова

Maxim
Роман Кумар Виас: Как пандемия изменит наши привычки Роман Кумар Виас: Как пандемия изменит наши привычки

Насколько сильно поменяется наша жизнь после карантина?

СНОБ
10 лучших ролей Мэттью Макконахи 10 лучших ролей Мэттью Макконахи

Самые запоминающиеся образы Мэттью Макконахи

Esquire
Для вечеринок и секса: как креативная студия из Калифорнии создала защитный костюм для жизни после карантина Для вечеринок и секса: как креативная студия из Калифорнии создала защитный костюм для жизни после карантина

Micrashell — высокотехнологичный защитный костюм будущего

Forbes
Доктор едет, едет Доктор едет, едет

Два врача и программист построили цифровую платформу для ДМС

Forbes
Как изменится туризм после пандемии: 8 прогнозов от тревел-экспертов Как изменится туризм после пандемии: 8 прогнозов от тревел-экспертов

Когда-нибудь мы вновь отправимся путешествовать, но немного по-другому

Playboy
«Пить не перестанут». Как виноделы по всему миру ищут способы пережить кризис и пандемию «Пить не перестанут». Как виноделы по всему миру ищут способы пережить кризис и пандемию

Как винная индустрия подстраивается под новую реальностью

Forbes
Как убрать акне на спине и чем мазать шею: уход за неочевидными частями тела Как убрать акне на спине и чем мазать шею: уход за неочевидными частями тела

Как сохранить молодость ушей? Чем убрать прыщи на спине?

Cosmopolitan
Бег без вреда себе: главное о концепции максимального потребления кислорода Бег без вреда себе: главное о концепции максимального потребления кислорода

Важный материал для всех любителей бега и фитнеса

Playboy
О «Русском Prado», конкуренции с китайцами и закате эры автомобилей О «Русском Prado», конкуренции с китайцами и закате эры автомобилей

Интервью с руководителем «Соллерс Инжиниринг» Юрием Алексаковым

4x4 Club
Мать-и-мачеха? Медуница? И впрямь не узнать! Мать-и-мачеха? Медуница? И впрямь не узнать!

У этих растений весной и летом совершенно разное обличье

Наука и жизнь
Почему вы переживаете из-за его бывшей и как это остановить Почему вы переживаете из-за его бывшей и как это остановить

Желание побольше узнать о бывшей девушке партнера вполне естественно

Psychologies
Никаких больше поцелуев: как во время пандемии продолжают снимать один из самых долгих сериалов в истории Никаких больше поцелуев: как во время пандемии продолжают снимать один из самых долгих сериалов в истории

Как продолжается производство одного из самых длительных сериалов в истории

Forbes
9 самых злых роботов кинематографа 9 самых злых роботов кинематографа

Роботы в кино — это настоящее воплощение зла

Популярная механика
Известный дегустатор вина — о запахах: почему след знакомого аромата способен перенести нас в прошлое Известный дегустатор вина — о запахах: почему след знакомого аромата способен перенести нас в прошлое

Колман Эндрюс о вине, бассейнах, хлорке и… брюнетках

Playboy
Райский уголок Райский уголок

Пришло время сменить декорации!

Лиза
«Пересекая границы» Майкла Дэвида-Фокса «Пересекая границы» Майкла Дэвида-Фокса

Майкл Дэвид-Фокс задается вопросом о советской модерности

Weekend
«Всё, что я делаю, может быть ошибкой»: почему миллиардер Тоби Лютке советует видеоигры и мягкое отношение к критике «Всё, что я делаю, может быть ошибкой»: почему миллиардер Тоби Лютке советует видеоигры и мягкое отношение к критике

Глава Shopify о ментальных установках, которые помогут развить карьеру и бизнес

VC.RU
Холли Робертс: Как иностранцу построить бизнес в России Холли Робертс: Как иностранцу построить бизнес в России

Иностранцы продолжают осваивать как малый, так и крупный бизнес в России

СНОБ
Как на праздник: самые необычные профессии в мире Как на праздник: самые необычные профессии в мире

Резюме этих высококвалифицированных спецов скучными точно не назовешь

Популярная механика
«Он ударил меня кулаком в живот»: Паршута и другие жертвы насилия среди звезд «Он ударил меня кулаком в живот»: Паршута и другие жертвы насилия среди звезд

Звезды, которые нашли в себе силы выйти из абьюзивных отношений

Cosmopolitan
Бросил в самый трудный час: Марк Бернес и его Паола Бросил в самый трудный час: Марк Бернес и его Паола

Марк Бернес любил свою жену, но отвернулся от нее в самый тяжелый период

Cosmopolitan
Правила жизни Шона Бина Правила жизни Шона Бина

Правила жизни актера Шона Бина

Esquire
На чем ездила ГАИ в СССР. Все самые необычные автомобили На чем ездила ГАИ в СССР. Все самые необычные автомобили

Автомобили, на которых ездили сотрудники ГАИ во времена СССР

РБК
«Кем я стану, когда вырасту?» «Кем я стану, когда вырасту?»

Как выглядят птенцы и похожи ли они на своих родителей — птиц?

Наука и жизнь
Мама сказала Мама сказала

Как взрослой дочери наконец-то стать независимой

Cosmopolitan
Тревога провоцирует нас на злость? Тревога провоцирует нас на злость?

Тревога и злость вызывают у нас неприятное эмоциональное возбуждение

Psychologies
У малярийных плазмодиев нашли собственные биологические часы У малярийных плазмодиев нашли собственные биологические часы

Циклическое течении малярии обусловлено циркадными ритмами плазмодиев

N+1
Илья Попов Илья Попов

Всероссийский феномен анимации захватывает китайский кинорынок

Собака.ru
11 полезных применений пищевой соды в быту, о которых ты вряд ли догадывался 11 полезных применений пищевой соды в быту, о которых ты вряд ли догадывался

Порция простых лайфхаков с пищевой содой

Playboy
Открыть в приложении