Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что приготовить из консервированного тунца, найденного в холодильнике: 8 крутых рецептов Что приготовить из консервированного тунца, найденного в холодильнике: 8 крутых рецептов

Что приготовить из тунца, консервированного в масле?

Playboy
Самый мощный квазар потребовал массивного зародыша черной дыры Самый мощный квазар потребовал массивного зародыша черной дыры

Астрономы уточнили характеристики J2157-3602 — ультрамощного квазара

N+1
Любовь на удаленке Любовь на удаленке

Интернет-общение и онлайн-знакомства уже давно стали для нас частью жизни

Лиза
Борис Зарьков: «Креативить могут только свободные люди» Борис Зарьков: «Креативить могут только свободные люди»

Как превратить шефа в звезду мирового уровня?

Bones
Что происходит с костюмами после киносъемок Что происходит с костюмами после киносъемок

Костюмы из кино крадут, покупают, отправляют в музей или просто выбрасывают

GQ
Хорошая и плохая скука: как качественно отдыхать в эпоху вечной занятости Хорошая и плохая скука: как качественно отдыхать в эпоху вечной занятости

Наши списки дел никогда не закончатся, а за очередным дедлайном последует новый

Forbes
Mercedes-Benz GLK. И пусть вам повезёт! Mercedes-Benz GLK. И пусть вам повезёт!

Компактный, комфортный, надёжный, относительно простой и недорогой

4x4 Club
Пришел чужой штраф. Что с этим делать во время самоизоляции? Пришел чужой штраф. Что с этим делать во время самоизоляции?

Оспорить штраф за проданную машину или авто-двойник чаще всего можно онлайн

РБК
Распад нейтрального B-мезона отклонился от прогнозов Стандартной модели Распад нейтрального B-мезона отклонился от прогнозов Стандартной модели

Самый точный анализ измерений распада B-мезона на детекторе LHCb

N+1
«Катюша»: оружие победителей «Катюша»: оружие победителей

Реактивные системы залпового огня БМ-8 и БМ-13 — символ победы СССР

Популярная механика
Заслуженные изгои Заслуженные изгои

Как андерграунд становится мейнстримом

Weekend
Гипнороды: как и кому они помогают Гипнороды: как и кому они помогают

Почему все больше женщин становятся «гипномамами»

Psychologies
Топ-5 комичных ситуаций, произошедших на хоккейных матчах Топ-5 комичных ситуаций, произошедших на хоккейных матчах

Надевай шлем, коньки и наслаждайся невероятными историями с видеоповторами

Maxim
6 женщин, изменивших автомобильную индустрию 6 женщин, изменивших автомобильную индустрию

Многим изобретениям, ставшим неотъемлемой частью автомобиля, мир обязан женщинам

Популярная механика
«Это возможно, просто очень дорого»: как ММА вернется на ТВ раньше других видов спорта «Это возможно, просто очень дорого»: как ММА вернется на ТВ раньше других видов спорта

Главный ММА-промоушен намерен провести три турнира за неделю

Forbes
У Млечного Пути насчитали 150 необнаруженных галактик-спутников У Млечного Пути насчитали 150 необнаруженных галактик-спутников

В гало Млечного Пути должно находиться около 220 карликовых галактик

N+1
Как ухаживать за стиральной машинкой, чтобы она работала с максимальной отдачей Как ухаживать за стиральной машинкой, чтобы она работала с максимальной отдачей

Каждая стирка — очередное разочарование?

Cosmopolitan
Не только Агутин. Кого любила Анжелика Варум? Не только Агутин. Кого любила Анжелика Варум?

До счастливого брака певица Анжелика Варум уже была в официальных отношениях.

Cosmopolitan
Роман Певзнер Роман Певзнер

Коммерческий директор «Буше» о том, как работают пекарни в карантин

Собака.ru
«У русских отличное чувство юмора!» «У русских отличное чувство юмора!»

Фелисе Янкелль — о карантине, материнстве и русских

OK!
Трофей из России — легендарный Т-34 на службе вдали от дома Трофей из России — легендарный Т-34 на службе вдали от дома

Т-34 побывал везде - в Европе, на Ближнем Востоке, в Африке

Maxim
Рестайлинг в СССР. Как могли выглядеть советские автомобили Рестайлинг в СССР. Как могли выглядеть советские автомобили

Проекты, которые могли изменить автопром СССР

РБК
«Жди меня, и я вернусь»: трагическая судьба музы легендарного военного поэта «Жди меня, и я вернусь»: трагическая судьба музы легендарного военного поэта

Во время Великой Отечественной эти строки Симонова знала наизусть вся страна

Cosmopolitan
Лактобациллы кишечника связали с хорошей памятью мышей Лактобациллы кишечника связали с хорошей памятью мышей

У мышей, в кишечнике которых много бактерий четырех семейств, память лучше

N+1
Как адаптироваться к одиночеству дома: 5 подходов для карантина Как адаптироваться к одиночеству дома: 5 подходов для карантина

Как меньше переживать из-за отсутствия компании в самоизоляции?

РБК
13 недругов новичка: типичные ошибки начинающего водителя 13 недругов новичка: типичные ошибки начинающего водителя

Получение водительского удостоверения вовсе не сделает вас асом за рулем

Популярная механика
7 фактов о фильме «Кошмар на улице Вязов» 7 фактов о фильме «Кошмар на улице Вязов»

В 1984 году, в золотую эпоху фильмов, мы познакомились с Фредди Крюгером

Maxim
Где деньги, папа? Чему учат своих детей российские бизнесмены Где деньги, папа? Чему учат своих детей российские бизнесмены

Можно ли стать миллионером, следуя советам Роберта Кийосаки

Forbes
«Да нормальный я!»: что мешает нам обратиться к психиатру «Да нормальный я!»: что мешает нам обратиться к психиатру

С посещением психиатра до сих пор связано множество мифов и предубеждений

Psychologies
Кишечные палочки и дрожжи смогли выжить в водородной атмосфере Кишечные палочки и дрожжи смогли выжить в водородной атмосфере

Даже в отсутствие кислорода микробы способны размножаться

N+1
Открыть в приложении