Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Два капитана: пенис и мозг — кто кем управляет? Два капитана: пенис и мозг — кто кем управляет?

Наличие пениса и мозга составляют правильный тандем всей мужской жизни

Maxim
Фитнес без движения: как наш мозг сжигает много лишних калорий Фитнес без движения: как наш мозг сжигает много лишних калорий

Для сжигания калорий вовсе не обязательно пыхтеть на беговой дорожке

Популярная механика
Под газом: как газотурбинные двигатели покоряли автопром Под газом: как газотурбинные двигатели покоряли автопром

Что пошло не так у этого по всем статьям крутого движка?

Популярная механика
9 самых ужасающих и смелых экспериментов в истории 9 самых ужасающих и смелых экспериментов в истории

Где грань между научным рвением и тонкой моралью в экспериментах?

Популярная механика
Бежать по первому писку или оставить проплакаться? Бежать по первому писку или оставить проплакаться?

Во всем работает правило золотой середины, в воспитании детей тоже

Psychologies
Дарья Мороз — новая икона стиля и секс-символ российского кино Дарья Мороз — новая икона стиля и секс-символ российского кино

Кто такая Дарья Мороз?

Cosmopolitan
Гостевой брак: в чем его преимущества? Гостевой брак: в чем его преимущества?

Помогает ли раздельное проживание с партнером сохранить любовь в отношениях?

Psychologies
Гениальное советское такси, которое не оценили Гениальное советское такси, которое не оценили

История такси ВНИИТЭ-ПТ

Maxim
Советы бывалого. Мореплаватель Рид Стоу о том, как прожить 1152 дня в полной изоляции и полюбить одиночество Советы бывалого. Мореплаватель Рид Стоу о том, как прожить 1152 дня в полной изоляции и полюбить одиночество

Как мореплаватель Рид Стоу проводил изоляцию в океане и что для него это значило

Forbes
Что такое ментальный фитнес и зачем он нужен: 6 подсказок для новичков Что такое ментальный фитнес и зачем он нужен: 6 подсказок для новичков

Чтобы держать мозг в форме, можно заняться «ментальным фитнесом»

Playboy
Глобальное потепление сделало арктических пауков каннибалами Глобальное потепление сделало арктических пауков каннибалами

Пауки-волки на Аляске начали есть друг друга

Популярная механика
Поток метана от арктических морей: Взгляд из космоса Поток метана от арктических морей: Взгляд из космоса

Какова роль метана в потеплении Арктики?

Наука и жизнь
10 сериалов, навсегда изменивших телевидение 10 сериалов, навсегда изменивших телевидение

Десяток классических сериалов, не будь которых, тебе бы пришлось смотреть ерунду

Maxim
Питер Тиль — о том, почему высшее образование переоценено Питер Тиль — о том, почему высшее образование переоценено

Основатель PayPal советует работодателям нанимать людей без высшего образования

Esquire
Дифференцировку моноцитов в толстой кишке у мышей связали с интерфероном 5 Дифференцировку моноцитов в толстой кишке у мышей связали с интерфероном 5

Патогенез воспаления слизистой оболочки толстой кишки стал полнее

N+1
Глицерин из электронных сигарет спровоцировал рост биопленок во рту Глицерин из электронных сигарет спровоцировал рост биопленок во рту

Биопленки от электронных сигарет вызывают воспалительные заболевания полости рта

N+1
Эксперты — о скандале вокруг Регины Тодоренко и ее фильме Эксперты — о скандале вокруг Регины Тодоренко и ее фильме

Мнение экспертов про инцидент с Региной Тодоренко и ее новое видео

РБК
Керенский: первая любовь революции Керенский: первая любовь революции

Мог ли изменить ход истории глава Временного правительства в 1917 году

Дилетант
Как выбрать брюки: несколько правил идеальной посадки Как выбрать брюки: несколько правил идеальной посадки

Памятка о том, на что стоит обратить внимание, выбирая брюки

Esquire
Победа телевидения над онлайном: как бизнес стимулирует продажи во время эпидемии Победа телевидения над онлайном: как бизнес стимулирует продажи во время эпидемии

Что происходит с рекламным рынком во время каратина и экономического спада?

Forbes
Без контакта Без контакта

Что нужно знать о бесконтактной доставке?

Лиза
Николай Наумов: «Победить свой страх и приехать в Москву – обычная боль человека из глубинки нашей страны» Николай Наумов: «Победить свой страх и приехать в Москву – обычная боль человека из глубинки нашей страны»

Николай Наумов о том, насколько он устал от образа Коляна и как живут пермяки

GQ
На что берут кредиты россияне с не очень высокой зарплатой: 8 реальных историй На что берут кредиты россияне с не очень высокой зарплатой: 8 реальных историй

Вещи, опрометчиво приобретенные в кредит гражданами с не очень высокой зарплатой

Esquire
Как пережить развод с женой: 16 советов психолога, которые тебе помогут Как пережить развод с женой: 16 советов психолога, которые тебе помогут

Пережить расставание с любимым человеком нелегко

Playboy
Как хорошо выглядеть во время видеоконференций: 5 простых советов Как хорошо выглядеть во время видеоконференций: 5 простых советов

Совещания в Zoom новой реальностью. Как им соответствовать внешне?

Esquire
Рынoк на $9 млрд: почему люди вкладывают деньги в дома престарелых Рынoк на $9 млрд: почему люди вкладывают деньги в дома престарелых

Инвестиции в недвижимость для пожилых людей в Европе можно назвать удачными

Forbes
Ёлка, Юлия Хлынина, Владимир Яглыч, Алёна Бабенко и другие артисты прочитали рассказы Михаила Зощенко Ёлка, Юлия Хлынина, Владимир Яглыч, Алёна Бабенко и другие артисты прочитали рассказы Михаила Зощенко

Рассказ Михаила Зощенко в онлайн-проекте «Читай дома»

OK!
ЗОЖ: новая реальность ЗОЖ: новая реальность

Адепты правильного питания — полноправная целевая аудитория ресторанного бизнеса

Bones
Доктор едет, едет Доктор едет, едет

Два врача и программист построили цифровую платформу для ДМС

Forbes
16 великих людей, уволенных за профнепригодность 16 великих людей, уволенных за профнепригодность

Даже невероятно талантливые люди не застрахованы от увольнения с работы

Maxim
Открыть в приложении