Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Рождение с 32 по 36 неделю связали с повышенным риском нарушений развития нервной системы Рождение с 32 по 36 неделю связали с повышенным риском нарушений развития нервной системы

Рождение на 32-33 и 34-36 неделях связано с риском нарушений развития ЦНС

N+1
Сеть поддельных клиентов и фальшивый сотрудник: WSJ разобрала обман инвесторов «китайского Starbucks» Luckin Coffee Сеть поддельных клиентов и фальшивый сотрудник: WSJ разобрала обман инвесторов «китайского Starbucks» Luckin Coffee

Конкурент Starbucks в Китае претендовал на звание технологической кофейни

VC.RU
Как вирусы могут изменить океан и помочь в борьбе с глобальным потеплением Как вирусы могут изменить океан и помочь в борьбе с глобальным потеплением

Ученые сосредоточились на вирусах, помогающих улавливать углекислый газ в море

ТехИнсайдер
Бордо или супертоскана? Гид для тех, кто хочет начать коллекционировать вино Бордо или супертоскана? Гид для тех, кто хочет начать коллекционировать вино

Далеко не каждое вино становится лучше с годами

Forbes
Пассивный доход: как создать надежный источник дохода без активных усилий Пассивный доход: как создать надежный источник дохода без активных усилий

С помощью каких инструментов создать высокий уровень пассивного дохода?

Forbes
«Пересекая границы: модерность, идеология и культура в России и Советском Союзе» «Пересекая границы: модерность, идеология и культура в России и Советском Союзе»

Отрывок из книги «Пересекая границы» Майкла Дэвида-Фокса

N+1
Скандальная Сара Бернар — её страсть, её гордость и никакого стыда Скандальная Сара Бернар — её страсть, её гордость и никакого стыда

Сара Бернар стала образцовой актрисой и скандальной персоной XIX века

Cosmopolitan
Как продлить отношения на много лет? Полезное мнение специалиста Как продлить отношения на много лет? Полезное мнение специалиста

Социолог Пеппер Шварц о том, как выстроить хорошие отношения с партнером

Cosmopolitan
Колоссальная неопределенность: от чего зависит курс рубля и что с ним будет к концу года Колоссальная неопределенность: от чего зависит курс рубля и что с ним будет к концу года

От чего зависят валютные курсы, надолго ли доллар останется главной валютой мира

Forbes
Любовь на карантине: как не испортить отношения с партнером в самоизоляции Любовь на карантине: как не испортить отношения с партнером в самоизоляции

Постоянно быть рядом трудно, как бы вы друг друга ни любили

Cosmopolitan
Выезд на встречку: когда лишат прав, а когда — нет Выезд на встречку: когда лишат прав, а когда — нет

Иногда выезд на встречку не считается нарушением

РБК
Материаловеды сделали электрохимический глаз с сетчаткой из нанонитей перовскита Материаловеды сделали электрохимический глаз с сетчаткой из нанонитей перовскита

Разрешающая способность искусственного глаза выше, чем у человеческого

N+1
«Только трехмесячная дочка доход приносит»: в какой ситуации оказались спортивные судьи из-за пандемии «Только трехмесячная дочка доход приносит»: в какой ситуации оказались спортивные судьи из-за пандемии

Как спортивные судьи выживают на карантине

Forbes
Том Харди бесконечно хорош в фильме «Капоне» Том Харди бесконечно хорош в фильме «Капоне»

Кроме Тома Харди фильм «Капоне», к сожалению, не отметился ничем

GQ
Наше увлечение модой и страсть к покупкам убивают планету Наше увлечение модой и страсть к покупкам убивают планету

В погоне за модой человечество оказалось на дне глобальной мусорной ямы

GQ
Вся чешусь и падаю без сил: как твое тело реагирует на токсичные отношения Вся чешусь и падаю без сил: как твое тело реагирует на токсичные отношения

Токсичные отношения действуют не только на психику, но и на тело тоже

Cosmopolitan
На перепутье: как безболезненно сменить профессию На перепутье: как безболезненно сменить профессию

Переход из одной специальности в другую затрагивает многие аспекты жизни

Psychologies
Переступить порог рейхстага Переступить порог рейхстага

История главного исторического здания Берлина

Наука и жизнь
Нехватка насекомых снизила успех размножения городских синиц Нехватка насекомых снизила успех размножения городских синиц

Городские синицы справляются с выведением потомства хуже лесных сородичей

N+1
Ирина Основина: «Не терплю, когда называют артисткой» Ирина Основина: «Не терплю, когда называют артисткой»

Узнавать на улицах ее стали после выхода на экраны фильма Александра Рогожкина

Караван историй
Далеко не первая Далеко не первая

Если ты выбрала «мужчину с прошлым», в браке будет маячить призрак его бывшей

Cosmopolitan
Николай Наумов: «Победить свой страх и приехать в Москву – обычная боль человека из глубинки нашей страны» Николай Наумов: «Победить свой страх и приехать в Москву – обычная боль человека из глубинки нашей страны»

Николай Наумов о том, насколько он устал от образа Коляна и как живут пермяки

GQ
Творческая единица Творческая единица

У американской художницы Элайзы Дуглас есть что показать миру

Vogue
Трофей из России — легендарный Т-34 на службе вдали от дома Трофей из России — легендарный Т-34 на службе вдали от дома

Т-34 побывал везде - в Европе, на Ближнем Востоке, в Африке

Maxim
Под большим вопросом: почему Марк Твен не любил интервью (и журналистов) Под большим вопросом: почему Марк Твен не любил интервью (и журналистов)

Эссе Марка Твена, в котором автор обрушивает проклятия на все интервью

Esquire
Мощные и изящные: 10 легендарных американских маслкаров Мощные и изящные: 10 легендарных американских маслкаров

Немногие автомобили превосходят маслкары по сочетанию красоты и мощи

Популярная механика
Годичные кольца рассказали о засухах в бассейне Миссури Годичные кольца рассказали о засухах в бассейне Миссури

Засухи на рубеже XXI века оказались самыми экстремальными за последние 1200 лет

N+1
Городам казалось, будто их опять занимают немцы: история уникального гоночного грузовика Mercedes-Benz Городам казалось, будто их опять занимают немцы: история уникального гоночного грузовика Mercedes-Benz

Не только быстро, но и красиво

Maxim
Гарри ясно Гарри ясно

Дэниел Рэдклифф давно отошел от амплуа волшебника из Хогвартса

Esquire
16 великих людей, уволенных за профнепригодность 16 великих людей, уволенных за профнепригодность

Даже невероятно талантливые люди не застрахованы от увольнения с работы

Maxim
Открыть в приложении