Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нейроны самок мышей среагировали на отказ от алкоголя сильнее самцов Нейроны самок мышей среагировали на отказ от алкоголя сильнее самцов

Что может объяснять повышенную уязвимость женщин к абстинентному синдрому?

N+1
Вспоминая Канны: экспериментальные платья и веселые выходы на кинофестивалях 1966–1976 годов Вспоминая Канны: экспериментальные платья и веселые выходы на кинофестивалях 1966–1976 годов

Лучшие выходы на красные дорожки фестиваля разных лет

Esquire
Как отличить кэгэбешную «Волгу» от обычной Как отличить кэгэбешную «Волгу» от обычной

Пособие для иностранного шпиона в четырех шагах

Maxim
Курица мисо Курица мисо

Еда с Еленой Чекаловой

Weekend
Ольга Хейфиц: Камера смысла Ольга Хейфиц: Камера смысла

Отрывок из нового романа Ольги Хейфиц

СНОБ
ЗОЖ или фитнес-фанатизм? 9 признаков, что ты занимаешься спортом слишком много ЗОЖ или фитнес-фанатизм? 9 признаков, что ты занимаешься спортом слишком много

Всего хорошего должно быть в меру

Playboy
«Да пребудет со мной сила!»: практики самоподдержки «Да пребудет со мной сила!»: практики самоподдержки

Для движения вперед нужен навык, который даст импульс для новых свершений

Psychologies
20 лучших ролей Брэда Питта (в порядке возрастания восторга) 20 лучших ролей Брэда Питта (в порядке возрастания восторга)

Даже неудачные роли Питта язык не поворачивается назвать неудачными

Esquire
«Это просто удавка». Новый штраф для автомобилистов пропишут в КоАП «Это просто удавка». Новый штраф для автомобилистов пропишут в КоАП

Всех автомобилистов за езду без пропусков предложили штрафовать до 5 000 рублей

РБК
«Любовь во времена Zoom и чумы»: Esquire публикует диалог писателя с возлюбленной «Любовь во времена Zoom и чумы»: Esquire публикует диалог писателя с возлюбленной

Карантинный дневник Дмитрия Петровского

Esquire
От наркомана до Железного человека: удивительная жизнь Роберта Дауни-младшего От наркомана до Железного человека: удивительная жизнь Роберта Дауни-младшего

Жизнь Роберта Дауни-младшего не назвать простой и благополучной

Cosmopolitan
Свободный художник Свободный художник

Актриса Дарья Руденок о своем ярком образе в сериале «257 причин, чтобы жить»

OK!
Тревожности — бой! Победи ее, пока она не съела тебя: гид по выходу из стресса Тревожности — бой! Победи ее, пока она не съела тебя: гид по выходу из стресса

Как самое частое психическое расстройство XXI века управляет нами

Cosmopolitan
Астрономы нашли ближайшую к Земле черную дыру Астрономы нашли ближайшую к Земле черную дыру

Астрономы обнаружили самого близкого кандидата в черные дыры звездных масс

N+1
В России впервые синтезировали тонкую пленку из хлорида натрия В России впервые синтезировали тонкую пленку из хлорида натрия

Ученые подтвердили возможность существования тонкой пленки хлорида натрия

Популярная механика
Опасные заезды: 7 неисправностей, приведших к досадным авариям Опасные заезды: 7 неисправностей, приведших к досадным авариям

Аварии в гонках часто случаются по вине техники

Популярная механика
10 сериалов для тех, кто устал от классических сериалов 10 сериалов для тех, кто устал от классических сериалов

Десяток сериалов, которые изменят ваше отношение к привычным форматам

Esquire
Джордж Клуни: «Никогда не хожу на свидания с поклонницами. Это неспортивно» Джордж Клуни: «Никогда не хожу на свидания с поклонницами. Это неспортивно»

Лучшие цитаты Джорджа Клуни

Maxim
Как делают стволы для снайперских винтовок: отвечает Влад Лобаев Как делают стволы для снайперских винтовок: отвечает Влад Лобаев

Как делают стволы для снайперских винтовок и как технологии влияют на точность?

Популярная механика
Траурный марш. Батька празднует Победу Траурный марш. Батька празднует Победу

Это прежде всего политический трюк — широко разрекламированный парад в Минске

СНОБ
Затмила Монику Беллуччи? Кто такая Дева Кассель и почему ее ждет большое будущее Затмила Монику Беллуччи? Кто такая Дева Кассель и почему ее ждет большое будущее

Что известно о дочери Моники Беллуччи и каких успехов она уже добилась

Cosmopolitan
Главные коллекции XXI века Главные коллекции XXI века

Коллекции, которые могли бы войти в учебник истории моды XXI века

Weekend
Запретный маникюр: хозяйки салонов красоты об убытках из-за простоя, подпольной работе и ценах после пандемии Запретный маникюр: хозяйки салонов красоты об убытках из-за простоя, подпольной работе и ценах после пандемии

Основательницы салонов красоты рассказали, как они зарабатывают в изоляции

Forbes
Как пропадают из нашей жизни целые явления Как пропадают из нашей жизни целые явления

Как из жизни пропадают целые явления, а мы этого даже не замечаем

GQ
Открытая натура Открытая натура

Загородный дом по дизайну Нелли Полежаевой

SALON-Interior
Древесные лягушки обманули хищников хоровым пением Древесные лягушки обманули хищников хоровым пением

Самки древесных лягушек не ведутся на обман

N+1
Как компании-новички переписывают правила игры для монополистов и сокрушают бренды Как компании-новички переписывают правила игры для монополистов и сокрушают бренды

Стартапы, ставящие на удобство и дешевизну, способны совершить революцию

Forbes
Исполнение желаний. К юбилею Музея AZ Исполнение желаний. К юбилею Музея AZ

Главный редактор журнала «Сноб» Сергей Николаевич размышляет о феномене Музея AZ

СНОБ
Порно и мороженое Порно и мороженое

Глобализация провалилась, и с этим трудно спорить

4x4 Club
Один дома, не считая собаки: как фотографы и их питомцы помогают друг другу на карантине (фотопроект) Один дома, не считая собаки: как фотографы и их питомцы помогают друг другу на карантине (фотопроект)

Оказавшись взаперти, мы столкнулись с самими собой

Esquire
Открыть в приложении