Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пчелиный яд разрушил клетки агрессивного рака молочной железы Пчелиный яд разрушил клетки агрессивного рака молочной железы

Компонент пчелиного яда мелиттин разрушает опухоли

N+1
Пора освободить шкаф: как правильно убрать на хранение зимние вещи Пора освободить шкаф: как правильно убрать на хранение зимние вещи

Краткая памятка по правильной ревизии гардероба на предмет сезонной одежды

Esquire
По сравнению со «сверстниками» Солнце оказалось намного слабее По сравнению со «сверстниками» Солнце оказалось намного слабее

Исследования показывают, что мы не так уж и хорошо знаем нашу собственную звезду

Популярная механика
Розовый Бейкера-Миллера: можно ли нейтрализовать агрессию с помощью успокаивающего цвета? Розовый Бейкера-Миллера: можно ли нейтрализовать агрессию с помощью успокаивающего цвета?

Может ли цвет влиять на состояние организма человека?

Esquire
Игра BioShock с годами становится только актуальнее Игра BioShock с годами становится только актуальнее

Все мы знаем, что такое глубокий экзистенциальный кризис и разочарование в мире

GQ
Иммунитет — это инстинкт хищника Иммунитет — это инстинкт хищника

Cпособ включить гормоны победителя и перестать играть в жертву

Tatler
История авантюриста Барта Тодда, который с помощью почтовых марок изменил экономику целой страны История авантюриста Барта Тодда, который с помощью почтовых марок изменил экономику целой страны

Как почтовые марки с помощью одного отчаянного туриста перевернули жизнь Бутана

Maxim
Карен Уайт: Ночь, когда огни погасли Карен Уайт: Ночь, когда огни погасли

Отрывок из романа Карен Уайт «Ночь, когда огни погасли»

СНОБ
Вспомнить все: как стать обладателем суперпамяти Вспомнить все: как стать обладателем суперпамяти

6 способов сохранить отличную память независимо от возраста

Популярная механика
Как пережить разлуку с семьей из-за закрытия границ Как пережить разлуку с семьей из-за закрытия границ

Как наименее болезненно пережить период разлуки с близкими?

Psychologies
В шизофрении обвинили липидный обмен в мозолистом теле В шизофрении обвинили липидный обмен в мозолистом теле

Шизофрения может быть связана с недостатком сфингозин-1-фосфата

N+1
Свидания онлайн: найти пару, не покидая квартиры Свидания онлайн: найти пару, не покидая квартиры

Как индустрия виртуального дейтинга меняется под влиянием новых условий жизни?

Psychologies
Окончательная победа США: как Россия безнадежно отстала от Америки в космической гонке Окончательная победа США: как Россия безнадежно отстала от Америки в космической гонке

Запуск Crew Dragon знаменует начало века Pax Americana в космосе

Forbes
Добрый день Добрый день

Способов творить добро много – всегда можно выбрать тот, что тебе подходит

Cosmopolitan
Монстры из прошлого: драма большой поршневой авиации Монстры из прошлого: драма большой поршневой авиации

На годы Второй мировой пришлась лебединая песня поршневых двигателей в авиации

Популярная механика
Русские в Берлине весной 1945 г. Русские в Берлине весной 1945 г.

События Великой Отечественной войны в воспоминаниях и рассказах участников боёв

Наука и жизнь
Как ведут себя мужчины у косметолога и на маникюре Как ведут себя мужчины у косметолога и на маникюре

Среди клиентов косметологов прибавилось представителей противоположного пола

Psychologies
Правила жизни Софии Копполы Правила жизни Софии Копполы

Правила жизни кинорежиссера Софии Копполы

Esquire
Культура повиновения. История девочки из Йемена, добившейся развода в 9 лет Культура повиновения. История девочки из Йемена, добившейся развода в 9 лет

Отрывок из книги «Мне десять лет, и я разведена» о походе Нуджуд Али в суд

Forbes
Кругосветное путешествие Алексея Камерзанова Кругосветное путешествие Алексея Камерзанова

Африканское дно: из Конго в Конго через Конго

4x4 Club
Наталья Крачковская: «У меня был шанс устроить свою личную жизнь, но как-то не получилось...» Наталья Крачковская: «У меня был шанс устроить свою личную жизнь, но как-то не получилось...»

Я одна. Иногда думаю: вот упаду — никто даже и не узнает

Караван историй
Слово «зато», море и алкоголь. Редакция на карантине в объективе Zoom Слово «зато», море и алкоголь. Редакция на карантине в объективе Zoom

Редакция проекта «Сноб» поучаствовала в эксперименте «Фотосъемка в зуме»

СНОБ
Статус «все сложно»: знакомьтесь, нью-йоркский бренд Vaquera Статус «все сложно»: знакомьтесь, нью-йоркский бренд Vaquera

Эксперты не определились, можно ли считать Vaquera модным брендом

GQ
Интерьер с харизмой Интерьер с харизмой

Яркий интерьер, главным героем которого стала кухня глубокого синего цвета

SALON-Interior
Антивирус: жизнь после карантина Антивирус: жизнь после карантина

Как привыкнуть к новым реалиям и сохранить психическое здоровье

Cosmopolitan
Не только Мэрилин Монро: еще шесть шикарных блондинок 1950-х Не только Мэрилин Монро: еще шесть шикарных блондинок 1950-х

Никогда еще ностальгия не была такой волнующей

Maxim
Яхта, перелеты из Москвы в Лондон и пилатес: где и как прячутся от пандемии российские миллиардеры Яхта, перелеты из Москвы в Лондон и пилатес: где и как прячутся от пандемии российские миллиардеры

Богатейшие предприниматели рассказали Forbes о своей жизни в изоляции

Forbes
Сам себе дизайнер: 5 способов переделать одежду своими руками (и немного развлечься в процессе) Сам себе дизайнер: 5 способов переделать одежду своими руками (и немного развлечься в процессе)

Как изменить вещи, которые разонравились или обзавелись дефектами

Esquire
Жюльен Сандрель: Комната чудес Жюльен Сандрель: Комната чудес

Первая глава книги «Комната чудес» Жюльен Сандрель

СНОБ
«Брэду Питту мы уже написали»: как инстаграм «Сказки на дому» за месяц превратился в международный проект с инвесторами «Брэду Питту мы уже написали»: как инстаграм «Сказки на дому» за месяц превратился в международный проект с инвесторами

Создатель «Сказки на дому» — о том, как искал команду, деньги и чтецов

Forbes
Открыть в приложении