Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пчелиный яд разрушил клетки агрессивного рака молочной железы Пчелиный яд разрушил клетки агрессивного рака молочной железы

Компонент пчелиного яда мелиттин разрушает опухоли

N+1
Пять звезд в чистом поле: как в России построили первый с советских времен аэропорт Пять звезд в чистом поле: как в России построили первый с советских времен аэропорт

Как появился Ростовский Платов и почему не все авиакомпании могут здесь садиться

Forbes
От обрушения рынка ипотеки сильнее всех пострадали Альфа-банк и ВТБ От обрушения рынка ипотеки сильнее всех пострадали Альфа-банк и ВТБ

Рынок ипотеки в апреле рухнул почти на треть

Forbes
Как выбрать карту памяти для смартфона и другой техники Как выбрать карту памяти для смартфона и другой техники

Выбрать карту памяти сегодня гораздо проще, чем лет 10 назад

CHIP
Придумали будущее и не завоевали рынок: история General Magic и её идеи «смартфона», который появился в 90-х Придумали будущее и не завоевали рынок: история General Magic и её идеи «смартфона», который появился в 90-х

Компания увлеклась разработкой и не заметила, как интернет обошёл их

VC.RU
Пять минут — не опоздание. Почему русские и иностранцы по-разному планируют свое время Пять минут — не опоздание. Почему русские и иностранцы по-разному планируют свое время

Как составлять расписание и распределять время в общении с зарубежными коллегами

Forbes
15 лучших сериалов 2017 года 15 лучших сериалов 2017 года

Когда хочется включить что-то проверенное временем

Esquire
Вся чешусь и падаю без сил: как твое тело реагирует на токсичные отношения Вся чешусь и падаю без сил: как твое тело реагирует на токсичные отношения

Токсичные отношения действуют не только на психику, но и на тело тоже

Cosmopolitan
Пусть цветут все цветы Пусть цветут все цветы

Зачем мать пятерых детей стала президентом Специальной Олимпиады России

Tatler
Курит, пьет и скрывается: неожиданные факты о Леонардо ДиКаприо Курит, пьет и скрывается: неожиданные факты о Леонардо ДиКаприо

Несколько малоизвестных фактов о Леонардо ДиКаприо

Cosmopolitan
Мультиплан: безумный самолет с 1000 крыльев Мультиплан: безумный самолет с 1000 крыльев

Некоторые изобретатели верили, что чем больше крыльев в самолете, тем лучше

Популярная механика
Как изучают климат: 10 фактов о климатологии Как изучают климат: 10 фактов о климатологии

В чем разница между погодой и климатом и почему она так важна сегодня?

Популярная механика
Фамильная ценность Фамильная ценность

Юная модель Стейнберг в самоизоляции времени даром не теряет

Vogue
Изменяю в уме: личный опыт эмоциональной неверности и ее последствий Изменяю в уме: личный опыт эмоциональной неверности и ее последствий

Многие считают изменой только физическую близость

Cosmopolitan
Музыка тёмной материи: можно ли услышать “песню” невидимой Вселенной Музыка тёмной материи: можно ли услышать “песню” невидимой Вселенной

Что особенного в темной материи?

Популярная механика
От Кегресса до От Кегресса до

Примеры, которые позволяют с гордостью говорить о машинах нашей страны

Популярная механика
Предчувствие жизни: «Нормальные люди» Салли Руни в книге и на экране Предчувствие жизни: «Нормальные люди» Салли Руни в книге и на экране

«Нормальные люди»: стоит не только посмотреть сериал, но и прочитать книгу

РБК
Темпы элиминации сонной болезни превзошли ожидания ВОЗ Темпы элиминации сонной болезни превзошли ожидания ВОЗ

В ближайшие десять лет ожидается полная ликвидация сонной болезни

N+1
Львиная доля Львиная доля

Анатолий Цой — о том, каково быть в шкуре Льва

OK!
Бег без вреда себе: главное о концепции максимального потребления кислорода Бег без вреда себе: главное о концепции максимального потребления кислорода

Важный материал для всех любителей бега и фитнеса

Playboy
Встречайте топ-10 отраслей, в которых заняты наиболее успешные люди Встречайте топ-10 отраслей, в которых заняты наиболее успешные люди

Можешь выбирать любую из этих отраслей — успех тебе почти обеспечен

Playboy
В поисках идеала В поисках идеала

Как найти работу, которая не только приносит доход, но и радость?

Лиза
Клинт Иствуд: «Возьмитесь наконец за дело! Надерите кое-кому задницу» Клинт Иствуд: «Возьмитесь наконец за дело! Надерите кое-кому задницу»

Клинт Иствуд о правилах воспитания и ссыкливом поколении

Esquire
Вспомнить все: как стать обладателем суперпамяти Вспомнить все: как стать обладателем суперпамяти

6 способов сохранить отличную память независимо от возраста

Популярная механика
Инструмент для анализа поведения пользователей: как развивался Giphy и что Facebook получит с покупкой сервиса Инструмент для анализа поведения пользователей: как развивался Giphy и что Facebook получит с покупкой сервиса

Facebook получит сведения о работе Viber и других приложений, использующих Giphy

VC.RU
Играет на равных Играет на равных

Кейт Бланшетт о том, как «Миссис Америка» может помочь избежать ошибок прошлого

Grazia
Что посеешь: научные факты о мужском семени Что посеешь: научные факты о мужском семени

Как много вы знаете об этих смешных извилистых клетках?

Популярная механика
Масло масляное: зачем нужны гидрофильные очищающие средства Масло масляное: зачем нужны гидрофильные очищающие средства

Что же такое гидрофильные масла и всем ли они нужны?

Psychologies
Читай по лицу Читай по лицу

Гладкая кожа и приятное расслабление — все это эффекты массажа гуаша

Vogue
Джозеф Стиглиц: Глобальное сотрудничество в 21 веке. Отрывок из книги Джозеф Стиглиц: Глобальное сотрудничество в 21 веке. Отрывок из книги

Почему Америка и другие страны прибывают в затяжном экономическом кризисе

СНОБ
Открыть в приложении