Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Два капитана: пенис и мозг — кто кем управляет? Два капитана: пенис и мозг — кто кем управляет?

Наличие пениса и мозга составляют правильный тандем всей мужской жизни

Maxim
Что такое сильные решения и почему за риски полагается награда Что такое сильные решения и почему за риски полагается награда

Отрывок из книги о компаниях нового поколения —  «единорогах»

СНОБ
Почему нельзя пользоваться «бомбочками» для ванны и чистить уши палочками? Почему нельзя пользоваться «бомбочками» для ванны и чистить уши палочками?

«Безобидные» гигиенических привычки, которые нам вредят

Cosmopolitan
Откуда взялись автомобилистки, авиаторши и циклистки Откуда взялись автомобилистки, авиаторши и циклистки

Отрывок из книги Ирины Фуфаевой о значимости феминитивов

СНОБ
Ваш домашний сад: 5 простых шагов, чтобы начать озеленение интерьера Ваш домашний сад: 5 простых шагов, чтобы начать озеленение интерьера

Рассказываем, как создать дома зеленый уголок

Esquire
“Заправимся” от дороги: беспроводная зарядка электромобилей будущего “Заправимся” от дороги: беспроводная зарядка электромобилей будущего

Ученые сделали еще один шаг к беспроводной подзарядке электромобиля

Популярная механика
История освобождения танкера «Московский университет» от сомалийских пиратов, рассказанная участниками событий История освобождения танкера «Московский университет» от сомалийских пиратов, рассказанная участниками событий

Самая успешная операция в истории борьбы с сомалийским пиратством

Maxim
Мифы о “Каспийском монстре”: почему экранопланы “не взлетели” Мифы о “Каспийском монстре”: почему экранопланы “не взлетели”

Как разбивается о суровую реальность миф об экранопланах

Популярная механика
Дедушка Jeep. Копаемся в истории легендарного Willys MB Дедушка Jeep. Копаемся в истории легендарного Willys MB

Вспоминаем историю главного внедорожника Великой Отечественной войны

РБК
Машина апокалипсиса: как скрестить ракетовоз с тепловозом Машина апокалипсиса: как скрестить ракетовоз с тепловозом

История знает немало амбициозных проектов по скрещиванию техники

Популярная механика
«Сестра четырех». Отрывок из пьесы Евгения Водолазкина про карантин «Сестра четырех». Отрывок из пьесы Евгения Водолазкина про карантин

Фрагмент из «Сестры четырех» — ироничной и абсурдной пьесы

Forbes
Бананы, песок и пчёлы: 10 ресурсов на грани исчезновения Бананы, песок и пчёлы: 10 ресурсов на грани исчезновения

Без этих ресурсов наша жизнь станет гораздо труднее

Популярная механика
«Паллиативная помощь — это медленный танец». Монологи сотрудников детского хосписа «Паллиативная помощь — это медленный танец». Монологи сотрудников детского хосписа

Монологи о том, каково это — помогать неизлечимо больным детям

СНОБ
Пришел чужой штраф. Что с этим делать во время самоизоляции? Пришел чужой штраф. Что с этим делать во время самоизоляции?

Оспорить штраф за проданную машину или авто-двойник чаще всего можно онлайн

РБК
«Я заработал 173%»: как инвесторы смогли получить прибыль от отрицательных цен на нефть «Я заработал 173%»: как инвесторы смогли получить прибыль от отрицательных цен на нефть

Кто и как смог заработать на рекордном падении нефтяных цен

Forbes
Новый штамм безработицы Новый штамм безработицы

Чего ждать от рынка труда после пандемии

Огонёк
Вывод АЭС из эксплуатации привел к исчезновению тропических рыб у берегов Японии Вывод АЭС из эксплуатации привел к исчезновению тропических рыб у берегов Японии

Без сброса теплой воды тропические виды заменились умеренными

N+1
Виктимология: существует ли наука, которая учит нас не быть жертвами? Виктимология: существует ли наука, которая учит нас не быть жертвами?

Что такое виктимология и поможет ли её изучение женщине не стать жертвой насилия

Cosmopolitan
Любовь на карантине: как не испортить отношения с партнером в самоизоляции Любовь на карантине: как не испортить отношения с партнером в самоизоляции

Постоянно быть рядом трудно, как бы вы друг друга ни любили

Cosmopolitan
Твой личный шедевр Твой личный шедевр

Микротатуировки: за и против

Cosmopolitan
Мы совершенно случайно обнаружили очень страшный фильм ужасов на Netflix Мы совершенно случайно обнаружили очень страшный фильм ужасов на Netflix

Если вы любите хорроры, срочно отправляйтесь смотреть «Элай»

GQ
Электрон в атоме гелия заменили на пион Электрон в атоме гелия заменили на пион

Физики впервые экспериментально подтвердили экзотический метастабильный атом

N+1
«Вы находитесь здесь»: почему первый пилотируемый запуск SpaceX важен для Илона Маска и что он будет делать дальше «Вы находитесь здесь»: почему первый пилотируемый запуск SpaceX важен для Илона Маска и что он будет делать дальше

Илон Маск может стать первым «космическим предпринимателем»

VC.RU
Алексей Ретинский Алексей Ретинский

Алексей Ретинский — мультимедиа-художник нового времени

Собака.ru
10 сериалов, навсегда изменивших телевидение 10 сериалов, навсегда изменивших телевидение

Десяток классических сериалов, не будь которых, тебе бы пришлось смотреть ерунду

Maxim
Как потепление воды изменит океан Как потепление воды изменит океан

Потепление океана может создать тропические экосистемы в неожиданных местах

Популярная механика
Светлая полоса: фальшивый номер газеты Светлая полоса: фальшивый номер газеты

Как советские журналисты придумали способ обойти государственную цензуру

Esquire
Избавиться от слов-паразитов и говорить эффектно. Как? Избавиться от слов-паразитов и говорить эффектно. Как?

Слова паразиты засоряют речь, мешают красиво выражать мысли и портят впечатление

Psychologies

Армия Кравченко должна была стать главной ударной силой в наступлении на Вену

Популярная механика
Рождение разнояйцевых близнецов назвали побочным продуктом эволюционной стратегии Рождение разнояйцевых близнецов назвали побочным продуктом эволюционной стратегии

Женщинам выгоднее овулировать один раз за цикл в молодости

N+1
Открыть в приложении