Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как галактики таранят друг друга, оставляя гигантские дыры: видео Как галактики таранят друг друга, оставляя гигантские дыры: видео

Найдены свидетельства раннего межгалактического столкновения

National Geographic
Микрочип: схема, изменившая мир Микрочип: схема, изменившая мир

Изобретения, которые значительно увеличили скорость технологического прогресса

Популярная механика
«Деньги мессии». В Израиле нашли редчайшую монету времен иудейского восстания против Рима «Деньги мессии». В Израиле нашли редчайшую монету времен иудейского восстания против Рима

Ее чеканили повстанцы, которыми руководил лидер Шимон Бар-Кохба

National Geographic
Гигантские хищные динозавры оказались марафонцами Гигантские хищные динозавры оказались марафонцами

В зависимости от размера динозавры использовали разные стратегии перемещения

N+1
Зрим в корень! Зрим в корень!

Дизайнер интерьера Анастасия Комарова делится секретами сервировки стола

SALON-Interior
11 продуктов, которые едят долгожители 11 продуктов, которые едят долгожители

На продолжительность жизни в первую очередь влияет питание

Cosmopolitan
Обычные отношения. Как сериал «Нормальные люди» стал манифестом любви миллениалов и поколения Z Обычные отношения. Как сериал «Нормальные люди» стал манифестом любви миллениалов и поколения Z

Сериал «Нормальные люди» стал хитом: его уже посмотрело 16 млн человек

Forbes
Сериал «Голливуд» – это красивая, но довольно бессмысленная сказка Сериал «Голливуд» – это красивая, но довольно бессмысленная сказка

Замысел режиссера совершенно понятен с первой же серии

GQ
Наличный обман Наличный обман

Дипфейк — технология, позволяющая менять лица людей на видео

GQ
Солнце уступило своим родственникам в магнитной активности Солнце уступило своим родственникам в магнитной активности

Магнитная активность и изменчивость яркости Солнца меньше, чем у других светил

N+1
Анатомия оргазма: каков механизм удовольствия и зачем он нам Анатомия оргазма: каков механизм удовольствия и зачем он нам

Что общего у оргазма с чиханием?

Популярная механика
Советы бывалого. Мореплаватель Рид Стоу о том, как прожить 1152 дня в полной изоляции и полюбить одиночество Советы бывалого. Мореплаватель Рид Стоу о том, как прожить 1152 дня в полной изоляции и полюбить одиночество

Как мореплаватель Рид Стоу проводил изоляцию в океане и что для него это значило

Forbes
Добавить света, зелени и красоты: как быстро сделать дом уютным Добавить света, зелени и красоты: как быстро сделать дом уютным

Как можно быстро и без больших вложений обновить ваше жилье

Forbes
Как воспринимают развод мужчины, а как — женщины? Как воспринимают развод мужчины, а как — женщины?

Почему мы переживаем развод настолько по-разному?

Psychologies
Дочь-трансгендер, эпатаж и вечная молодость: певице Шер - 74 года! Дочь-трансгендер, эпатаж и вечная молодость: певице Шер - 74 года!

Вспоминаем самые интересные моменты из жизни Шерилин Саркисян

Cosmopolitan
Вирусы против людей: хроника вечной войны Вирусы против людей: хроника вечной войны

Афинская чума, черная смерть, испанка, СПИД и другие эпидемии человечества

Дилетант
Гены устойчивости к жукам-вредителям помогут спасти ясень в Европе и Северной Америке Гены устойчивости к жукам-вредителям помогут спасти ясень в Европе и Северной Америке

Эти 53 гена позволяют азиатским ясеням бороться с изумрудной златкой

N+1
Не надо считать себя всезнайкой. Советы по запуску успешного бизнеса от создательницы NYX Cosmetics Не надо считать себя всезнайкой. Советы по запуску успешного бизнеса от создательницы NYX Cosmetics

Как построить успешный бизнес и какие качества важны для предпринимателя

Forbes
Вся чешусь и падаю без сил: как твое тело реагирует на токсичные отношения Вся чешусь и падаю без сил: как твое тело реагирует на токсичные отношения

Токсичные отношения действуют не только на психику, но и на тело тоже

Cosmopolitan
Археологи предложили новый способ поиска древнего пива Археологи предложили новый способ поиска древнего пива

Археологи экспериментально проверили способ выявления следов пива

N+1
14 фактов о «Звездных войнах» 14 фактов о «Звездных войнах»

Знал ли ты, что Тупак Шакур мог стать джедаем?

Maxim
Похороны Зевса. Послесловие к фильму Лозницы Похороны Зевса. Послесловие к фильму Лозницы

С какой стати фильм «Государственные похороны» стал одним из хитов интернета

СНОБ
Сильный и мертвый: какова связь между обязанностью мужчины быть сильным и количеством самоубийств Сильный и мертвый: какова связь между обязанностью мужчины быть сильным и количеством самоубийств

Общество должно разрешить мужчинам быть слабыми

Esquire
Болит ли у собак голова? Болит ли у собак голова?

Что объясняет сгрызенный кроссовок и полтора часа воя на дверь шкафа?

Maxim
Новые простые Новые простые

Ксения Рождественская об американских демократах в фильме «Снести Большой дом»

Weekend
Стать лучшей версией себя: 7 книг для саморазвития от вице-президента Whirpool Стать лучшей версией себя: 7 книг для саморазвития от вице-президента Whirpool

Книги, которые перевернут ваше представление о себе

Forbes
Драгоценное время Драгоценное время

Мы вспомнили самые важные кинособытия минувших лет

Grazia
От обрушения рынка ипотеки сильнее всех пострадали Альфа-банк и ВТБ От обрушения рынка ипотеки сильнее всех пострадали Альфа-банк и ВТБ

Рынок ипотеки в апреле рухнул почти на треть

Forbes
10 физических явлений на кухне: увидеть своими глазами 10 физических явлений на кухне: увидеть своими глазами

Кухня — отличная возможность наглядно объяснить физику

Популярная механика
Хочу написать книгу, но не знаю как: 10 советов начинающему писателю Хочу написать книгу, но не знаю как: 10 советов начинающему писателю

Создание книги ‒ сложный процесс, требующий от автора много сил и внимания

Cosmopolitan
Открыть в приложении