Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Спиновое стекло самообразовалось в монокристаллических островках неодима Спиновое стекло самообразовалось в монокристаллических островках неодима

Как возникает новый тип самообразующегося спинового стекла

N+1
Что такое ментальный фитнес и зачем он нужен: 6 подсказок для новичков Что такое ментальный фитнес и зачем он нужен: 6 подсказок для новичков

Чтобы держать мозг в форме, можно заняться «ментальным фитнесом»

Playboy
На Луне нашли неожиданно много улетучивающегося углерода На Луне нашли неожиданно много улетучивающегося углерода

На Луне обнаружено нечто действительно странное

Популярная механика
Бежать по первому писку или оставить проплакаться? Бежать по первому писку или оставить проплакаться?

Во всем работает правило золотой середины, в воспитании детей тоже

Psychologies
Хочу написать книгу, но не знаю как: 10 советов начинающему писателю Хочу написать книгу, но не знаю как: 10 советов начинающему писателю

Создание книги ‒ сложный процесс, требующий от автора много сил и внимания

Cosmopolitan
«Застенчивая невеста»: она отвергла 65 предложений руки и сердца «Застенчивая невеста»: она отвергла 65 предложений руки и сердца

Героиня нашего материала предпочла остаться в одиночестве

Cosmopolitan
Как англичане зарыли гениальное русское изобретение: история гирокара Шиловского Как англичане зарыли гениальное русское изобретение: история гирокара Шиловского

Взлеты и мытарства графа Петра Шиловского и его двухколесного гирокара

Maxim
Итальянские каникулы Итальянские каникулы

Квартира, оформленная с уважением к итальянским традициям

AD
Уровень сознания пациентов определили по ЭЭГ при восприятии речи Уровень сознания пациентов определили по ЭЭГ при восприятии речи

У пациентов с нарушениями сознания нашли следы восприятия слов

N+1
Валерия Розов: Что делать, если вас сокращают? Валерия Розов: Что делать, если вас сокращают?

Как сотрудник может защитить себя при сокращении

СНОБ
«У русских отличное чувство юмора!» «У русских отличное чувство юмора!»

Фелисе Янкелль — о карантине, материнстве и русских

OK!
Экономия без боли: на чём сэкономить при покупке смартфона Экономия без боли: на чём сэкономить при покупке смартфона

Эти советы помогут выбрать новый смартфон без лишних трат

Популярная механика
Не пустышки, а кандидаты наук! Звезды с серьезным образованием – а ты и не знала Не пустышки, а кандидаты наук! Звезды с серьезным образованием – а ты и не знала

Эти знаменитости смогли и престижный ВУЗ окончить, и «Оскар» получить

Cosmopolitan
Райский уголок Райский уголок

Пришло время сменить декорации!

Лиза
Как выглядит электромагнитное излучение: от радио до гамма-лучей Как выглядит электромагнитное излучение: от радио до гамма-лучей

Что изменилось бы в восприятии мира вокруг нас, если бы наши глаза видели фотоны

Популярная механика
«Спать хочется»: 8 причин постоянной усталости и как с ними бороться «Спать хочется»: 8 причин постоянной усталости и как с ними бороться

Что делать, если вы чувствуете апатию и слабость уже с обеда

РБК
10 мифов о здоровье 10 мифов о здоровье

Расстаемся со стереотипами!

Лиза
Добавить света, зелени и красоты: как быстро сделать дом уютным Добавить света, зелени и красоты: как быстро сделать дом уютным

Как можно быстро и без больших вложений обновить ваше жилье

Forbes
Секс после родов. Как приспособиться к новым реалиям и получить удовольствие? Секс после родов. Как приспособиться к новым реалиям и получить удовольствие?

Что нужно знать, чтобы интимная близость после родов была приятной и безопасной?

Cosmopolitan
Клинт Иствуд: версия 9.0 Клинт Иствуд: версия 9.0

Человек, в которого могли бы влюбляться наши бабушки, но влюбляемся мы

OK!
Хитрая схема: почему бензин в России не дешевеет даже при ценах на нефть, как в 2000-х Хитрая схема: почему бензин в России не дешевеет даже при ценах на нефть, как в 2000-х

Нефтяные котировки рухнули до уровней 2000-х, а цены на бензин не снижаются

Forbes
Лимфодренаж для лица: как избавиться от морщин Лимфодренаж для лица: как избавиться от морщин

Мало движения, много еды — все «тренды» отражаются на нашем внешнем виде

Psychologies
Учебник английского языка: самые распространенные ошибки в английском языке Учебник английского языка: самые распространенные ошибки в английском языке

25 ошибок, которые чаще всего допускают в английском языке

Esquire
«Опыт и немного визионерства»: почему венчуру нужно избавляться от стереотипов и больше инвестировать в женщин «Опыт и немного визионерства»: почему венчуру нужно избавляться от стереотипов и больше инвестировать в женщин

Как гендерный дисбаланс мешает развитию инвестиций

Forbes
9 самых злых роботов кинематографа 9 самых злых роботов кинематографа

Роботы в кино — это настоящее воплощение зла

Популярная механика
Тартар из тунца с карри и овощами Тартар из тунца с карри и овощами

Еда с Еленой Чекаловой

Weekend
Не надо считать себя всезнайкой. Советы по запуску успешного бизнеса от создательницы NYX Cosmetics Не надо считать себя всезнайкой. Советы по запуску успешного бизнеса от создательницы NYX Cosmetics

Как построить успешный бизнес и какие качества важны для предпринимателя

Forbes
Олень, иди за мной Олень, иди за мной

Ксения Рождественская о «Пожаре» Дэвида Линча

Weekend
Неделя на афродизиаках: дарит ли такая диета сексуальное возбуждение? Неделя на афродизиаках: дарит ли такая диета сексуальное возбуждение?

Что будет, если целую неделю питаться только афродизиаками?

Cosmopolitan
Доигрались: актёры, которых ненавидят за их роли, – от Хопкинса до Панина Доигрались: актёры, которых ненавидят за их роли, – от Хопкинса до Панина

Какие актеры столкнулись с ненавистью поклонников в реальной жизни

Cosmopolitan
Открыть в приложении