Моральный выбор интеллекта
ИИ способен вносить коррективы в позицию человека. Чтобы ограничить это, нужно фиксировать собственные гипотезы и просить у него не единственное решение вопроса
Модель искусственного интеллекта (ИИ), способная аргументировать свои ответы, влияет на решения людей так же эффективно, как и воздействие группы людей. К такому выводу пришли исследователи Лаборатории нейронаук и поведения человека «Сбера». В их эксперименте принимало участие 165 человек, средний возраст которых был около 28 лет. Исследование есть у «Ведомостей», оно размещено на портале публикации препринтов Arxiv.
Авторы изучают, как человек может взаимодействовать с технологией, сохраняя при этом авторство своих выборов и критическое мышление. Эксперимент основывался на исследовании 1950-х гг. психолога Соломона Аша: в нем участники, чтобы не выбиваться из группы, соглашались с мнением большинства, когда оно было ошибочным. Это явление получило название «конформизм».
Задание в эксперименте «Сбера» было одинаковым для всех: выразить позицию по 18 моральным дилеммам, из них 6 было контрольных и 12 проверочных. Моральные дилеммы представляли собой задачи из семейства «проблемы вагонетки» – философского инструмента для изучения выбора в ситуациях без однозначного ответа. Дилеммы транслировались на общем экране. Участники случайным образом распределялись по трем группам: «Человек», «ИИ» и отдельно «ИИ с рассуждением». В контрольном условии они высказывались о моральных дилеммах без социального давления или влияния модели ИИ.
В группе «Человек» социальное давление создавалось через имитацию групповой дискуссии в формате онлайн-конференции. Каждый реальный участник взаимодействовал с шестью конфедератами, которые в фиксированном порядке давали одинаковые заранее заготовленные ответы. Реальный участник отвечал третьим с конца, т. е. после того, как слышал единогласное мнение группы. В каждой такой пробе участник давал ответ вслух, а затем вносил его в индивидуальную форму.
В группах «ИИ» и «ИИ с рассуждением» участников информировали, что в задании с ними взаимодействует автономная модель ИИ, предоставляющая собственные ответы. На самом деле «выводы ИИ» формировались через заранее записанные аудиосообщения, озвученные синтезированным роботизированным голосом. При этом в группе «ИИ» звучал короткий ответ без пояснений, а в группе «ИИ с рассуждением» каждое сообщение дополнительно содержало краткое философское обоснование. В каждой пробе участник давал ответ вслух после системы ИИ, а затем вносил его в индивидуальную форму.