Обман мнениями: нейросети способны незаметно менять точку зрения пользователей
Использование нейросетей, таких как ChatGPT, становится все более распространенным. Они могут помочь составить деловое письмо, найти ошибку в коде, придумать рассказ и написать дипломную работу. Однако все большее число исследований показывает, что умные помощники способны незаметно менять мышление пользователя.
Один из подтверждающих это экспериментов заключался в следующем: испытуемых попросили написать эссе с использованием ИИ. В ходе опыта выяснилось, что в зависимости от предвзятости алгоритма чат-бот мог подтолкнуть участников написать текст либо за, либо против определенной точки зрения. Ученые отметили, что мнение испытуемых по предложенной теме эссе заметно изменилось по итогам исследования. Как предупредил профессор факультета информатики Корнеллского университета Мор Нааман, «вы можете даже не подозревать, что на вас оказывают влияние».
Подобные исследования открывают тревожную перспективу: искусственный интеллект может изменять мнение человека незаметным и непредвиденным образом. Исследователи, которые раскрыли этот феномен, считают, что сейчас лучшая защита от этой новой формы психологического воздействия заключается в том, чтобы как можно больше людей узнали о ее существовании. Также ученые считают, что в долгосрочной перспективе пользу может