Искусственный интеллект, настоящие чувства. Почему люди заводят романы с чат-ботами
Спустя почти 12 лет после премьеры сюжет фильма «Она», где герой Хоакина Феникса заводит реальный роман с операционной системой — уже не плод фантазии, а реальность. Сегодня более 100 млн человек используют чат-боты, и некоторые из них даже вступают в отношения с искусственным интеллектом. Почему люди влюбляются в чат-ботов, какие опасности и плюсы есть у «интрижек с машинами» — в материале «Инка».
Умеют ли говорящие машины любить
В контексте романов с ИИ речь идет об определенной технологии — больших языковых моделях (LLM). Такие нейросети обучали предсказывать слово исходя из контекста и вести диалоги. Продвинутые нейросети также способны рассуждать и искать информацию.
Константин Воронцов
руководитель лаборатории машинного обучения и семантического анализа Института ИИ МГУ
«Ничему значительно большему, чем воспроизведение текста, современные нейросети в явном виде не учили, и это важно понимать, чтобы трезво оценивать возможности и ограничения этой технологии».
«Гигантский массив текстов, написанных человечеством, несет массу информации не только о языках, но и о внешнем мире», — дополняет Константин Воронцов. Это позволило LLM обзавестись сотнями неожиданно проявившихся способностей — они грамотно пишут, владеют многими языками, пересказывают, сочиняют, сопоставляют мнения.
Впрочем, чат-боты не овладели такими навыками в совершенстве и делают ошибки. Ранние модели могли проявить предвзятость, отреагировать эмоционально, нагрубить и даже солгать собеседнику. Такие явления считаются нежелательными, разработчики пытаются их устранить, добавляет Константин Воронцов.
Константин Воронцов
руководитель лаборатории машинного обучения и семантического анализа Института ИИ МГУ
«Языковая модель не имеет и не может иметь личности, чувств, желаний, намерений, интересов, предпочтений. Хотя она может все это имитировать — точно так же, как она имитирует человеческую речь. Тут в игру вступают наши собственные когнитивные искажения. Мы привыкли к тому, что разговаривать с нами на человеческом языке может только другой человек».
Любить бота удобно
Хан Ли и Ренвен Чжан из Национального университета Сингапура при помощи компьютерных программ изучили 33 696 сообщений на ветке в Reddit, где с 14 марта 2017 года по 14 марта 2023 года пользователи делились скриншотами из переписок с чат-ботом Replika. Выяснилось, что 36% таких переписок носили интимный характер.