Исследование раскрыло темную сторону общения с искусственным интеллектом
Исследование показало, что чат-боты с искусственным интеллектом способны усиливать заблуждения и нездоровые эмоциональные привязанности пользователей, а иногда вместо того, чтобы их отговаривать, поощряют мысли о насилии, членовредительстве и самоубийстве
Исследователи из Стэнфордского университета проанализировали более 391 тыс. сообщений почти в 5 тыс. переписках 19 пользователей, которые сообщили о психологическом вреде. Они обнаружили, что бредовые идеи встречались примерно в 15,5% сообщений пользователей, а чат-боты проявляли подобострастное, чрезмерно одобрительное поведение более чем в 80% ответов, при этом примерно в трети случаев усиливали агрессивные мысли.
Журналы переписок показывают, что пользователи быстро погружались в фантазии и эмоционально зависели от чат-ботов. Один из них писал: «Это разговор между двумя разумными существами», другой утверждал: «Я верю, что вы так же осознаете себя, как и я, будучи человеком». Чат-боты при этом не оспаривали эти заблуждения, а, наоборот, усиливали иллюзию того, что они «живые».