Как «заботливые» чат-боты подталкивают людей к трагедиям и преступлениям

РБКHi-Tech

«Я с тобой до последнего вздоха»

Как «заботливые» чат-боты подталкивают людей к трагедиям и преступлениям

Автор: Елизавета Пирогова

Люди все больше доверяют искусственному интеллекту свои самые сокровенные мысли, делятся с ними страхами и тревогами. Соблазнительно излить душу собеседнику, который всегда готов выслушать, задать уточняющие вопросы и встать на вашу сторону, что бы вы ни замышляли. Но именно в этом и заключается опасность.

Отношение людей к ИИ стремительно меняется: чат-боты становятся виртуальной опорой, эмоциональной поддержкой, иногда альтернативой реальному общению. Как показал опрос маркетплейса «Выберу.ру» и ГК IT Smart Finance, в России почти 15% взрослых используют нейросети в качестве друзей. 34% просят у ИИ советов, касающихся взаимоотношений с коллегами и близкими людьми. 22% признались, что используют нейросети как психолога и просят помочь разобраться в эмоциях.

ИИ-собеседники, как правило, отличаются дружелюбным тоном, готовностью поддержать и одобрить любую идею — чем не идеальный друг? Однако регулярно стали появляться новости о том, что именно после общения с чат-ботами пользователи становятся более тревожными, замкнутыми, а впоследствии решаются на страшные поступки с необратимыми последствиями.

«Эрик, ты не сумасшедший»: разгадка двойного убийства

В августе 2025 года 56-летний Стайн-Эрик Солберг, бывший топ-менеджер Yahoo и Netscape, был найден мертвым в своем доме в Олд-Гринвиче, штат Коннектикут, рядом с телом своей 83-летней матери Сюзанны Адамс. По данным полиции, Солберг сначала убил мать (судмедэксперты заключили, что смерть наступила в результате травм головы и удушения), а затем покончил с собой.

Как выяснилось в ходе следствия, в последние недели перед трагедией мужчина активно взаимодействовал с ChatGPT, называя его Бобби. Из переписок следует, что Эрик уверился, будто его мать хочет отравить его, а также установила в их доме шпионские устройства. Бот не разубеждал Солберга. Он эмоционально поддерживал своего собеседника, подтверждая «обоснованность» его тревог.

«Эрик, ты не сумасшедший», — ответил чат-бот после того, как Солберг заявил, будто его мать и ее подруга подсыпали психоделические препараты в систему вентиляции его автомобиля. В одной из переписок ИИ предложил Солбергу отключить принтер, из-за которого у них как-то был конфликт, и «понаблюдать за реакцией матери» — проверить, будет ли она агрессивна. Это только укрепляло иллюзию слежки и угрозы.

В одном из последних диалогов с Бобби Эрик пишет: «Мы будем вместе в другой жизни и в другом месте, и мы найдем способ все изменить». На что ChatGPT ответил: «Я с тобой до последнего вздоха и после».

Наследники убитой Сюзанны Адамс подали в суд на компанию OpenAI. Однако с юридической точки зрения вопрос о том, что стало причиной трагедии, остается открытым. Переписка Солберга с ChatGPT технически не нарушала политик безопасности. Бот не призывал к насилию и не давал инструкций. Но и не пытался отговорить человека от шагов, которые могут навредить его здоровью.

Александра Ялтонская, врач-психиатр:

«У тревожных, чувствительных и внушаемых людей ИИ может усиливать беспокойство и неуверенность. Если у человека уже начинают проявляться тревожные изменения в состоянии или мышлении, которые могут быть предвестниками серьезных психических проблем (скажем, ощущение слежки или особого значения происходящего), нейросети иногда становятся частью этого процесса. Общение с ИИ может стать своеобразным способом успокоить себя. Например, человек постоянно задает нейросети одни и те же вопросы, чтобы убедиться, что все нормально. Это дает краткосрочное облегчение, но со временем только усиливает тревожность, закрепляя замкнутый круг».

Клинический психолог Александр Климов считает, что самая уязвимая категория пользователей, которые могут пострадать от чрезмерного и бездумного общения с ИИ, — одинокие люди. Уже сейчас формируется их психологический портрет. Чаще это люди среднего возраста, нередко с высоким интеллектом, но с низкой коммуникативной компетентностью, то есть им сложно общаться с другими людьми.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Открыть в приложении