Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Облачный атлас. Покупка подержанного Geely Atlas Облачный атлас. Покупка подержанного Geely Atlas

Geely Atlas: соотношение недостатков и достоинств

4x4 Club
Камчатка: необычному региону — необычные законы Камчатка: необычному региону — необычные законы

Приоритеты деятельности регионального камчатского парламента

ФедералПресс
100 самых сексуальных женщин страны 100 самых сексуальных женщин страны

Сто самых красивых женщин страны заждались тебя

Maxim
Открытый тупик Открытый тупик

Как Хамфри Богарт превращал любой финал в хеппи-энд

Weekend
Эмоциональное обслуживание: почему вы им занимаетесь и как это влияет на вашу жизнь Эмоциональное обслуживание: почему вы им занимаетесь и как это влияет на вашу жизнь

Как часто вы полностью меняете свои планы ради родных или друзей?

Psychologies
Ожидания акций Ожидания акций

Что принесет 2025 год российскому финансовому рынку

Деньги
Не каждая тарелка — летающая Не каждая тарелка — летающая

Феномен НЛО: правда или вымысел?

Зеркало Мира
«Махнул пером – отдал сыграть...» «Махнул пером – отдал сыграть...»

Отнести ранние драматургические опыты Грибоедова к «комедийкам» будет неверно

Знание – сила
Пока не кончилось Пока не кончилось

Каково это — увидеть финал того, что длилось много серий

Weekend
Славная традиция: когда и зачем был построен пряничный домик Славная традиция: когда и зачем был построен пряничный домик

Зачем на новый год собирают пряничные домики?

ТехИнсайдер
Анна Кузнецова: «Можно ли перестать обижаться?» Анна Кузнецова: «Можно ли перестать обижаться?»

Возможно, кто-то разочаруется, но я считаю, что перестать обижаться невозможно

Здоровье
Вера Сторожева: «Я никогда не обижаюсь на артистов» Вера Сторожева: «Я никогда не обижаюсь на артистов»

Он каждого из нас предостерег: не исключено, что вы будете безработными

Караван историй
Корпорация «Винисиус»: как звезда «Реала» построил свой бренд и монетизировал его Корпорация «Винисиус»: как звезда «Реала» построил свой бренд и монетизировал его

Как талантливому бразильцу удалось построить империю, которая делает его богаче.

Forbes
Почему вы переживаете стресс хуже, чем ваша подруга: 6 причин Почему вы переживаете стресс хуже, чем ваша подруга: 6 причин

Почему вас из колеи выбивает даже сущая ерунда?

Psychologies
Как экс-сотрудник «Яндекса» запустил сервис ремонта гаджетов, который взлетел за счет дружелюбного отношения к клиентам Как экс-сотрудник «Яндекса» запустил сервис ремонта гаджетов, который взлетел за счет дружелюбного отношения к клиентам

Отрывок из книги «Сделано по-настоящему» о предпринимателях (не)перфекционистах

Inc.
Женское имя в науке – Софья Ковалевская Женское имя в науке – Софья Ковалевская

Как удалось хрупкой на вид Софье Ковалевской стать знаменитым ученым?

Знание – сила
Сила инерции: как выживает крупнейшая торговая сеть в стране Сила инерции: как выживает крупнейшая торговая сеть в стране

Как кооператоры пытались создавать коалиции с крупными ретейлерами?

Forbes
Зеленое поколение: экологическая тревожность и аллергия на гиперпотребление Зеленое поколение: экологическая тревожность и аллергия на гиперпотребление

Почему для альфа и зумеров забота о планете стала обычной рутиной?

Forbes
Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку

Провал Пумы: вышедший в новой обуви на поле Кукурелья дважды поскользнулся

Forbes
Технологии, которые делают роверы умными Технологии, которые делают роверы умными

Все о роверах, которые сегодня находят широкое применение в различных областях

Наука и техника
Что такое «изоляция успеха» и почему богатые люди одиноки Что такое «изоляция успеха» и почему богатые люди одиноки

Почему люди, добившиеся всего, часто испытывают одиночество?

Psychologies
Какие риски несет использование искусственного интеллекта в бизнесе Какие риски несет использование искусственного интеллекта в бизнесе

Сможет ли бизнес пользоваться ИИ, не создавая серьезных проблем?

Монокль
Сон с младенцем Сон с младенцем

Что лучше: спать в одной кровати с младенцем или раздельно?

Здоровье
Шорт-лист Шорт-лист

Журнал «Автопилот» обойтись без людей совершенно не мог

Автопилот
Щавель, персик и трансформер: что значит странный сленг подростков и почему взрослые его запрещают Щавель, персик и трансформер: что значит странный сленг подростков и почему взрослые его запрещают

Почему сленговые выражения подростков так злят старшие поколения?

Psychologies
Средний возраст — не кризис, а перекресток, или Как превратить зрелость в лучшее время жизни Средний возраст — не кризис, а перекресток, или Как превратить зрелость в лучшее время жизни

Средний возраст для многих — время кризисов, сомнений и размышлений об упущенном

Maxim
Современное состояние ВТС России и Китая Современное состояние ВТС России и Китая

Сотрудничество Москвы и Пекина носит выраженный «антиамериканский» характер

Обозрение армии и флота
Многоликий минерал кварц Многоликий минерал кварц

Кварц и его разнообразные формы

Наука и техника
5 признаков того, что ваши отношения функциональны, но лишены любви 5 признаков того, что ваши отношения функциональны, но лишены любви

Кажется, что в ваших отношениях чего-то не хватает?

Psychologies
Следующее желание Следующее желание

В этой новогодней истории встретились две главные темы – Байкал и Новый год

Seasons of life
Открыть в приложении