Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как бывшая балерина спасла семейный бизнес от убытков и заработала на сухих завтраках миллионы рублей Как бывшая балерина спасла семейный бизнес от убытков и заработала на сухих завтраках миллионы рублей

Как бывшая балерина стала крупным производственником?

Inc.
Dongfeng Paladin: Рыцарь без страха и упрёка Dongfeng Paladin: Рыцарь без страха и упрёка

Dongfeng Paladin: аутентичный внедорожник

4x4 Club
Неаполь, похороны: отрывок из дебютного романа Элены Ферранте, впервые на русском языке Неаполь, похороны: отрывок из дебютного романа Элены Ферранте, впервые на русском языке

Фрагмент из романа «Любовь в тягость» Элены Ферранте

Forbes
Понемногу о многом Понемногу о многом

Забытые плавания в Индию

Знание – сила
Идеальная мама — это миф: 3 способа избавиться от чувства вины перед ребенком Идеальная мама — это миф: 3 способа избавиться от чувства вины перед ребенком

Почему женщины после рождения ребенка никогда не чувствуют себя счастливыми?

Psychologies
Воздушный океан... Воздушный океан...

Мы все живём где-то на дне воздушного океана

Наука и жизнь
Механизм КРТ спасает уральский рынок недвижимости: «Не разрушить, а перезапустить» Механизм КРТ спасает уральский рынок недвижимости: «Не разрушить, а перезапустить»

Как КРТ смогло примирить интересы бизнеса и горожан на Урале

ФедералПресс
Искусство компромисса Искусство компромисса

Карл V: монарх, который искал компромиссов, а в итоге разочаровался во всём

Дилетант
Фудблогинг Фудблогинг

Среди разнообразия страниц соцсетей блоги о еде пользуются особой популярностью

Здоровье
Откуда что пошло на флоте. Рождение парового судна Откуда что пошло на флоте. Рождение парового судна

Как и с чего начиналась «пароходная лихорадка»?

Наука и техника
Мир после мира Мир после мира

Какой мир принесло завершение англо-бурской войны на юг Африки?

Знание – сила
Сексизм, киднеппинг и гусеница-наркоманка — за что критикуют вселенную Диснея Сексизм, киднеппинг и гусеница-наркоманка — за что критикуют вселенную Диснея

Какие картины студии Disney вызывали недовольство публики?

СНОБ
По законам гостеприимства По законам гостеприимства

Солнечный интерьер, который встречает тепло и радостно

Идеи Вашего Дома
Скорость без звука Скорость без звука

Как устроены электрические байки Ducati V21L

ТехИнсайдер
Фонтан из бренди и частный концерт Майкла Джексона: 5 лучших вечеринок в истории Фонтан из бренди и частный концерт Майкла Джексона: 5 лучших вечеринок в истории

Лучшие вечеринки XX века: кто их организовывал, а кто был на них гостями?

ТехИнсайдер
Вперед, к природе! Вперед, к природе!

Зимняя вечеринка на даче: как все устроить за три дня

Лиза
Вишневая девятка Вишневая девятка

Что забыл Tiggo 9 в горах Алтая и о чем напомнил

Автопилот
Под знаком русской свастики Под знаком русской свастики

Иван Ильин печалился о том, что многое мешает развитию русского фашизма

Дилетант
«Никто не прибьет полку так хорошо, как ты!»: как общаться с окружающими без манипуляций «Никто не прибьет полку так хорошо, как ты!»: как общаться с окружающими без манипуляций

Может ли ложь быть безобидной?

Psychologies
Фантом диверсанта Фантом диверсанта

Родился Отто Скорцени 12 июня 1908 года в Австрии, в Вене

Дилетант
Искусство найма: как увеличить число разработчиков в 5 раз и снизить текучесть кадров Искусство найма: как увеличить число разработчиков в 5 раз и снизить текучесть кадров

Как практика One day offer помогает нанимать лучших специалистов в IT-отрасли

СНОБ
Сестры милосердия Сестры милосердия

«Малышки 18:22»: розовое как прием

Weekend
Превратности распада Превратности распада

После смерти царя Ирода Великого в Иудее вспыхнули нескончаемые беспорядки

Знание – сила
Камчатка: необычному региону — необычные законы Камчатка: необычному региону — необычные законы

Приоритеты деятельности регионального камчатского парламента

ФедералПресс
Сергей Капица как искусственный интеллект Сергей Капица как искусственный интеллект

В чем опасность цифрового двойника человека

Наука
7 мифов про метаболизм: Разобьём новогодние мифы вместе! 7 мифов про метаболизм: Разобьём новогодние мифы вместе!

Сколько можно есть — новогодние мифы о метаболизме

Новый очаг
Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер» Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер»

«Косынка» и «Сапер»: какой замысел Билла Гейтса они в себе таили?

ТехИнсайдер
Следующее желание Следующее желание

В этой новогодней истории встретились две главные темы – Байкал и Новый год

Seasons of life
«Африка-Алкебулан: sentio ergo sum» «Африка-Алкебулан: sentio ergo sum»

Чему нам следует поучиться у Африки и африканцев?

Знание – сила
Как можно использовать искусственный интеллект для создания видео? Интересные факты Как можно использовать искусственный интеллект для создания видео? Интересные факты

Как работают ИИ-видеогенераторы, где их применяют и что ждет нас в будущем

ТехИнсайдер
Открыть в приложении