Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужен ли вам подержанный Range Rover? Нужен ли вам подержанный Range Rover?

Б/у Range Rover: стоит ли брать и чего ждать от подержанного автомобиля?

4x4 Club
Русская Атлантида – город Молога Русская Атлантида – город Молога

История Тихвинской водной системы, по которому шло освоение Русского Севера

Знание – сила
Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Виктор Тульчинский: «До сих пор считаю уход Ефремова из «Современника» ошибкой» Виктор Тульчинский: «До сих пор считаю уход Ефремова из «Современника» ошибкой»

В театре «Современник» царил дух товарищества

Коллекция. Караван историй
Александр Черниченко: «Если сидеть и говорить, что это невозможно, так оно и будет» Александр Черниченко: «Если сидеть и говорить, что это невозможно, так оно и будет»

Александр Черниченко про спорт и своих сыновей

Maxim
Основатели Simple — о 30-летии бренда и планах на будущее Основатели Simple — о 30-летии бренда и планах на будущее

Основатели Simple — зачем нужно покупать вино, разлитое в год рождения детей

РБК
Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку

Провал Пумы: вышедший в новой обуви на поле Кукурелья дважды поскользнулся

Forbes
Облачный атлас Облачный атлас

Интерьер загородного дома в духе бельгийской школы дизайна

SALON-Interior
Локальный бизнес: 6 франшиз из регионов, чей бизнес у дома принесет миллионы Локальный бизнес: 6 франшиз из регионов, чей бизнес у дома принесет миллионы

Inс. выбрал интересные локальные проекты из разных городов России

Inc.
3,5 тонны роскоши 3,5 тонны роскоши

Китайский внедорожник TANK 700 очень большой, очень тихий и очень мощный

ТехИнсайдер
Выборочные инвестиции Выборочные инвестиции

Вложения в фонды акций за год выросли почти в пять раз

Деньги
В определенных обстоятельствах В определенных обстоятельствах

Светлана Иванова с дочерьми Полиной и Мирой впервые снималась для глянца!

OK!
В силиконовых ремешках смарт-часов содержится множество вредных химикатов В силиконовых ремешках смарт-часов содержится множество вредных химикатов

Слышали что-нибудь о «вечных химикатах»?

ТехИнсайдер
Не каждая тарелка — летающая Не каждая тарелка — летающая

Феномен НЛО: правда или вымысел?

Зеркало Мира
Как пережить предновогодний марафон и сохранить здравый рассудок Как пережить предновогодний марафон и сохранить здравый рассудок

Как не утонуть в предновогоднем хаосе и встретить праздник с улыбкой

VOICE
Февральская революция Февральская революция

Как русские ученые устроили шестую промышленную революцию в лаборатории

ТехИнсайдер
Праздник на Неве Праздник на Неве

Зимний Санкт-Петербург приглашает на новогодние каникулы!

Лиза
Среди своих Среди своих

Загородный дом для отдыха с уникальными решениями

SALON-Interior
Деликатный вопрос Деликатный вопрос

Все, что ты хотела знать об интимной пластике, но стеснялась спросить

Лиза
Остановка Стамбул Остановка Стамбул

Заезженную фразу «Москва – не вся Россия», можно перенести и на Стамбул

Знание – сила
11 возможных причин того, что вы все еще одна 11 возможных причин того, что вы все еще одна

Скорее всего, у того, что вы пока не в отношениях, есть весомая причина

Psychologies
Турецкий экспорт вооружений Турецкий экспорт вооружений

Состояние и перспективы развития турецкого экспорта вооружений

Обозрение армии и флота
От мини-юбок до сжигания хиджабов: как за 100 лет поменялось положение женщин в Иране От мини-юбок до сжигания хиджабов: как за 100 лет поменялось положение женщин в Иране

Как положение иранок в обществе становилось манипуляцией со стороны властей

Forbes
Ольга Бузова: «Мне не нужен ураган в душе. Мне по кайфу штиль» Ольга Бузова: «Мне не нужен ураган в душе. Мне по кайфу штиль»

Ольга Бузова: как продолжить верить людям, несмотря на прошлый негативный опыт

Добрые советы
Выдворение китайских студентов из СССР Выдворение китайских студентов из СССР

После смерти Сталина между СССР и Китаем стали нарастать противоречия

Дилетант
Вокруг света по кусочкам: Восточная Европа Вокруг света по кусочкам: Восточная Европа

Удивительные встречи. Одно из таких знакомств — с путешественником Юрием Лыхиным

Seasons of life
Банковская идея Банковская идея

Как банки в рекламе ищут новые смыслы и старые ценности

Деньги
В стиле джапанди В стиле джапанди

Неординарное пространство — в стиле джапанди, комфортное и уютное

Идеи Вашего Дома
Уолт-Стрит Уолт-Стрит

Может ли сказка быть бизнесом, а бизнес – сказкой? Взлет корпорации Disney

Правила жизни
Его ошибка — война Его ошибка — война

Началось всё со случайного разговора в спортивном комплексе «Форо Италико»

Дилетант
Открыть в приложении