Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Живая посуда, суперкостюм для мяса и другие биотехнологии будущего для человека Живая посуда, суперкостюм для мяса и другие биотехнологии будущего для человека

Специалисты предлагают новые варианты борьбы с отходами

Популярная механика
Деликатный вопрос Деликатный вопрос

Все, что ты хотела знать об интимной пластике, но стеснялась спросить

Лиза
Как Голливуд разочаровался в Мэрилин Монро, но пытался найти ее почти в каждой актрисе Как Голливуд разочаровался в Мэрилин Монро, но пытался найти ее почти в каждой актрисе

Почему привычка социума и массмедиа навешивать ярлыки не ушла вместе с Монро

Esquire
Гуляем! Гуляем!

За что могут оштрафовать в новогоднюю ночь

Лиза
$117 000 из бассейна: сколько принесло россиянам возвращение на ЧМ по плаванию $117 000 из бассейна: сколько принесло россиянам возвращение на ЧМ по плаванию

Сколько заработали россияне, и кто из пловцов стал самым богатым в сезоне

Forbes
Под знаком русской свастики Под знаком русской свастики

Иван Ильин печалился о том, что многое мешает развитию русского фашизма

Дилетант
Как понять, что вам не хватает витамина D — и как его получить зимой? Простой ответ Как понять, что вам не хватает витамина D — и как его получить зимой? Простой ответ

Как недостаток витамина D влияет на наш организм?

ТехИнсайдер
Подумайте дважды: 9 очаровательных пород собак, которые не подойдут семье с ребенком Подумайте дважды: 9 очаровательных пород собак, которые не подойдут семье с ребенком

Породы, которые не подходят для семей с маленькими детьми

ТехИнсайдер
El Copitas. 10 лет выдержки! El Copitas. 10 лет выдержки!

Верховые барные деятели Петербурга раскачали питейную индустрию всей страны

Собака.ru
Грибоедов. Русская драма Грибоедов. Русская драма

«Гениальнейшей русской драмой» назвал «Горе от ума» А. Блок. Где же драма?

Знание – сила
Давид против Голиафа Давид против Голиафа

«Изобретение концлагеря» начиналось в стране буров...

Знание – сила
Они повсюду: 7 источников радиации, которые окружают нас в быту Они повсюду: 7 источников радиации, которые окружают нас в быту

Какие из домашних вещей могут быть настоящими источниками радиации?

ТехИнсайдер
Альберт Эйнштейн и Нильс Бор Альберт Эйнштейн и Нильс Бор

Элементы сравнительного жизнеописания Альберта Эйнштейна и Нильса Бора

Наука и жизнь
«Только любящий взгляд способен разглядеть в тебе сокровище»: о чем фильм «Филателия» «Только любящий взгляд способен разглядеть в тебе сокровище»: о чем фильм «Филателия»

«Филателия»: история двух людей, которых вопреки всему свела судьба

Psychologies
«А ты возьми и купи слона»: как не вестись на маркетинговые уловки и не потратить все деньги перед Новым годом «А ты возьми и купи слона»: как не вестись на маркетинговые уловки и не потратить все деньги перед Новым годом

Как узнать все секреты продавцов, чтобы покупать осознанно?

Psychologies
«Нет такого вопроса, на который у звезд не было бы правильного ответа» «Нет такого вопроса, на который у звезд не было бы правильного ответа»

Что нужно сделать, чтобы в 2025 году вам сопутствовала удача в делах

Добрые советы
Бот из машины Бот из машины

Как биороботы оживают и меняют мир технологий

РБК
Белорусский феномен Белорусский феномен

В июне в Минске прошла II Международная выставка индустрии безопасности

Обозрение армии и флота
Камчатка: необычному региону — необычные законы Камчатка: необычному региону — необычные законы

Приоритеты деятельности регионального камчатского парламента

ФедералПресс
Балджи у далеких ярких субмиллиметровых галактик сформировались за счет вспышек звездообразования Балджи у далеких ярких субмиллиметровых галактик сформировались за счет вспышек звездообразования

Телескопы ALMA и «Джеймс Уэбб» наблюдали балджи у субмиллиметровых галактик

N+1
Основатели Simple — о 30-летии бренда и планах на будущее Основатели Simple — о 30-летии бренда и планах на будущее

Основатели Simple — зачем нужно покупать вино, разлитое в год рождения детей

РБК
Волшебный мотив Волшебный мотив

Шампанское и креветки, классический новогодний дуэт, камертон праздничного стола

Добрые советы
Шарик, стрелки, космонавт Шарик, стрелки, космонавт

Рассказ Алексея Сальникова о Новом годе и украшении елки

Правила жизни
Михаил Державин: «Мечтаю никому не мешать» Михаил Державин: «Мечтаю никому не мешать»

Эх, вернуть бы еще молодость, которая так быстро пронеслась

Караван историй
Пока не кончилось Пока не кончилось

Каково это — увидеть финал того, что длилось много серий

Weekend
Когда-то по Земле ходили «мега-пингвины»! Интересные факты о доисторических птицах ростом с человека Когда-то по Земле ходили «мега-пингвины»! Интересные факты о доисторических птицах ростом с человека

Какими были гигантские доисторические пингвины и почему они исчезли?

ТехИнсайдер
С легким паром! 7 правил, чтобы получить максимальный эффект от бани С легким паром! 7 правил, чтобы получить максимальный эффект от бани

Врачи предупреждают – париться можно не всем и отнюдь не до седьмого пота!

Лиза
Богатую микофлору носа связали с повышенным риском астмы и аллергического ринита Богатую микофлору носа связали с повышенным риском астмы и аллергического ринита

Богатая микофлора носа повышает вероятность развития аллергии и  астмы

N+1
Елена Николаева: «Я была влюблена в Смехова. Его Атос казался мне мужчиной мечты» Елена Николаева: «Я была влюблена в Смехова. Его Атос казался мне мужчиной мечты»

Я в отношениях уже девять лет, поэтому не могу сказать, что влюблена. Я люблю

Караван историй
Разумом, молотком, пистолетом Разумом, молотком, пистолетом

Какими приспособлениями пользуются полевые исследователи

ТехИнсайдер
Открыть в приложении