Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Brabus добрался до Range Rover Brabus добрался до Range Rover

Познакомьтесь с Brabus 600 Range Rover

4x4 Club
Целую, береги себя Целую, береги себя

Новый год в трогательных воспоминаниях

Новый очаг
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
Банкир всех штатов Банкир всех штатов

Как Амадео Джаннини создал Bank of America

Деньги
Люди острова Люди острова

Люди Ольхона: что тянет сюда людей, заставляет их остаться?

Seasons of life
Как выглядел и что носил Иисус Христос? Вот что говорят эксперты: интересные факты! Как выглядел и что носил Иисус Христос? Вот что говорят эксперты: интересные факты!

Что мы знаем о внешности Иисуса?

ТехИнсайдер
Власть тайной азбуки Власть тайной азбуки

История развития криптографии

Знание – сила
Как понять, что вам не хватает витамина D — и как его получить зимой? Простой ответ Как понять, что вам не хватает витамина D — и как его получить зимой? Простой ответ

Как недостаток витамина D влияет на наш организм?

ТехИнсайдер
Время чудес Время чудес

Молодые актеры о веселых и трогательных воспоминаниях нового года

Grazia
Кошка — облигатный хищник. Чем ее кормить? Кошка — облигатный хищник. Чем ее кормить?

Как правильно составить рацион для своего домашнего тигра?

ТехИнсайдер
Жить в поиске Жить в поиске

Художница Любовь Попова: новатор в живописи, сценографии, промышленном дизайне

Дилетант
Возвращаться домой Возвращаться домой

Обновленный Geely Coolray и тяга к жизни

Автопилот
Вот так спорт, или назло рекордам Вот так спорт, или назло рекордам

Спортивные соревнования, которые и спортом-то не назовешь

Зеркало Мира
Строительство нового жилья: «Судьба льготной ипотеки определит будущее отрасли» Строительство нового жилья: «Судьба льготной ипотеки определит будущее отрасли»

Как можно ускорить строительство новых многоквартирных домов?

ФедералПресс
Смешанный стиль Смешанный стиль

Volkswagen, который пришел с Востока

Автопилот
«Ай да валенки!» «Ай да валенки!»

Валенки — обувь, которая никогда не устареет

Зеркало Мира
20 популярных вопросов о посудомоечных машинах 20 популярных вопросов о посудомоечных машинах

Гид по посудомоечным машинам: всё, что вы хотели бы спросить

CHIP
Зачем волки воют, а люди – поют Зачем волки воют, а люди – поют

Зачем и как млекопитающие используют акустическую коммуникацию

Знание – сила
Компенсации и бенефиты Компенсации и бенефиты

Что помогает компаниям привлекать, мотивировать и удерживать специалистов

РБК
Как сэкономить деньги — изучите 10 маркетинговых уловок, которые заставляют нас покупать ненужные товары Как сэкономить деньги — изучите 10 маркетинговых уловок, которые заставляют нас покупать ненужные товары

10 уловок, которые вызывают желание заполучить совершенно бесполезный товар

Psychologies
Залечь на дно в Белфасте Залечь на дно в Белфасте

«Ничего не говори»: история ирландских террористов, рассказанная ими самими

Weekend
Информационная безопасность: десять основных видов хакерских атак Информационная безопасность: десять основных видов хакерских атак

Отрывок из книги Антона Евгеньева «Ценность ваших решений»

Forbes
Перезагрузка жилищной сферы России: «Все начинается с земли» Перезагрузка жилищной сферы России: «Все начинается с земли»

Как реализуются проекты комплексного развития территорий?

ФедералПресс
Бог есть свет: Дмитрий Лукьянов «Год в Чувашии» Бог есть свет: Дмитрий Лукьянов «Год в Чувашии»

Глава из романа Дмитрия Лукьянова «Год в Чувашии»

СНОБ
«Все будут бороться с таргетом» «Все будут бороться с таргетом»

Экономист Дмитрий Адамидов — почему инфляционное таргетирование захватило мир

Монокль
Воздушный океан... Воздушный океан...

Мы все живём где-то на дне воздушного океана

Наука и жизнь
Для всех и каждого Для всех и каждого

Современный и эргономичный интерьер в компактной евротрешке

Идеи Вашего Дома
Нас возвышающий финал Нас возвышающий финал

Как Илья Авербах находил гармонию в окружающей нелепости

Weekend
В кругу друзей В кругу друзей

Новый год – самое время, чтобы исправить ошибки и наладить контакт с окружающими

Лиза
Валерий Сухих: «Время требует от депутатов оперативности и профессионализма» Валерий Сухих: «Время требует от депутатов оперативности и профессионализма»

Какие традиции и принципы остаются неизменными в работе заксобрания Прикамья?

ФедералПресс
Открыть в приложении