Зловещий ИИ: зачем чат-боты рушат семьи и делают нас глупее и кто в этом виноват
По мере проникновения СhatGPT и других языковых моделей во все сферы жизни растет и число случаев, когда ситуация выходит из-под контроля. То ИИ убедит своего собеседника бросить жену или мужа, то заставит порвать с друзьями под предлогом, что все мы живем в матрице. Одновременно с этим публикуются исследования о том, как применение чат-ботов влияет на наш мозг — и ничего хорошего в этом влиянии, кажется, нет. Рассказываем, действительно ли от нейросетей исходят настолько серьезные угрозы.
Смерть для мозга и творчества
По данным на май 2025 года, примерно каждый десятый человек на планете пользуется ChatGPT — чат-ботом от компании OpenAI на базе искусственного интеллекта, который способен вести диалог, генерировать изображения и выполнять многие другие задачи. В феврале 2025 года ежемесячно на платформу заходили 5,2 млрд человек. Для сравнения, ежемесячная аудитория Telegram в 2025 году составила 1 млрд пользователей. Однако по мере роста массовой популярности нового инструмента начали появляться и вопросы о ее последствиях.
В июне 2025 года группа ученых из MIT поделилась результатами исследования воздействия регулярного использования ChatGPT на мозг: группа, которая выполняла задания с помощью чат-бота, продемонстрировала ухудшение памяти и снижение мозговой активности даже после завершения работы с ИИ.
В экспериментах приняли участие 54 человека, которых случайным образом распределили по трем группам. Первая группа использовала при написании эссе ChatGPT, вторая — Google, а третья не прибегала ни к каким внешним инструментам и полагалась исключительно на собственные знания и память. Все участники прошли три сессии, используя указанные инструменты, а в четвертой исследователи поменяли группы местами: бывшие пользователи ИИ работали только головой, а участники, которые не использовали никакие инструменты, впервые обратились к ChatGPT. Все это время активность мозга участников отслеживали с помощью электроэнцефалографии (ЭЭГ). После каждой сессии участники давали интервью, в которых делились своими впечатлениями.
Результаты анализа показали, что у группы, не использовавшей никаких инструментов, наблюдалась самая широкая и мощная сеть нейронных связей, группа, которая использовала поисковик, заняла второе место, а у пользователей ChatGPT оказался наихудший показатель. Исследователи считают, что это указывает на снижение глубины когнитивного вовлечения при наличии внешней поддержки. Что интересно, последняя сессия, когда участники менялись местами, показала, что после отказа от ChatGPT участники демонстрировали еще более слабую нейронную активность, а те, кто впервые прибегнул к ИИ после самостоятельной работы — более высокую, чем была у них без чат-бота.
После публикации исследования широко разошлись статьи с заголовками типа «ChatGPT делает нас тупее», однако сами исследователи настаивают, что ничего такого они не утверждают, и просят не использовать слова «глупый», «тупой», «повреждение мозга», «негативно влияет», «ужасающе» и тому подобные при обзорах их работы. Также они отдельно обращают внимание, что это только предварительные результаты и их исследование еще не прошло этапа рецензирования. Однако на фоне того, что у массовых пользователей и до этого начали возникать подозрения о влиянии чат-ботов на основе LLM (больших языковых моделей) на интеллект, волну заметок про «шокирующее» исследование и «разложение мозга» из-за ChatGPT было уже не остановить.
Зазвучали, разумеется, и голоса технооптимистов, а также людей, настроенных скептически в отношении исследования ученых из MIT. В частности, вопросы вызвала корректность выборки: «Наиболее спорный вывод исследования о «сохраняющемся эффекте AI» основан на результатах всего 18 участников четвертой сессии. В нейрофизиологии такое не редкость, но статистически это крайне ограниченный материал, малопригодный для широких обобщений», — пишет поэт, историк и исследователь Станислав Львовский.
Эксперты в сфере образования Витамир Кованович и Ребекка Марроун считают, что результаты обусловлены не совсем корректной методикой исследования: участники группы, которые писали эссе с помощью ИИ, сделали это только один раз, а работавшие самостоятельно — три раза: «Чтобы полностью обосновать утверждения исследователей, участникам группы ChatGPT также необходимо завершить три письменных сессии без ИИ».
В то же время в мае было опубликовано исследование Гарварда, которое показало, что генеративный ИИ повышает производительность, но может подорвать внутреннюю мотивацию сотрудников — она снизилась в среднем на 11%, а скука усилилась в среднем на 20%. Исследователи, работающие с Microsoft Research, считают, что ChatGPT может понизить уровень критического мышления. «Когда люди используют ИИ в творческом процессе, они, как правило, постепенно уходят от своего первоначального мышления. Сначала пользователи приходят к ИИ с большим количеством собственных идей, но по мере того, как ChatGPT присылает огромные объемы приемлемого текста, пользователи поддаются его мнению. ChatGPT тем временем тянет пользователя к среднему знаменателю от всех данных, с которыми он взаимодействовал в прошлом. Причем это влияние однонаправленное — человеческие идеи, как правило, не влияют на то, что генерирует машина, так сильно», — говорит Макс Кремински, соавтор исследования.
Руководитель управления экспериментальных систем машинного обучения департамента SberDevices Сергей Марков винит в появляющейся в обществе панике в отношении ИИ желтую прессу и «морализаторское покряхтывание старперов». Он отмечает, что никакого общего уровня интеллекта человечества, который мог бы снизиться под влияние технологий, не существует: «Одни люди лучше решают одни задачи, другие — другие». По словам Маркова, «если бы тесты на IQ составляли древние люди, мы с вами вряд ли могли бы претендовать даже на уровень сельского дурачка. Но стоит включить в тест задачи, привычные для современного человека, как ситуация изменится кардинальным образом». В целом же человечество под влиянием телевидения, технологий и прогресса в области ИИ скорее умнеет, чем глупеет, уверен Марков, просто на смену устаревшим навыкам приходят «более востребованные в новых техносоциальных условиях».