Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Движение вверх Движение вверх

Почему современные мегаполисы должны делать ставку на вертикальный рост?

Ведомости
Заемщики поубавили аппетит Заемщики поубавили аппетит

Почему у граждан снижаются запросы на размер кредитов наличными?

Ведомости
RF-лифтинг, эндосфера и душ Шарко: как быстро привести тело в порядок RF-лифтинг, эндосфера и душ Шарко: как быстро привести тело в порядок

Процедуры, которые помогут скорректировать фигуру в короткие сроки

Здоровье
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Одной из тем обсуждения в научной фантастике ХХ века была космическая экспансия

Наука и жизнь
Так буллинг приводит к трагедии: почему сериал «Переходный возраст» стал откровением для родителей Так буллинг приводит к трагедии: почему сериал «Переходный возраст» стал откровением для родителей

Чему нас может научить сериал о психологии насилия «Переходный возраст»

VOICE
«Перезапуск будущего. Как „починить“ нематериальную экономику» «Перезапуск будущего. Как „починить“ нематериальную экономику»

Связь между нематериальной экономикой и усугублением проблемы неравенства

N+1
8 советов стоматологов, как быстро и просто улучшить состояние зубов 8 советов стоматологов, как быстро и просто улучшить состояние зубов

Как поддерживать красоту и здоровье зубов

ТехИнсайдер
Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года

Как выбрать аккумуляторный кусторез для сада?

CHIP
Дочери феи и дракона: как сестры Чынг собрали армию и освободили Древний Вьетнам Дочери феи и дракона: как сестры Чынг собрали армию и освободили Древний Вьетнам

Как сестры Чынг освободили Вьетнам из-под гнета Китая?

Forbes
Экологическая головоломка: как правильно убирать за собакой в 21 веке Экологическая головоломка: как правильно убирать за собакой в 21 веке

Как поддерживать чистоту после своей собаки, не нанося вреда окружающей среде?

Inc.
Семнадцать мгновений Победы Семнадцать мгновений Победы

Лиознова сняла не просто ленту, а культовую, всенародно любимую картину

Коллекция. Караван историй
Проникает ли лак для ногтей в ногтевую пластину: объяснение химика-косметолога Проникает ли лак для ногтей в ногтевую пластину: объяснение химика-косметолога

Действительно ли лаки способны проникнуть в структуру ногтя и нанести ему ущерб?

VOICE
Дорожная карта Дорожная карта

Фильмы, которые помогут увидеть мир

Лиза
«При загрузке видео на платформу происходит некая магия» «При загрузке видео на платформу происходит некая магия»

Сергей Косинский об искусственном интеллекте и будущем медиа

Деньги
Гадаем по цветам Гадаем по цветам

Тест: какое растение тебе завести, чтобы оно радовало глаз и душу ?

VOICE
«Это ведь не считается!»: 3 неочевидных признака эмоциональной неверности, которые опасно игнорировать «Это ведь не считается!»: 3 неочевидных признака эмоциональной неверности, которые опасно игнорировать

Как понять, что вы вот-вот измените, пусть и не в стандартном понимании?

Psychologies
Довести промышленность до автоматизма Довести промышленность до автоматизма

Каким образом будет формироваться внутренний спрос на роботизацию в России

Монокль
Доходное расхождение Доходное расхождение

Как продавцы маркетплейсов объяснят расхождения в налоговых декларациях

Ведомости
Бруталист Бруталист

Дмитрий Нагиев — праотец мирового кинотренда на лысого русского

Собака.ru
Самый красивый кулич – у меня Самый красивый кулич – у меня

Как украсить кулич, чтобы он стал настоящим шедевром на праздничном столе?

Лиза
Почему карманы в мужских брюках глубже, чем в женских Почему карманы в мужских брюках глубже, чем в женских

Причины, по которым модельеры отказываются от глубоких карманов в женской одежде

ТехИнсайдер
Самые научно точные фильмы про космос Самые научно точные фильмы про космос

Существуют ли достоверные художественные фильмы про космос?

Maxim
Зажигаем звезды Зажигаем звезды

Подборка историй о людях, которые двигают прогресс небывалым

ТехИнсайдер
Петербург будущего Петербург будущего

Экскурсия по Северной столице от Льва Лурье и новое поколение гидов-урбанистов

Собака.ru
«Мировое разделение труда — вещь очень ненадежная» «Мировое разделение труда — вещь очень ненадежная»

О работе самого большого промышленного холдинга страны, госкорпорации «Ростех»

Эксперт
Это не лень, а депрессия: 5 сигналов, что тебе нужна помощь Это не лень, а депрессия: 5 сигналов, что тебе нужна помощь

Как отличить депрессию от усталости или лени

VOICE
Блестящая инвестиция Блестящая инвестиция

Как грамотно вложиться в золото

Деньги
12 способов продлить молодость 12 способов продлить молодость

Рекомендации для того, чтобы увеличить шансы прожить дольше

Лиза
«Джеймс Уэбб» вновь нашел в атмосфере потенциального гикеана диметилсульфид «Джеймс Уэбб» вновь нашел в атмосфере потенциального гикеана диметилсульфид

«Джеймс Уэбб» вновь обнаружил признаки наличия диметилсульфида

N+1
Открыть в приложении