Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Насколько реально самовозгорание человека? Насколько реально самовозгорание человека?

Возможен ли феномен спонтанного самовозгорания человека

ТехИнсайдер
Как Шаболовка, но в 4 раза выше: мы нашли самый высокий гиперболоид мира Как Шаболовка, но в 4 раза выше: мы нашли самый высокий гиперболоид мира

Canton Tower – самый высокий гиперболоид мира

ТехИнсайдер
Ход слоном Ход слоном

Почему та или иная страна становится передовой, а потом вдруг отстающей?

ТехИнсайдер
Плетущие судьбы Плетущие судьбы

Послания, зашифрованные в орнаментах и узорах России

Вокруг света
Спасительная рассрочка увеличивает риски Спасительная рассрочка увеличивает риски

Какие риски несут программы рассрочек при покупке жилья?

Монокль
Дай, Джим, на счастье Дай, Джим, на счастье

Лучше не дожидаться момента, когда за покой придется воевать

VOICE
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
Липецк: за рулем и пешком Липецк: за рулем и пешком

Как в Липецкой области мастера восстанавливают связь между прошлым и настоящим

Вокруг света
Революция как массовый психоз? Революция как массовый психоз?

Учёный или шарлатан? Как разбирали труды Чижевского в 1940 году

Дилетант
Почему телемедицина в России пока остается нишевым продуктом Почему телемедицина в России пока остается нишевым продуктом

Телемедицина в России: стоит ли записываться на удаленный прием к врачу?

РБК
Непростая материя Непростая материя

Секреты, которые скрывают узоры ивановских тканей

Вокруг света
Взлетная полоса Взлетная полоса

Брутальный и динамичный интерьер для молодого человека

SALON-Interior
Жизнь по своему коду: как понять свою истинную природу и перестать подстраиваться Жизнь по своему коду: как понять свою истинную природу и перестать подстраиваться

Как достичь внутренней свободы и начать жить в согласии с собой

VOICE
ChatGPT: а что в сухом остатке? ChatGPT: а что в сухом остатке?

ИИ сегодня пока не более чем новый формат поисковой системы в интернете

Монокль
Новый поход ветеранов Троянской войны Новый поход ветеранов Троянской войны

Филистимляне и троянцы против египетских фараонов

Знание – сила
Островский – революция в русском театре Островский – революция в русском театре

Гончаров, известный трилогией на букву «О», был интересным и метким критиком

Знание – сила
Петербург будущего Петербург будущего

Экскурсия по Северной столице от Льва Лурье и новое поколение гидов-урбанистов

Собака.ru
Клещ выходит на охоту Клещ выходит на охоту

Чем опасны клещи?

Лиза
Гости из настоящего и будущего Гости из настоящего и будущего

Столичная туриндустрия укрепляет свои позиции как драйвера развития Москвы

Ведомости
Модный этикет Модный этикет

О том, какие сегодня существуют правила дресс-кода и надо ли их соблюдать

Grazia
6 главных ошибок во время весеннего расхламления: мнение экспертов 6 главных ошибок во время весеннего расхламления: мнение экспертов

Какие ошибки чаще всего совершают люди во время весеннего расхламления

VOICE
Губернатор Московской области Андрей Воробьев: Нас часто сравнивают с нашей столицей Губернатор Московской области Андрей Воробьев: Нас часто сравнивают с нашей столицей

Глава Подмосковья об управлении регионом с помощью цифры и конкуренции с Москвой

Ведомости
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
Режьте на здоровье: как выбрать правильный секатор для сада Режьте на здоровье: как выбрать правильный секатор для сада

Как выбрать механический секатор, чтобы меньше вреда растениям

ТехИнсайдер
Амарант Амарант

Почему амарант — суперфуд и важнейшая пищевая культура XXI века

Здоровье
Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение

Дженерики становятся ключевым драйвером роста фармацевтического рынка

Inc.
Личное пространство Личное пространство

Респектабельный минимализм с авторскими решениями и иконами дизайна

SALON-Interior
Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Снаряды против пушек Снаряды против пушек

Даже в первый год Великой Отечественной войны в СССР проходили соревнования

Ведомости
Кругосветка за 72 дня и критика тюремной системы: о чем писали первые журналистки Кругосветка за 72 дня и критика тюремной системы: о чем писали первые журналистки

Шесть женщин, изменивших журналистику

Forbes
Открыть в приложении