Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как понять, что девушка тебя использует: 7 признаков, которые должны насторожить Как понять, что девушка тебя использует: 7 признаков, которые должны насторожить

Почему тебя используют девушки, и как понять, что подруга тебя не любит

Playboy
Поставки по расписанию Поставки по расписанию

Что экспортировал СССР во время войны

Эксперт
Мы одни из них: в чем величие сериала The Last of Us Мы одни из них: в чем величие сериала The Last of Us

Что именно выделяет «Одних из нас» на фоне других сериалов на подобную тематику

Правила жизни
Range Rover Classic от Vinile – рестомод, сделанный «по фану» Range Rover Classic от Vinile – рестомод, сделанный «по фану»

Vinile «переосмысляет» подход к восстановлению классических внедорожников

4x4 Club
Какую одежду с этикеткой «стирка запрещена» можно стирать дома: мнение экспертов Какую одежду с этикеткой «стирка запрещена» можно стирать дома: мнение экспертов

Какие вещи можно привести в порядок дома, а какую лучше доверить профессионалам

VOICE
Кто победил бы в битве звезд боевиков 80-х про единоборства Кто победил бы в битве звезд боевиков 80-х про единоборства

Кто самый сильный — Брюс Ли или Джеки Чан? Стивен Сигал или Чак Норрис?

Maxim
Генерируй, или проиграешь: искусственный интеллект задает темп чиновникам и бизнесу Генерируй, или проиграешь: искусственный интеллект задает темп чиновникам и бизнесу

Как искусственный интеллект облегчил жизнь и какие вызовы он поставил

ФедералПресс
Оппонента не выбирают Оппонента не выбирают

Как изменилась политическая картина в Турции после ареста мэра Стамбула

Эксперт
Китайское рекламное чудо Китайское рекламное чудо

На какую рекламу тратят рекламный бюджет компании на российском рынке

Ведомости
Почему герои русской литературы — это антипример концепции wellbeing Почему герои русской литературы — это антипример концепции wellbeing

Не перестаем любить героев великой классики, однако в жизни делаем все наоборот

РБК
«Пройти процесс самопознания»: как через смыслы найти свою мотивацию в бизнесе «Пройти процесс самопознания»: как через смыслы найти свою мотивацию в бизнесе

Как найти мотивацию и смысл в своей деятельности

Forbes
Безвыходных ситуаций не бывает Безвыходных ситуаций не бывает

Интервью с директором Кризисного центра помощи женщинам и детям

Лиза
«И жили они долго»: 5 наивных вопросов о долголетии «И жили они долго»: 5 наивных вопросов о долголетии

Продлевают ли жизнь брокколи? Счастливые люди живут дольше?

РБК
C понедельника начну C понедельника начну

Новая работа – это здорово, но и немного страшно. Как сделать все хорошо?

VOICE
8500 лет назад охотники-собиратели ходили по морю на Мальту 8500 лет назад охотники-собиратели ходили по морю на Мальту

Охотники-собиратели пересекали от 100 км открытой воды, чтобы достичь островов

ТехИнсайдер
Мифотворец Мифотворец

120 лет со дня рождения танцовщика и балетмейстера Сержа Лифаря

Weekend
Люся Чеботина: «Люблю вызовы и эксперименты» Люся Чеботина: «Люблю вызовы и эксперименты»

Люся Чеботина о весне, вдохновении и любви

Лиза
Золотые гривы Золотые гривы

Как в Ивашкове появилось ранчо с золотогривыми лошадьми

Отдых в России
Алексей Гореславский: Контент не кирпич, который просто лежит на платформе Алексей Гореславский: Контент не кирпич, который просто лежит на платформе

ИРИ – организация, которая поддерживает производство онлайн-контента

Ведомости
Перекресток предубеждений Перекресток предубеждений

Пол не определяет ни компетентность, ни лидерский талант

Ведомости
Довести промышленность до автоматизма Довести промышленность до автоматизма

Каким образом будет формироваться внутренний спрос на роботизацию в России

Монокль
Гладкая мускулатура самолета – электродвигатели Гладкая мускулатура самолета – электродвигатели

Как выглядят авиационные электродвигатели, где установлены и как управляются?

Наука и техника
Умер Зураб Церетели: вспоминаем 11 самых грандиозных и неоднозначных работ скульптора Умер Зураб Церетели: вспоминаем 11 самых грандиозных и неоднозначных работ скульптора

Самые яркие его шедевры художника-монументалиста Зураба Церетели

Maxim
Дом и сад Дом и сад

Вилла в городе садов Сучжоу

SALON-Interior
От Петра I до коней на Манежной площади: главные работы Зураба Церетели От Петра I до коней на Манежной площади: главные работы Зураба Церетели

Ключевые работы Зураба Церетели, без которых сложно представить облик городов

Forbes
Самокаты все ближе к потолку Самокаты все ближе к потолку

Рынок кикшеринга вырастет в 1,7 раза к 2027 г

Ведомости
Зарплатно-гендерный вопрос Зарплатно-гендерный вопрос

Удовлетворенность размером зарплаты среди мужчин и женщин практически сравнялась

Ведомости
Савва и Мария Савва и Мария

Мария Червоткина о материнском фэшн-пути и окситоциновых слезах

Собака.ru
Оказывается, пассажиров с гипсом могут не пустить в самолет: вот что нужно знать Оказывается, пассажиров с гипсом могут не пустить в самолет: вот что нужно знать

С какими нюансами можно столкнуться в аэропорту, если быть с гипсом

ТехИнсайдер
Почему взрослые дети не уважают зрелых родителей: мнение и советы психоаналитика Почему взрослые дети не уважают зрелых родителей: мнение и советы психоаналитика

Почему мы считаем родительские убеждения устаревшими и обесцениваем их опыт

Psychologies
Открыть в приложении