Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как жара влияет на организм Как жара влияет на организм

Врач объяснил, что происходит с нашим телом под воздействием высокой температуры

Psychologies
Островский – революция в русском театре Островский – революция в русском театре

Гончаров, известный трилогией на букву «О», был интересным и метким критиком

Знание – сила
Созданы в России Созданы в России

Доля семян российской селекции в посевах приблизилась к 68%

Агроинвестор
7 советов тем, кто работает в офисе 7 советов тем, кто работает в офисе

О чем важно помнить, чтобы избежать «офисного синдрома»?

Здоровье
RF-лифтинг, эндосфера и душ Шарко: как быстро привести тело в порядок RF-лифтинг, эндосфера и душ Шарко: как быстро привести тело в порядок

Процедуры, которые помогут скорректировать фигуру в короткие сроки

Здоровье
«Мировое разделение труда — вещь очень ненадежная» «Мировое разделение труда — вещь очень ненадежная»

О работе самого большого промышленного холдинга страны, госкорпорации «Ростех»

Эксперт
Горизонт планирования Горизонт планирования

Актер Ярослав Могильников — о жизни и кино

Men Today
Ирина Мирошниченко: «Я дала понять Андрею Тарковскому, что я замужем» Ирина Мирошниченко: «Я дала понять Андрею Тарковскому, что я замужем»

Актриса Ирина Мирошниченко рассказывает о своей молодости и начале карьеры

Коллекция. Караван историй
Мифотворец Мифотворец

120 лет со дня рождения танцовщика и балетмейстера Сержа Лифаря

Weekend
Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне

Лето не за горами: пора определяться с локацией для нового путешествия

Maxim
Социальные круги: почему мы не можем дружить со всеми Социальные круги: почему мы не можем дружить со всеми

Отрывок из книги «Homo Amicus. Деловой человек в поисках друга»

Forbes
Ценный попутчик Ценный попутчик

Как путешествовать с собакой без стресса

Лиза
8 признаков, которые говорят о том, что парикмахер плохо тебя подстрижет 8 признаков, которые говорят о том, что парикмахер плохо тебя подстрижет

Красные флаги, указывающие на то, парикмахер сделает тебе плохую стрижку

VOICE
Арена на двоих Арена на двоих

Как исторически складывались отношения России и США

Эксперт
6 самых популярных сюжетов снов 6 самых популярных сюжетов снов

Какие сюжеты снов чаще всего снятся людям?

ТехИнсайдер
Бестужевы (Бестужевы-Рюмины) Бестужевы (Бестужевы-Рюмины)

Бестужевы — род с таинственным происхождением и запутанной генеалогией

Дилетант
Монеты в восточной пыли Монеты в восточной пыли

Важным источником наших знаний об античной истории являются монеты

Знание – сила
Владимир Груздев: Предприниматель — профессия повышенного риска Владимир Груздев: Предприниматель — профессия повышенного риска

Предприниматель Владимир Груздев — о правах, правосудии и вызовах цифровой эпохи

Ведомости
Петербург будущего Петербург будущего

Экскурсия по Северной столице от Льва Лурье и новое поколение гидов-урбанистов

Собака.ru
Управление клубом: искусство балансировать между хаосом и порядком Управление клубом: искусство балансировать между хаосом и порядком

Егор Турчинский, Кирилл Павлов: можно ли сегодня зарабатывать на клубном бизнесе

Forbes
Дорожная карта Дорожная карта

Фильмы, которые помогут увидеть мир

Лиза
11 пород собак, которых больше не существует 11 пород собак, которых больше не существует

11 примеров собак, которые больше не ходят по земле

ТехИнсайдер
Город нереализованных генпланов Город нереализованных генпланов

Нижний Новгород — лоскутное одеяло из обрывков больших проектов

Weekend
Как научиться принимать комплименты Как научиться принимать комплименты

Почему бывает трудно принимать комплименты и как с этим справиться

Inc.
Революция со счастливым концом Революция со счастливым концом

Рубеж XIX и XX веков отмечен бурными событиями в целом ряде наук

Знание – сила
Клещ выходит на охоту Клещ выходит на охоту

Чем опасны клещи?

Лиза
Искоренить фальсификат Искоренить фальсификат

Методики проверки, испытаний, идентификации продукции нужно совершенствовать

Агроинвестор
Блеск и несчастья «Великого Гэтсби» Блеск и несчастья «Великого Гэтсби»

Краткая история главного американского произведения 1920‑х

Weekend
Пример для подражания: Ирина Годунова Пример для подражания: Ирина Годунова

Ирина Годунова о детском интересе к программированию и верности своему пути

VOICE
Гадаем по цветам Гадаем по цветам

Тест: какое растение тебе завести, чтобы оно радовало глаз и душу ?

VOICE
Открыть в приложении