Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Секс и вырождение Секс и вырождение

Способно ли размножение замедлить накопление зловредных мутаций?

СНОБ
Топ-5 самых странных игровых консолей в истории — от 1970-х до 2020-х Топ-5 самых странных игровых консолей в истории — от 1970-х до 2020-х

Самые необычные игровые консоли

CHIP
Предотвратить сосудистый взрыв Предотвратить сосудистый взрыв

Новый простой и эффективный способ оценки риска разрыва аневризмы брюшной аорты

Санкт-Петербургский университет
ПВЗ под прицелом, маркетплейсам приготовиться ПВЗ под прицелом, маркетплейсам приготовиться

Как интерес ФНС к числу самозанятых поменяет бизнес-модель цифровых платформ?

Монокль
Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему

Вы уже вместе не один год, а предложения руки и сердца не поступало. Что делать?

Лиза
«Ночные кошмары: Нарушения сна и как мы с ними живем наяву» «Ночные кошмары: Нарушения сна и как мы с ними живем наяву»

Что науке известно о галлюцинациях, связанных со сном

N+1
Система Юпитера: Ганимед и Каллисто Система Юпитера: Ганимед и Каллисто

Что делает Ганимед и Каллисто очень интересными космическими телами?

Наука и техника
Энергия для Арктики Энергия для Арктики

Как в Арктике используют возобновляемую энергию и малые атомные электростанции

Ведомости
Из ответственных рабочих — в мастера Из ответственных рабочих — в мастера

Как в условиях кадрового голода на рынке труда удержать работников?

Монокль
Остановить внутреннего паникера Остановить внутреннего паникера

Как утихомирить внутреннего тревожного паникера: советы от психотерапевтов

Psychologies
6 причин, по которым простыни становятся серыми, и способы это исправить 6 причин, по которым простыни становятся серыми, и способы это исправить

Как предотвратить изменение цвета простыней

VOICE
Что наука знает о счастье: 3 исследования Что наука знает о счастье: 3 исследования

Марина Пустильник о том, что же делает человека счастливым

РБК
Меркантилизм, абсолютизм и танатология глобализации Меркантилизм, абсолютизм и танатология глобализации

Трамп открыл чемпионат мира по торговым тарифам

Деньги
Дорожная карта Дорожная карта

Фильмы, которые помогут увидеть мир

Лиза
Самокаты все ближе к потолку Самокаты все ближе к потолку

Рынок кикшеринга вырастет в 1,7 раза к 2027 г

Ведомости
Угольщикам недогрузили триллионы Угольщикам недогрузили триллионы

Минэнерго оценило потери российской угольной отрасли в 2 трлн руб

Ведомости
Ликвидность на бумаге Ликвидность на бумаге

Почему в банковской системе России сохраняется структурный профицит ликвидности

Ведомости
Вечерний спорт влияет на продолжительность сна Вечерний спорт влияет на продолжительность сна

Тренировки перед сном сильнее сказываются на состоянии сна, чем считалось ранее

ТехИнсайдер
Стоят ли дорогие фены своих денег: мнение парикмахеров Стоят ли дорогие фены своих денег: мнение парикмахеров

Нужен ли тебе фен за тридцать три, а не за три тысячи рублей? Давай разбираться!

VOICE
Жизнь в магнитном поле Жизнь в магнитном поле

Как изучают незаметные для органов чувств магнитные эффекты

Наука и жизнь
Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты! Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдер
Что такое «перезагрузка» и зачем она нужна Что такое «перезагрузка» и зачем она нужна

Как компьютерный термин проник в велнес-индустрию и в чем его нюансы

РБК
Гладкая мускулатура самолета – электродвигатели Гладкая мускулатура самолета – электродвигатели

Как выглядят авиационные электродвигатели, где установлены и как управляются?

Наука и техника
5 полезных устройств для тех, кто затеял ремонт 5 полезных устройств для тех, кто затеял ремонт

Подборка полезной и надежной техники для ремонта

CHIP
Кто такая пикми: разбираем феномен пикми-герл с психологами Кто такая пикми: разбираем феномен пикми-герл с психологами

Что стоит за пикми-поведением?

РБК
Алёна Александрова: «В каждой женщине – невероятная сила» Алёна Александрова: «В каждой женщине – невероятная сила»

Главный редактор рассказала о юбилейных проектах и работе редакции «Лизы»

Лиза
Амарант Амарант

Почему амарант — суперфуд и важнейшая пищевая культура XXI века

Здоровье
Лингвистические фантомы Лингвистические фантомы

Как в русском языке появляются псевдоанглицизмы

Наука и жизнь
Мария Порошина Мария Порошина

«Людмила Ставская взяла меня за руку, а я чувствовала себя как слепой котенок»

Караван историй
Невролог назвал 3 ошибки, которые люди совершают в молодости. Их можно исправить прямо сейчас Невролог назвал 3 ошибки, которые люди совершают в молодости. Их можно исправить прямо сейчас

Три вещи, которых можно избежать в молодости

Inc.
Открыть в приложении