Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Несущая смерть Несущая смерть

Как Горгона обращала людей в камень и могло ли существовать подобное «биооружие»

Вокруг света
Восвояси Восвояси

Как современные российские дизайнеры работают с национальным кодом

Weekend
Алёна Александрова: «В каждой женщине – невероятная сила» Алёна Александрова: «В каждой женщине – невероятная сила»

Главный редактор рассказала о юбилейных проектах и работе редакции «Лизы»

Лиза
Станет белее новых: как очистить маркерную доску от старых каракулей Станет белее новых: как очистить маркерную доску от старых каракулей

Как избавиться от разводов на маркерной доске и вернуть ей прежний вид?

ТехИнсайдер
Движение вверх Движение вверх

Почему современные мегаполисы должны делать ставку на вертикальный рост?

Ведомости
5 полезных устройств для тех, кто затеял ремонт 5 полезных устройств для тех, кто затеял ремонт

Подборка полезной и надежной техники для ремонта

CHIP
Вновь о темной материи Вновь о темной материи

Проблема темной материи всерьез привлекает ученых

Знание – сила
Почему герои русской литературы — это антипример концепции wellbeing Почему герои русской литературы — это антипример концепции wellbeing

Не перестаем любить героев великой классики, однако в жизни делаем все наоборот

РБК
«У художника нет цели — только путь» «У художника нет цели — только путь»

Зорикто Доржиев о том, как искать себя в легендах и находить на Christie’s

Weekend
Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели

Какими качествами должны обладать эффективные лидеры и сотрудники

Inc.
Оказывается, пассажиров с гипсом могут не пустить в самолет: вот что нужно знать Оказывается, пассажиров с гипсом могут не пустить в самолет: вот что нужно знать

С какими нюансами можно столкнуться в аэропорту, если быть с гипсом

ТехИнсайдер
Олег Липовецкий: Режиссер – это бог в пределах своих компетенций Олег Липовецкий: Режиссер – это бог в пределах своих компетенций

Олег Липовецкий рассказал, как руководящая должность сделала его мизантропом

Ведомости
Химики воспроизвели межзвездный синтез всех молекул цикла Кребса Химики воспроизвели межзвездный синтез всех молекул цикла Кребса

Химики в лаборатории синтезировали весь набор карбоновых кислот из цикла Кребса

N+1
Премьеры отменяются Премьеры отменяются

Темпы выхода новых проектов девелоперов замедляются

Деньги
7 советов тем, кто работает в офисе 7 советов тем, кто работает в офисе

О чем важно помнить, чтобы избежать «офисного синдрома»?

Здоровье
Потрясно: что такое турбулентность и почему ее не надо бояться Потрясно: что такое турбулентность и почему ее не надо бояться

Рассказываем, что такое турбулентность и почему ее совершенно не стоит бояться

ТехИнсайдер
5 лучших ролей Криспина Гловера 5 лучших ролей Криспина Гловера

4 фильма, где сыграл замечательный актер Криспин Гловер. Смотрим и вспоминаем!

Maxim
Сидеть по-русски… Сидеть по-русски…

Кресло, созданное Шутовым, — самый патриотичный предмет мебели для сидения

Дилетант
Нулевая ответственность: что делать, если вашим коллегам и подчиненным «все равно» Нулевая ответственность: что делать, если вашим коллегам и подчиненным «все равно»

Какие причины кроются за безответственностью на рабочем месте?

Forbes
Продлили срок: что можно сделать из бывших тюрем Продлили срок: что можно сделать из бывших тюрем

Как бизнесмены и государство развивают бывшие тюрьмы

Forbes
Что такое биполярное аффективное расстройство и как живут люди с таким диагнозом Что такое биполярное аффективное расстройство и как живут люди с таким диагнозом

Что такое БАР, действительно ли он распространен или стал искусственным трендом?

Forbes
Каждая десятая Каждая десятая

Об эндометриозе, его симптомах и способах справиться с болезнью

VOICE
Лестница в небо Лестница в небо

Как помочь новому поколению найти свое место в нашем безумном мире

Men Today
Никита Ефремов: «Мне кажется, важно всегда быть открытым» Никита Ефремов: «Мне кажется, важно всегда быть открытым»

Никита Ефремов о том, что общего между актерским ремеслом и дзен-буддизмом

Ведомости
Изобретая наследие Изобретая наследие

Как экономика впечатлений меняет российские города

Эксперт
Я скоро стану мамой Я скоро стану мамой

Какие обследования и когда важно пройти будущим мамам?

Лиза
В абитуриенте ценят личность В абитуриенте ценят личность

Как увеличится роль индивидуальных достижений при поступлении в вузы

Ведомости
Как выбрать мойку высокого давления: основные характеристики Как выбрать мойку высокого давления: основные характеристики

Список критериев, по которым стоит выбирать мойку высокого давления

CHIP
Падая в пропасть Падая в пропасть

Страхи мешают жить? Познакомьтесь с ними и попытайтесь приручить

Psychologies
Сделать выбор в пользу Другого Сделать выбор в пользу Другого

Почему влюбляемся не в тех и как это исправить?

Psychologies
Открыть в приложении