Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Анатолий Корнеев: как изменить отношение россиян к алкоголю Анатолий Корнеев: как изменить отношение россиян к алкоголю

Анатолий Корнеев: почему в России плохо развита культура потребления алкоголя

СНОБ
Топ процедур по омоложению на 45 лет Топ процедур по омоложению на 45 лет

Лучшие косметологические методики для 45-летних

VOICE
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Одной из тем обсуждения в научной фантастике ХХ века была космическая экспансия

Наука и жизнь
Доходное расхождение Доходное расхождение

Как продавцы маркетплейсов объяснят расхождения в налоговых декларациях

Ведомости
Как тебя зовут? Как тебя зовут?

Что такое число имени и как оно влияет на судьбу

Лиза
Энергия для Арктики Энергия для Арктики

Как в Арктике используют возобновляемую энергию и малые атомные электростанции

Ведомости
5 неожиданных технологий, которые изменили 3D-графику 5 неожиданных технологий, которые изменили 3D-графику

Какие технологии стояли у истоков современной 3D-графики

ТехИнсайдер
Почему галактики закручиваются в спирали: ученые изучили механизмы формирования звездных скоплений Почему галактики закручиваются в спирали: ученые изучили механизмы формирования звездных скоплений

Какие модели образования спиралевидных галактик выделяют учены?

ТехИнсайдер
Зажигая маяки Зажигая маяки

Зимнее бездорожье длиной в 2 недели: что манит участников «Экспедиции-Трофи»?

Отдых в России
Доступная и комфортная Арктика Доступная и комфортная Арктика

Какие архитектурные новации стоит внедрять в полярных городах

Эксперт
Островский – революция в русском театре Островский – революция в русском театре

Гончаров, известный трилогией на букву «О», был интересным и метким критиком

Знание – сила
От жуткого хоррора до ироничной пародии: как кино переосмысливает классические сказки на новый лад От жуткого хоррора до ироничной пародии: как кино переосмысливает классические сказки на новый лад

Оригинальные проекты, переосмысливающие классические сказки в неожиданном ключе

Правила жизни
Вино, недвижимость… Дальше ставки на спорт? Вино, недвижимость… Дальше ставки на спорт?

Как ЦФА пытаются оправдать свой статус нового слова в финансах

Монокль
Начало неолита на северо-западе Южной Азии сдвинули примерно на три тысячи лет Начало неолита на северо-западе Южной Азии сдвинули примерно на три тысячи лет

Почему ученые пересмотрели хронологию поселения Мехргарх?

N+1
Исследование показало, что подростки, которые рано ложатся спать, обладают более острым мозгом Исследование показало, что подростки, которые рано ложатся спать, обладают более острым мозгом

Подростки, которые ложатся спать раньше, как правило, обладают более острым умом

Inc.
Астрономы впервые достоверно нашли экзопланету с кратной полярной орбитой Астрономы впервые достоверно нашли экзопланету с кратной полярной орбитой

Ученые впервые подтвердили существование экзопланеты с кратной полярной орбитой

N+1
Щедры на дивиденды Щедры на дивиденды

Какие компании в этом году поделятся прибылью с акционерами

Деньги
Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера» Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера»

Отрывок из книги «Искусственный интеллект: путь к новому миру»

Inc.
Яхонтовый интерес Яхонтовый интерес

История синего сапфира насчитывает в России не одно столетие

Grazia
Добавь изюминку Добавь изюминку

Как быстро и бюджетно преобразить дачный интерьер

Лиза
«Спонсоров важно вовлекать в процесс» «Спонсоров важно вовлекать в процесс»

Татьяна Кочарян о спонсорских доходах и работе со зрителями баскетбола

Ведомости
Range Rover Classic от Vinile – рестомод, сделанный «по фану» Range Rover Classic от Vinile – рестомод, сделанный «по фану»

Vinile «переосмысляет» подход к восстановлению классических внедорожников

4x4 Club
День Д: как города США зарабатывают сотни миллионов на церемониях драфта НФЛ День Д: как города США зарабатывают сотни миллионов на церемониях драфта НФЛ

Что такое драфты и почему они вообще существуют?

Forbes
Зал ожиданий Зал ожиданий

Для психического здоровья фитнес даже полезнее, чем для физического

VOICE
Зарплатно-гендерный вопрос Зарплатно-гендерный вопрос

Удовлетворенность размером зарплаты среди мужчин и женщин практически сравнялась

Ведомости
Управление клубом: искусство балансировать между хаосом и порядком Управление клубом: искусство балансировать между хаосом и порядком

Егор Турчинский, Кирилл Павлов: можно ли сегодня зарабатывать на клубном бизнесе

Forbes
Новый поход ветеранов Троянской войны Новый поход ветеранов Троянской войны

Филистимляне и троянцы против египетских фараонов

Знание – сила
В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми

Госдума хочет внести изменения в нормы об ответственном обращении с животными

Forbes
Сделать выбор в пользу Другого Сделать выбор в пользу Другого

Почему влюбляемся не в тех и как это исправить?

Psychologies
Премьеры отменяются Премьеры отменяются

Темпы выхода новых проектов девелоперов замедляются

Деньги
Открыть в приложении