Алена Попова — о потере человеком его цифровых прав

РБКHi-Tech

ПРО ДАН НЫЕ

Алена Попова — о потере человеком его цифровых прав

Фото: из личного архива

Внедрение новых технологических решений происходит с огромной скоростью и не всегда во благо человека. Общество не успевает ни обнаружить, ни распознать угрозы. Тем более не успевает сформировать запрос на создание защитных мер. Законодательство тоже отстает и не может обеспечить граждан необходимой защитой. Известный общественный деятель Алена Попова рассказала, как люди превращаются в товар, которым торгуют корпорации, и в объект слежки для государства, а также объяснила, почему это ведет к эрозии прав человека

Технооптимисты против техноскептиков

В сфере этики и технологий существует два лагеря экспертов: технооптимисты и скептики. Первые видят огромные плюсы в том, что технологии отнимают у личности часть автономности и почти полностью приватность. Вторые указывают на угрозы, которые разрушают основу государства — права человека. Любимая фраза скептиков, к которым отношусь и я, — «мы должны понимать последствия использования этой технологии».

Например, в октябре этого года стало известно о скандале с утечкой персональных данных гражданина России Рафаэля Халилова, воспользовавшегося ранее каршерингом. Злоумышленники оформили на Рафаэля банковский кредит. Но это не самое плохое: мошенники стали вымогать у мужчины деньги, чтобы его данные не утекли в Сеть вместе с «разоблачением» в том, что он является педофилом. Деньги Рафаэль платить не стал, а потому по базе из 26 тыс. адресов полетела фейковая информация с реальными персональными данными Рафаэля: фото, паспортом, пропиской и его социальными сетями.

Избыточный сбор персональных сведений — это вопрос, который идеологически разделяет скептиков и технооптимистов. Последние утверждают, что история Халилова — скорее исключение, и нам давно стоит забыть про права человека в том виде, какими мы их знаем. Нужно жить в новой реальности, потому что прогресс не остановить, а этика и излишнее внимание к защите цифровых прав человека будут тормозить развитие технологий. Однако права не могут испариться только потому, что есть прогресс.

Искусство манипуляции

Футуролог и историк Юваль Ной Харари утверждает, что психологический взлом человека — самое страшное, что может случиться в XXI веке. Представьте, что будет, если ваш недруг или государство в лице бюрократического аппарата решат взломать вас как биологический алгоритм? В России скандал с британской Cambridge Analytica до сих пор не считается чем-то диким. Многие просто не понимают, что в этом ужасного, если человека с помощью микротаргетинга можно заставить считать, что правда — это ложь, а сила — это слабость.

В марте 2018 года стало известно, что британская аналитическая компания Cambridge Analytica собирала данные пользователей через свое приложение в Facebook и использовала их для размещения политической рекламы, в частности во время президентской кампании в США и референдума о выходе Великобритании из Евросоюза в 2016 году. Вмешательство могло коснуться в общей сложности 87 млн пользователей соцсети. Скандал обернулся для Facebook крупнейшим в истории штрафом $5 млрд, а для Cambridge Analytica — потерей всех клиентов и банкротством.

В недавно вышедшем документальном фильме Netflix «Социальная дилемма» бывшие инженеры и топ-менеджеры ведущих мировых ИТ-корпораций рассуждают о том, что плохого в потере человеком его цифровых прав. На вопрос «Чего вы боитесь больше всего с учетом тотального сбора персональных данных людей?» один из них ответил: «Гражданской войны». Мы живем в реальности, где люди утратили автономность, ими манипулируют с помощью четко подобранной под каждую личность информации. Люди легко начинают верить в ложь — например, в то, что коронавирус — вымысел.

Опасна потеря автономности и с точки зрения отношения граждан и государства. Глобальный контроль информационных потоков, внедрение систем распознавания лиц, объединение персональных данных в единые базы, взятие под контроль баз данных ключевых частных корпораций, создание социального рейтинга, препятствие регулированию в сфере персональных данных — все это лишь часть действий, предпринимаемых правящими режимами для ужесточения контроля над автономностью граждан. То есть над способностью критически мыслить и самостоятельно, не под влиянием искусных манипуляций, принимать решения. Одни и те же технологии можно использовать по-разному. Все зависит от людей, принимающих решения.

При отсутствии должного регулирования и контроля со стороны общества руководство страны будет стремиться укреплять свой режим, а руководство частных компаний — извлекать больше прибыли. В итоге, например, технологии искусственного интеллекта будут использоваться не столько для увеличения продолжительности жизни и улучшения качества образования, сколько для развития технологий слежки за гражданами. При этом руководители государств и корпораций будут прикрывать свои истинные намерения благими целями. Без систем тотальной слежки государство, оказывается, не может эффективно бороться с преступностью. А сбор огромных массивов персональных данных частными компаниями объясняется лишь заботой об угадывании желаний клиентов и персонализацией сервисов.

Уже сейчас многие государства тратят огромные средства на разработку и производство полностью автономных систем вооружения, а могли бы направить эти средства на создание автономного транспорта, который ежегодно сохранял бы жизни огромному числу граждан. Но функция новых методов убийства людей часто оказывается важнее функции сохранения жизни. В рамках кампании против полностью автономных систем вооружения (Campaign to Stop Killer Robots) мы уже много лет призываем в ООН подписать запрет на разработку и использование таких машин убийств. Однако наиболее милитаризованные страны не хотят даже слышать об этом.

Не взирая на лица

Контроль со стороны общества на фоне отсутствия регулирования — критический элемент сдерживания государства и частных компаний от использования технологий во вред гражданам. Ключевую роль приобретает гражданская самоорганизация. Инициативные сотрудники крупных корпораций объединяются и заставляют своих работодателей не только менять политику по отношению к тому или иному вопросу, но и отказываться от выгодных контрактов. Например, сотрудники Google добились разрыва контракта компании с Пентагоном на сумму $10 млрд, подразумевавшего разработку искусственного интеллекта для анализа больших данных Министерством обороны США. Теперь от подобных контрактов отказываются и другие компании.

Во многих городах общественные кампании и организации заставили местные власти отказаться от чрезмерного использования технологий слежки. В итоге системы распознавания лиц людей (то есть тотальная слежка) были запрещены в таких городах США, как Сан-Франциско, Окленд, Сомервилль, Портленд. В Москве сейчас, наоборот, все активнее действует система распознавания лиц. В сентябре 2020 года, например, было возбуждено уголовное дело в отношении полицейских, которые, по версии следствия, торговали данными граждан из базы системы.

При ограничении доступа госорганов и частных компаний к персональным данным можно избежать многих проблем. В Европе на этот вызов ответили принятием жесткого регулирования оборота персональных данных — General Data Protection Regulation (Общий регламент по защите данных). Однако большинство стран в мире не стали следовать примеру Европы: слишком заманчивые возможности открываются для правящих режимов и частных компаний при бесконтрольном использовании данных о гражданах.

Сейчас обществу крайне необходим моральный фундамент, который станет компасом при ускоряющихся технологических изменениях. Нельзя полагаться только на законы — в лучшем случае они будут приниматься со значительным опозданием. Гражданское общество должно само стать контролирующим органом. Это осуществимо в демократических государствах, где мнение граждан учитывается при принятии решений и где уже развиты институты гражданского общества. В авторитарных режимах возможности общества остаются сильно ограниченными. Вероятно, нас ждет появление первых цифровых диктатур. Их прообраз, как уверяют международные правозащитники, сложился в Синьцзян-Уйгурском автономном районе Китая. Именно здесь для уйгуров — мусульманского меньшинства Поднебесной — существует режим тотальной слежки за целым народом лишь из-за его религии.

Поэтому та этика, за которую бьются скептики, — это на самом деле правила и нормы по защите прав человека: права на неприкосновенность частной жизни и автономность в принятии решений. Приватность и автономность — это то, что делает нас личностями, которые могут самостоятельно жить именно своей жизнью, принимать решения самостоятельно, а не под влиянием контроля или манипуляций.

В каких странах используются системы распознавания лиц на основе ИИ

Источник: Carnegie Endowment

Алена Попова — юрист, правозащитник, основатель аналитического центра «Этика и технологии» (создан при поддержке научного совета по методологии искусственного интеллекта РАН РФ). Одна из авторов закона против домашнего насилия.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Роман Нестер: «Коммерческие данные — это кровь интернета» Роман Нестер: «Коммерческие данные — это кровь интернета»

Роман Нестер поделился с РБК мыслями об этике в диджитал-сегменте

РБК
Перуанская орхидея инков Перуанская орхидея инков

Перуанская орхидея инков, в сущности, никакая не «инков»

Weekend
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Основатель Legionfarm Алексей Белянкин о Кремниевой долине и звездных инвесторах Основатель Legionfarm Алексей Белянкин о Кремниевой долине и звездных инвесторах

Основатель Legionfarm — о том, как Y Combinator помог компании

Forbes
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Профиль: Ирина Винер Усманова — жёсткий к спортсменкам тренер, добившийся главного имени в российской гимнастике Профиль: Ирина Винер Усманова — жёсткий к спортсменкам тренер, добившийся главного имени в российской гимнастике

Оскорбления, дисциплина и контроль «второй мамы» художественных гимнасток

TJ
На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
«Я желал бы всеми силами души, чтобы музыка моя распространилась» «Я желал бы всеми силами души, чтобы музыка моя распространилась»

Романсы, балеты, концерты — самые известные произведения Чайковского

Культура.РФ
«Дорожная карта» стремительного развития «Дорожная карта» стремительного развития

Что такое подрывные технологии и чего от них ждать

РБК
В Уфе чиновники торжественно открыли светофор. Вспоминаем и другие чудные открытия В Уфе чиновники торжественно открыли светофор. Вспоминаем и другие чудные открытия

Так, чего доброго, до тотальной газификации дойдет!

Maxim
«Я постоянно тренирую терпение и чувство юмора». Чулпан Хаматова — о возрасте, роли Раисы Горбачевой и кризисе благотворительности «Я постоянно тренирую терпение и чувство юмора». Чулпан Хаматова — о возрасте, роли Раисы Горбачевой и кризисе благотворительности

Чулпан Хаматова о материнстве, отношении к возрасту и работе ее фонда

Forbes
Чтобы осознать власть кофе, надо от него на время отказаться Чтобы осознать власть кофе, надо от него на время отказаться

Майкл Поллан — о том, как африканское дерево использовало нас для покорения мира

Reminder
Люк Бессон Люк Бессон

Правила жизни Люка Бессона

Esquire
Своя история Своя история

Респектабельный интерьер в эклектичном стиле

SALON-Interior
Звездная «Дюна» Дени Вильнёва: фильм года или провал? Звездная «Дюна» Дени Вильнёва: фильм года или провал?

Одни возносят «Дюну» до небес, другие ругают, называя ее «Ноланом на минималках»

Cosmopolitan
Ископаемая птица доказала, что выживают не только сильнейшие, но и самые сексуальные Ископаемая птица доказала, что выживают не только сильнейшие, но и самые сексуальные

Ученые рассказали о необычной окаменелости, найденной в Китае

National Geographic
Отстань! Не мешай! Отвали, дед! Отстань! Не мешай! Отвали, дед!

Сегодня я задал себе вопрос: «Кто такой взрослый человек?»

ПУСК
Теоретики связали движение ядер с когерентностью электронов в молекуле Теоретики связали движение ядер с когерентностью электронов в молекуле

Что происходит с молекулами в аттосекундной абсорбционной спектроскопии

N+1
4 технологии, которые помогут в решении глобальной мусорной проблемы 4 технологии, которые помогут в решении глобальной мусорной проблемы

Какие технологии помогут людям сделать мир свободным от мусора

Популярная механика
Как заработать на винном баре в провинции Как заработать на винном баре в провинции

Винные бары появились в России совсем недавно

Inc.
Три дня Бородина Три дня Бородина

История Бородинской битвы

Вокруг света
«Допы», которые могут навредить машине. Список с пояснениями «Допы», которые могут навредить машине. Список с пояснениями

Дополнительное оборудование, перед установкой которого лучше подумать

РБК
Израильские археологи раскопали в Рамат-ха-Шароне древности византийской и исламской эпох Израильские археологи раскопали в Рамат-ха-Шароне древности византийской и исламской эпох

Археологи раскопали древности византийского и исламского периодов

N+1
Бетон из человеческой крови может стать основой марсианских колоний будущего Бетон из человеческой крови может стать основой марсианских колоний будущего

Ученые придумали новый рецепт экономичного «космического бетона»

Популярная механика
В Бельгии появилось «мусорное шоссе»: фото В Бельгии появилось «мусорное шоссе»: фото

В результате стихийного бедствия образовались тонны отходов

National Geographic
Тонкий человек: Фридерик Шопен и его недуги Тонкий человек: Фридерик Шопен и его недуги

Шопен прожил короткую и яркую жизнь, а причина его смерти вызывает дискуссии

Вокруг света
Изысканный и бодрящий колд брю: пошаговая инструкция по приготовлению холодного кофе Изысканный и бодрящий колд брю: пошаговая инструкция по приготовлению холодного кофе

Чем отличается кофе, приготовленный по методу колд брю?

Playboy
Химия была, но мы расстались: как фотограф Ольга Павлова помогает пережить онкологию Химия была, но мы расстались: как фотограф Ольга Павлова помогает пережить онкологию

Фотограф Ольга Павлова — о фототерапии и лиге онкофотографов

Forbes
Стать частью природы. Что такое экотуризм и как он развивается в России Стать частью природы. Что такое экотуризм и как он развивается в России

О видах экологического туризма, его развитии и местах, где им можно заняться

СНОБ
«Меня едва не убило счастье»: как я оказалась на грани, несмотря на благополучие «Меня едва не убило счастье»: как я оказалась на грани, несмотря на благополучие

Внешнее благополучие не гарант душевного спокойствия: история Ники

Cosmopolitan
Открыть в приложении