Алена Попова — о потере человеком его цифровых прав

РБКHi-Tech

ПРО ДАН НЫЕ

Алена Попова — о потере человеком его цифровых прав

Фото: из личного архива

Внедрение новых технологических решений происходит с огромной скоростью и не всегда во благо человека. Общество не успевает ни обнаружить, ни распознать угрозы. Тем более не успевает сформировать запрос на создание защитных мер. Законодательство тоже отстает и не может обеспечить граждан необходимой защитой. Известный общественный деятель Алена Попова рассказала, как люди превращаются в товар, которым торгуют корпорации, и в объект слежки для государства, а также объяснила, почему это ведет к эрозии прав человека

Технооптимисты против техноскептиков

В сфере этики и технологий существует два лагеря экспертов: технооптимисты и скептики. Первые видят огромные плюсы в том, что технологии отнимают у личности часть автономности и почти полностью приватность. Вторые указывают на угрозы, которые разрушают основу государства — права человека. Любимая фраза скептиков, к которым отношусь и я, — «мы должны понимать последствия использования этой технологии».

Например, в октябре этого года стало известно о скандале с утечкой персональных данных гражданина России Рафаэля Халилова, воспользовавшегося ранее каршерингом. Злоумышленники оформили на Рафаэля банковский кредит. Но это не самое плохое: мошенники стали вымогать у мужчины деньги, чтобы его данные не утекли в Сеть вместе с «разоблачением» в том, что он является педофилом. Деньги Рафаэль платить не стал, а потому по базе из 26 тыс. адресов полетела фейковая информация с реальными персональными данными Рафаэля: фото, паспортом, пропиской и его социальными сетями.

Избыточный сбор персональных сведений — это вопрос, который идеологически разделяет скептиков и технооптимистов. Последние утверждают, что история Халилова — скорее исключение, и нам давно стоит забыть про права человека в том виде, какими мы их знаем. Нужно жить в новой реальности, потому что прогресс не остановить, а этика и излишнее внимание к защите цифровых прав человека будут тормозить развитие технологий. Однако права не могут испариться только потому, что есть прогресс.

Искусство манипуляции

Футуролог и историк Юваль Ной Харари утверждает, что психологический взлом человека — самое страшное, что может случиться в XXI веке. Представьте, что будет, если ваш недруг или государство в лице бюрократического аппарата решат взломать вас как биологический алгоритм? В России скандал с британской Cambridge Analytica до сих пор не считается чем-то диким. Многие просто не понимают, что в этом ужасного, если человека с помощью микротаргетинга можно заставить считать, что правда — это ложь, а сила — это слабость.

В марте 2018 года стало известно, что британская аналитическая компания Cambridge Analytica собирала данные пользователей через свое приложение в Facebook (соцсеть признана в РФ экстремистской и запрещена) и использовала их для размещения политической рекламы, в частности во время президентской кампании в США и референдума о выходе Великобритании из Евросоюза в 2016 году. Вмешательство могло коснуться в общей сложности 87 млн пользователей соцсети. Скандал обернулся для Facebook (соцсеть признана в РФ экстремистской и запрещена) крупнейшим в истории штрафом $5 млрд, а для Cambridge Analytica — потерей всех клиентов и банкротством.

В недавно вышедшем документальном фильме Netflix «Социальная дилемма» бывшие инженеры и топ-менеджеры ведущих мировых ИТ-корпораций рассуждают о том, что плохого в потере человеком его цифровых прав. На вопрос «Чего вы боитесь больше всего с учетом тотального сбора персональных данных людей?» один из них ответил: «Гражданской войны». Мы живем в реальности, где люди утратили автономность, ими манипулируют с помощью четко подобранной под каждую личность информации. Люди легко начинают верить в ложь — например, в то, что коронавирус — вымысел.

Опасна потеря автономности и с точки зрения отношения граждан и государства. Глобальный контроль информационных потоков, внедрение систем распознавания лиц, объединение персональных данных в единые базы, взятие под контроль баз данных ключевых частных корпораций, создание социального рейтинга, препятствие регулированию в сфере персональных данных — все это лишь часть действий, предпринимаемых правящими режимами для ужесточения контроля над автономностью граждан. То есть над способностью критически мыслить и самостоятельно, не под влиянием искусных манипуляций, принимать решения. Одни и те же технологии можно использовать по-разному. Все зависит от людей, принимающих решения.

При отсутствии должного регулирования и контроля со стороны общества руководство страны будет стремиться укреплять свой режим, а руководство частных компаний — извлекать больше прибыли. В итоге, например, технологии искусственного интеллекта будут использоваться не столько для увеличения продолжительности жизни и улучшения качества образования, сколько для развития технологий слежки за гражданами. При этом руководители государств и корпораций будут прикрывать свои истинные намерения благими целями. Без систем тотальной слежки государство, оказывается, не может эффективно бороться с преступностью. А сбор огромных массивов персональных данных частными компаниями объясняется лишь заботой об угадывании желаний клиентов и персонализацией сервисов.

Уже сейчас многие государства тратят огромные средства на разработку и производство полностью автономных систем вооружения, а могли бы направить эти средства на создание автономного транспорта, который ежегодно сохранял бы жизни огромному числу граждан. Но функция новых методов убийства людей часто оказывается важнее функции сохранения жизни. В рамках кампании против полностью автономных систем вооружения (Campaign to Stop Killer Robots) мы уже много лет призываем в ООН подписать запрет на разработку и использование таких машин убийств. Однако наиболее милитаризованные страны не хотят даже слышать об этом.

Не взирая на лица

Контроль со стороны общества на фоне отсутствия регулирования — критический элемент сдерживания государства и частных компаний от использования технологий во вред гражданам. Ключевую роль приобретает гражданская самоорганизация. Инициативные сотрудники крупных корпораций объединяются и заставляют своих работодателей не только менять политику по отношению к тому или иному вопросу, но и отказываться от выгодных контрактов. Например, сотрудники Google добились разрыва контракта компании с Пентагоном на сумму $10 млрд, подразумевавшего разработку искусственного интеллекта для анализа больших данных Министерством обороны США. Теперь от подобных контрактов отказываются и другие компании.

Во многих городах общественные кампании и организации заставили местные власти отказаться от чрезмерного использования технологий слежки. В итоге системы распознавания лиц людей (то есть тотальная слежка) были запрещены в таких городах США, как Сан-Франциско, Окленд, Сомервилль, Портленд. В Москве сейчас, наоборот, все активнее действует система распознавания лиц. В сентябре 2020 года, например, было возбуждено уголовное дело в отношении полицейских, которые, по версии следствия, торговали данными граждан из базы системы.

При ограничении доступа госорганов и частных компаний к персональным данным можно избежать многих проблем. В Европе на этот вызов ответили принятием жесткого регулирования оборота персональных данных — General Data Protection Regulation (Общий регламент по защите данных). Однако большинство стран в мире не стали следовать примеру Европы: слишком заманчивые возможности открываются для правящих режимов и частных компаний при бесконтрольном использовании данных о гражданах.

Сейчас обществу крайне необходим моральный фундамент, который станет компасом при ускоряющихся технологических изменениях. Нельзя полагаться только на законы — в лучшем случае они будут приниматься со значительным опозданием. Гражданское общество должно само стать контролирующим органом. Это осуществимо в демократических государствах, где мнение граждан учитывается при принятии решений и где уже развиты институты гражданского общества. В авторитарных режимах возможности общества остаются сильно ограниченными. Вероятно, нас ждет появление первых цифровых диктатур. Их прообраз, как уверяют международные правозащитники, сложился в Синьцзян-Уйгурском автономном районе Китая. Именно здесь для уйгуров — мусульманского меньшинства Поднебесной — существует режим тотальной слежки за целым народом лишь из-за его религии.

Поэтому та этика, за которую бьются скептики, — это на самом деле правила и нормы по защите прав человека: права на неприкосновенность частной жизни и автономность в принятии решений. Приватность и автономность — это то, что делает нас личностями, которые могут самостоятельно жить именно своей жизнью, принимать решения самостоятельно, а не под влиянием контроля или манипуляций.

В каких странах используются системы распознавания лиц на основе ИИ

Источник: Carnegie Endowment

Алена Попова — юрист, правозащитник, основатель аналитического центра «Этика и технологии» (создан при поддержке научного совета по методологии искусственного интеллекта РАН РФ). Одна из авторов закона против домашнего насилия.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Общий ИИ будет умнее лауреата Нобелевской премии» «Общий ИИ будет умнее лауреата Нобелевской премии»

Визионеры — о том, как технологии изменят нашу жизнь

РБК
Откуда к нам прилетела межзвездная комета? Астрономы впервые отследили ее путь Откуда к нам прилетела межзвездная комета? Астрономы впервые отследили ее путь

Астрономам впервые удалось точно установить, откуда прибыл межзвездный гость

Inc.
Клетки сами лечат пациента Клетки сами лечат пациента

В России начинается волна развития биомедицинских клеточных технологий

Монокль
Регионы России, которые сильнее всего пострадали от внутреннего туризма Регионы России, которые сильнее всего пострадали от внутреннего туризма

Россияне открывают Алтай и Калининград... но не везде к этому готовы

Maxim
Ну и дела… Ну и дела…

Считается, что нашумевшее в свое время «рыбное дело» началось с казуса...

Дилетант
Правила жизни Тома Хэнкса Правила жизни Тома Хэнкса

Правила жизни актера Тома Хэнкса

Правила жизни
8 вещей, которые нельзя хранить под кроватью 8 вещей, которые нельзя хранить под кроватью

Есть вещи, которые лучше держать подальше от подкроватья

VOICE
Кабачки Кабачки

Куда девать кабачки летом?

Здоровье
Обмануть время: зачем во многих странах переводят часы на зимнее и летнее время и почему в России от этого отказались Обмануть время: зачем во многих странах переводят часы на зимнее и летнее время и почему в России от этого отказались

Зачем вообще была придумана практика перевода часов на зимнее время?

ТехИнсайдер
Банановые перспективы российских субтропиков Банановые перспективы российских субтропиков

Инвесторы хотят импортозаместить экзотические фрукты

Агроинвестор
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
Команда спасателей Команда спасателей

Справляемся с отпускными кризисными бьюти-ситуациями

Moodboard
В такси на Дубровку В такси на Дубровку

Ищешь живописное место для фотосессии? Советские фильмы знают ответ!

Лиза
Что такое поликарьера и чем она отличается от подработки Что такое поликарьера и чем она отличается от подработки

Горизонтальный рост: что такое поликарьера и кому она подходит

Ведомости
Что такое калланетика и помогает ли она похудеть: 9 упражнений Что такое калланетика и помогает ли она похудеть: 9 упражнений

Эффективный комплекс упражнений для укрепления мышц, которые можно делать дома

РБК
В палеолитическом пещерном святилище впервые нашли голубые краски В палеолитическом пещерном святилище впервые нашли голубые краски

Люди эпохи верхнего палеолита пользовались красками голубых оттенков

N+1
В России художник — пророк В России художник — пророк

Что и как видит художник и зачем вообще нужны искусствоведы

Монокль
Почему понедельник – самый опасный день недели? Дело не только в работе Почему понедельник – самый опасный день недели? Дело не только в работе

Статистика неумолима: именно на понедельник приходится пик сердечных приступов

Inc.
Что следует знать начинающему инвестору Что следует знать начинающему инвестору

Что надо знать, когда планируете начать инвестировать?

Наука и техника
Из портов на биржу Из портов на биржу

Угольщики стремятся расширить сбыт на внутреннем рынке на фоне падения экспорта

Ведомости
Чёрные мысли на белом снегу Чёрные мысли на белом снегу

Рассказ Елены Ворон «Чёрные мысли на белом снегу»

Наука и жизнь
История профессора Либреску! Он пережил Холокост и пожертвовал собой при стрельбе в университете История профессора Либреску! Он пережил Холокост и пожертвовал собой при стрельбе в университете

История профессора Ливиу Либреску — это не просто рассказ о героизме

ТехИнсайдер
Болит слева, но не сердце! Болит слева, но не сердце!

Боль в груди: сердечные и несердечные причины – как различить?

Здоровье
Накрутил €50 млн: как Тадей Погачар стал самым высокооплачиваемым велогонщиком мира Накрутил €50 млн: как Тадей Погачар стал самым высокооплачиваемым велогонщиком мира

Как Тадей Погачар стал самым высокооплачиваемым велогонщиком мира

Forbes
Дача под боком Дача под боком

Идеи оформления балкона, которые перенесут тебя за город

Лиза
15 уроков периода высоких ставок глазами банкира 15 уроков периода высоких ставок глазами банкира

Что мы поняли за годы высоких ставок?

Ведомости
Пусть всегда будет солнце! Пусть всегда будет солнце!

Atraversia — серийная моторная яхта с чисто электрической установкой

Y Magazine
Москва на экране Москва на экране

Почему регионы готовы доплачивать за съемки фильмов на своей территории

Эксперт
На египетской картине нашли библейский синий На египетской картине нашли библейский синий

Из чего древние египтяне делали редкую краску — библейский синий

N+1
Американские горки Американские горки

Группа БКС возобновила торги американскими бумагами через свой инвестбанк

Ведомости
Открыть в приложении