Цифровизация значимых сфер в России стремительно развивается

ЭкспертHi-Tech

«Поспешная цифровизация — гигантский риск»

Алексей Грамматчиков

Наталья Касперская: «Биометрия — это сверхчувствительные и одновременно неизменные данные, их достаточно украсть единожды, чтобы сломать человеку жизнь, создать огромные проблемы». Предоставлено компанией InfoWatch

Цифровизация значимых сфер экономики и общества в России стремительно развивается без должным образом проработанных моделей угроз и рисков. Это в полной мере относится к использованию биометрических данных, убеждена Наталья Касперская, президент группы компаний InfoWatch, председатель правления ассоциации разработчиков программных продуктов «Отечественный софт».

— Насколько перспективным вам видится применение технологий биометрической аутентификации?

— Для применения биометрических технологий есть перспективные направления, в частности банковские услуги, где обещают повысить безопасность с помощью многофакторной авторизации с биометрией. Но меня смущает, что в 2018 году Банк России предписал, практически обязал российские банки использовать биометрию. Это, во-первых, сложно для самих банков, так как им нужно найти соответствующее недешевое оборудование. Во-вторых, безопасность хранения биометрических данных в базе должна быть усилена, потому что это сверхчувствительная информация. Это значит, что необходимо потратиться на защиту и на технологии распознавания. Неизвестно, станут ли банки это делать. Мне подробно рассказывали разработчики, как сделана биометрическая система авторизации клиентов в Сбербанке. Там уделено серьезное внимание безопасности, в частности внедрена многоуровневая защита, система мониторинга, непрерывно отслеживающая, кто из сотрудников и как с этой базой работает. Однако не у всех есть такие ресурсы, как у Сбербанка. Кроме того, если трудно взломать систему самого банка для кражи денег со счетов, то не факт, что нельзя применить купленную у инсайдеров банка биометрию для атак на другие системы. То есть одно дело — взлом, а другое — утечка.

Но есть еще один важный аспект: пока еще узкое применение биометрии. В частности, у большинства банков выставлен потолок по платежам с использованием биометрии — до двухсот тысяч рублей. Поэтому пока взлом такой системы внутри банка — для кражи денег со счетов — невыгоден. Даже если злоумышленник получит биометрические данные — а как мы знаем, данные обычно именно покупают или крадут изнутри, в основном нелояльные сотрудники предприятия, — пользоваться ими будет слишком дорого и сложно. Для малых сумм это просто не имеет смысла. Но предполагается, что с развитием биометрических технологий все перейдут на платежи с использованием идентификации по биометрическим данным. И тут встает вопрос: а смогут ли обеспечить для таких данных надлежащую защиту, когда мотивация инсайдеров и их криминальных партнеров вовне банков значительно вырастет?

Я давно работаю в сфере информационной безопасности и вижу, что, как только технология становится массовой, как только ее начинают использовать применительно к деньгам, на нее тут же начинаются массовые и очень профессиональные атаки. Нам говорят, что биометрия в Единой биометрической базе, ЕБС, хорошо защищена, но в реальности осуществить какую-то специальную, сверхпрочную защиту любой базы данных — это крайне сложно и дорого.

Количество утечек из любых баз данных сейчас быстро растет, даже у очень серьезных предприятий происходят утечки данных, часто огромного масштаба. При этом у биометрических данных есть одно принципиальное отличие от любых других: наша биометрия от нас неотделима, это наша жизнь. И если у человека «украли лицо» или «украли голос», ему будет крайне сложно доказать, что он, допустим, не продавал квартиру или не совершал какое-то преступление. Если можно заменить пароль, логин, сменить имя или паспорт, то лицо, отпечатки пальцев, сетчатку глаза, характеристики голоса изменить нельзя. Это сверхчувствительные и одновременно неизменные данные, их достаточно украсть единожды, чтобы сломать человеку жизнь, создать огромные проблемы.

Поэтому к таким данным нужен особый подход. Они должны быть чрезвычайно надежно защищены, модель угроз и методы защиты должны быть разработаны и протестированы задолго до широкого использования биометрии по всей стране.

— Какой подход нужно применять в отношении технологий биометрических данных?

— Нужно исходить из того, как их предполагается применять. В банковской сфере в использовании таких технологий есть резон. А вот применять биометрию в метро — это спорно. Да и оснований как-то не видно, кроме избитых — инновационность и удобство. Что, сложно заплатить картой «Тройка»? В чем тут трудность или неудобство? А вот давайте представим, что биометрическая система дала сбой, люди в восемь утра пытаются войти в метро и «заплатить лицом», а система не работает, других средств оплаты не предусмотрено, тогда в перегруженном московском метро случится транспортный коллапс.

У нас цифровизация идет галопирующим темпом, и модель защиты от угроз зачастую не проработана. Даже если вы возьмете ту модель угроз, которую опубликовал Центральный банк в отношении биометрии в 2019 году, то там предусмотрено много негативных сценариев (хотя и не все — это было два года назад, криминал на месте не стоит), но не сказано, как эти угрозы должны предотвращаться банками. Меня это удивило. А ведь кроме риска утечек биометрических данных есть и другие серьезные угрозы.

— Какие именно?

— Я имею в виду дипфейки (deep fake) — возможность подменять лицо с помощью технологии нейронных сетей и машинного обучения. В сети можно найти много роликов с демонстрацией того, как работают эти технологии, — на примере замены лиц популярных политиков и знаменитостей. Для них делать фейки особенно легко — много доступного материала. Но и данные среднего человека — лицо, голос, походка — каждый день попадают в десятки баз данных самого разного уровня и принадлежности. Такие подделки сейчас настолько высокого качества, что биометрические системы распознавания лиц, например системы биометрической авторизации Amazon, согласно результатам южнокорейских исследователей, пробиваются в 78 процентах случаев, а Microsoft Azure — в 68 процентах. То есть в трех случаях из четырех фальшивка не распознается.

Обычно разработчики системы авторизации в банках говорят: «Нам фейк не подсунешь, мы проверяем лицо на “живость”, проверяем, что лицо на камере моргает, есть мимика, все это считывается». То есть, как обычно, обещают, что вот уж следующий уровень технологии будет таким крутым, что точно решит проблему. Но ведь противники на месте тоже не стоят, они тоже профессионалы и обычно на шаг впереди. Недавно поставили эксперимент — подсунули дипфейк Илона Маска в нашу налоговую службу. Теперь он зарегистрирован в нашей ФНС, кажется, он даже что-то там должен. Это было несложно сделать, потому что Маск много выступает, у него масса видео и фото в сети, на основе чего можно сделать качественную подделку. Как говорят сейчас специалисты, имея доступ к смартфону (физический или через «подсаженное» приложение), можно подменить видеопоток на камере смартфона, обеспечив «живость» лица, только другого, краденого. И что с такими и разными другими подделками делать, пока не очень понятно. Может, давайте сначала научимся отличать фейки, а потом будем внедрять биометрию?

— Что вы думаете об идее развития Единой биометрической системы в России?

— Мне эта идея крайне не нравится. В информационной безопасности есть такое понятие «единая точка входа», и, если в отношении биометрии мы создадим такую единую точку входа, утечки будут происходить гарантированно. Единая точка входа может быть сильнее защищена, но она дает такие возможности получить все и сразу, что мотивация преступника (точнее, преступной группы «мошенник плюс инсайдер») резко повышается. Потом, я не понимаю, зачем вообще нужна единая система? Согласно замыслу, все контрагенты, банки, государственные органы, коммерческие структуры будут обязаны передать эту биометрию в ЕБС. Правда, пока с согласия гражданина.

Итак, эти данные попадают в общий котел. И допустим, обнаруживается утечка: биометрические данные начинают массово продаваться на хакерских форумах в даркнете. Кто будет в этом случае нести ответственность? «Ростелеком» как оператор Единой биометрической системы? А почему бы «Ростелекому» не сказать, что это, мол, у Сбербанка украли, а у него все отлично? А Сбербанк, в свою очередь, заявит, что это не у него украли, а из ЕБС. Ведь источник утечки обычно неясен, нужны серьезные расследования. Создается размытие ответственности, возможность кивать друг на друга.

Пока стопроцентно надежных систем защиты данных не придумано. Даже очень защищенные базы «текут», потому что данные тащат собственные сотрудники с высоким уровнем прав доступа. Получается, что люди, которые имеют доступ к таким базам, должны брать на себя особые обязательства, подписывать документы, разрешающие им доступ к сверхсекретным данным. И если что-то утечет, они должны нести ответственность по всей строгости, с реальными уголовными сроками. Иначе получается, что к нашим ценным биометрическим данным будут иметь доступ какие-то не несущие ответственности люди. Утекли данные — они пожали плечами: «Бывает, что уж…»

Наша группа компаний постоянно отслеживает ситуацию с утечками данных. Только за прошлый год произошло больше двух тысяч крупных инцидентов — 2395 утечек по миру; всего утекло одиннадцать миллиардов персональных записей. И где наказания виновных, где посадки, как говорит наш президент? Было несколько мелких приговоров, но по большому счету за крупные утечки так никто не ответил и не отвечает — ни у нас в стране, ни за рубежом. И в этой ситуации внедрять еще и биометрию — преступно. Кроме того, в программе «Цифровая экономика» заявлено, что данные граждан (в том числе из ЕБС) будут передаваться коммерческим компаниям. Непонятно, зачем такие сверхчувствительные данные граждан, подвергающие риску их базовые права и интересы, будут отдаваться каким-то коммерсантам? Мне кажется, это неправильно. То есть в единой биометрической системе данных я особых плюсов не вижу, а очевидных минусов очень много.

— Сторонники развития биометрических технологий говорят, что их использование даст новый уровень удобства.

— Это классический аргумент, как будто «удобство» является нашим национальным приоритетом и главной целью. В каком документе стратегического планирования РФ такое заявлено? Стоит ли, например, удобство использования своего лица в очень сомнительных обстоятельствах того, чтобы разменивать право первородства на чечевичную похлебку? А что еще на следующем шаге нам предложат для «удобства»: абсолютную прозрачность, лицо как единый идентификатор, создание социального рейтинга, чтобы нас всех загнать в цифровой концлагерь? Так себе идеи.

— А как насчет безопасности, использования биометрии силовыми структурами для защиты граждан? Например, с помощью таких технологий легче ловить преступников.

— Работа спецслужб — это совершенно особый разговор, там люди в погонах и под присягой, у них нет ощущения, что все в их власти и гравитации не существует. Но даже у них есть проблема излишнего доверия к искусственному интеллекту в целом и биометрии в частности. Вспомните недавние истории с певцом Коротичем и режиссером Ермошиным. Грубо, с нарушением процедур, схватили людей на улице, потащили в отделение, по дороге еще и побили, при том что у одного из них был паспорт, он был готов его предъявить, а фото другого есть на сайте Мариинского театра. На лицо «глазами» посмотрели только в отделении и только тогда поняли, что это не тот человек.

Эти случаи показывают невероятно быстро развившееся излишнее доверие к системам искусственного интеллекта. При этом любая ИИ-система подвержена ошибкам первого и второго рода: может пропустить цель (то есть в данном случае не узнать разыскиваемого) либо — как в описанных выше случаях — выдать ложную тревогу (то есть распознать преступника в абсолютно постороннем, ни в чем не виновном гражданине). И это риск, особенно при массовом применении. Нужно, чтобы правоохранители не слишком доверяли таким системам. Чтобы всегда последнюю проверку делал человек.

— Что вы думаете о зарубежном опыте использования биометрических данных? Может, нам нужно использовать опыт тех же европейских стран, где применение биометрических данных имеет значимые ограничения?

— Нам нужно сначала менять законодательство, повышать уровень ответственности. Потому что закон № 152-ФЗ «О персональных данных» в его текущем применении подразумевает административную ответственность, то есть довольно слабые штрафы. Да, там есть также риск для генерального директора компании, он после доказанного и расследованного инцидента с утечкой не сможет занимать такую же управленческую должность. Но при этом практически никого не наказывают, мало правоприменительной практики. А в европейском кодексе GDPR (General Data Protection Regulation) штрафы большие, но на практике (по публикуемым данным о делах) — в основном за неправильно оформленные бумаги и процедуры. Серьезной ответственности за утечки сейчас никто нигде не несет.

— Создатели системы Face Pay в метро говорят, что они хранят в своей базе только векторный код, а сами биометрические данные в виде изображений лиц у них не хранятся. С их слов, даже если кто-то получит доступ к векторному коду, он не сможет увидеть лицо человека и воспользоваться такой информацией.

— Я в это лукавство не верю, потому, что в системах такого рода все равно есть абсолютная необходимость хранения исходной, «сырой» биометрии. Во-первых, это связано с естественными событиями программной системы: обновлениями и сбоями. Если вы не храните непосредственно биометрическую информацию, то в случае сбоев или развития в системе может что-то покривиться, база «хешей» может пропасть или испортиться. В этом случае нужно еще раз переобучить базу на исходных, «сырых» биометрических данных. А если у вас их нет, на чем вы будете ее переобучать? Без исходной биометрической информации систему обновить будет невозможно, так не делают, все IT-системы сейчас обновляются. Та же история с обновлением распознающего программного обеспечения. Его нужно заново обучить. Как это сделать? Заново заставлять миллионы пользователей сдавать биометрию? Да нет, так никто не делает — переобучают по исходным данным, которые в системе, конечно, хранятся.

Вторая причина заключается в необходимости расследовать инциденты. Допустим, клиент системы утверждает, что не «платил лицом», или кто-то прошел не туда, что-то нахулиганил. Чтобы разобраться, операторам системы все равно придется посмотреть глазами, тот ли это человек, совпадает ли его лицо во время инцидента с биометрическими данными в системе (или послушать голос). А если у них в системе хранится только хеш-код, из которого нельзя восстановить лицо, — куда они будут смотреть? Получается, что саму исходную биометрию в виде фотографии, голоса или видео все равно нужно где-то хранить.

Так что в отношении массового использования биометрических данных у нас еще много нерешенных проблем. На мой взгляд, не стоит внедрять такие технологии слишком поспешно, не предусматривая возможных негативных последствий, не продумав тщательнейшим образом модель угроз, не спроектировав и не выстроив надежную защиту.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Однажды я проснулся в два раза богаче» «Однажды я проснулся в два раза богаче»

Михаил Шардин — о своем пути от спекуляций на срочном рынке к пассивному доходу

Эксперт
«Ты пой ему больше песен». Почему Есенин бросил первую жену с сыном «Ты пой ему больше песен». Почему Есенин бросил первую жену с сыном

Анна Изряднова была, наверное, первой настоящей поклонницей Сергея Есенина

Cosmopolitan
Межнациональный расчет Межнациональный расчет

Стоит ли безоглядно открывать страну для чужаков?

Эксперт
Пигментация кожи: как избавиться от темных пятен Пигментация кожи: как избавиться от темных пятен

С чем связано появление темных участков кожи, как предотвратить этот процесс?

РБК
Пенсия в самом расцвете лет Пенсия в самом расцвете лет

В России набирает обороты движение FIRE. К этому привел бум частных инвестиций

Эксперт
Что это было, или История одной матери — почти одиночки Что это было, или История одной матери — почти одиночки

Как часто это бывает: сама не старая еще, но жизнь почему-то кажется законченной

СНОБ
Кризис перепроизводства контента: тексты, аудио, видео Кризис перепроизводства контента: тексты, аудио, видео

Почему контента так много и как к этому привыкнуть?

Эксперт
«Мы забираем документы»: когда пора менять школу? «Мы забираем документы»: когда пора менять школу?

Иногда родителям приходится задуматься: а комфортно ли ребенку на учебе?

Psychologies
Тигр русской дипломатии Тигр русской дипломатии

Творчество Дмитрия Левицкого имеет огромное значение для искусства XVIII века

Дилетант
Роман о мечтах и обо всем, что встречается на пути. Фрагмент книги Аудур Авы Олафсдоттир Роман о мечтах и обо всем, что встречается на пути. Фрагмент книги Аудур Авы Олафсдоттир

Отрывок из романа «Мисс Исландия» — о борьбе за счастье и эмпансипации

Esquire
Банкноты-путеводители: по курсу евро Банкноты-путеводители: по курсу евро

Увидеть необычные достопримечательности можно, не тратя евро, а рассматривая их

Вокруг света
Знает ли кот имя своего хозяина? Знает ли кот имя своего хозяина?

Распознают ли членов семьи коты?

Maxim
Побег с аэродрома Побег с аэродрома

Циклолеты – «летающие комбайны» – становятся экономичнее квадрокоптеров

Популярная механика
6 способов правильно высушить обувь осенью и зимой 6 способов правильно высушить обувь осенью и зимой

Правильные способы привести обувь в порядок в период слякоти

Cosmopolitan
Сонник: к чему снятся выпавшие зубы, мутная вода, пожар Сонник: к чему снятся выпавшие зубы, мутная вода, пожар

Тип сновидений, который связан с ближайшим будущим — сны-предупреждения

Cosmopolitan
Как охотники за багами и хакеры будут бороться с дискриминацией на рынке труда Как охотники за багами и хакеры будут бороться с дискриминацией на рынке труда

Могут ли нейросети помешать вам получить работу мечты?

Forbes
Разнообразие как ключ к счастливой и осмысленной жизни Разнообразие как ключ к счастливой и осмысленной жизни

Говорят, разнообразие придает жизни вкус. Но что конкретно мы можем сделать?

Psychologies
«Я не предам Кристину!»: любимая актриса Рязанова не может вернуться в Россию «Я не предам Кристину!»: любимая актриса Рязанова не может вернуться в Россию

Юлия Живейнова рассказала, почему не посещает Россию

Cosmopolitan
Сексуальная зависимость или просто любовь к сексу? Когда пора бить тревогу Сексуальная зависимость или просто любовь к сексу? Когда пора бить тревогу

Вы «сексоголик» или у вас просто высокое либидо?

Psychologies
Природный феномен Природный феномен

Роль искусства в этом доме играют пейзажи за окном

AD
Курс на Италию Курс на Италию

Галина Зернова о жизни в ПНИ и за его пределами

ПУСК
Номер один по объему агроинвестиций Номер один по объему агроинвестиций

Обзор АПК Воронежской области по итогам работы в 2020 году

Агроинвестор
Почему нас раздражает собственный голос в записи? Почему нас раздражает собственный голос в записи?

Нам не нравится свой голос в записи, потому что мы не узнаем себя

Cosmopolitan
Чемодан на колесиках: история главного изобретения путешественников Чемодан на колесиках: история главного изобретения путешественников

Как появилась дорожная сумка на колесах?

Популярная механика
Пограничное состояние Пограничное состояние

Александр Добровинский с нежностью вспоминает месть любимой женщины

Tatler
Все под контролем Все под контролем

Как адекватно относиться к ВИЧ и к людям, живущим с ним

Playboy
Что нам делать с моногамией Что нам делать с моногамией

Почему иногда лучше попробовать, чем долго сомневаться

GQ
Когда психика толкает на преступление. Что такое клептомания Когда психика толкает на преступление. Что такое клептомания

Клептомания – тяжелое и опасное психическое расстройство

РБК
«Великая зеленая стена» в Африке окупится за 10 лет «Великая зеленая стена» в Африке окупится за 10 лет

«Великая зеленая стена» в Африке однажды станет прибыльной

N+1
12 главных электромобилей 2021 года 12 главных электромобилей 2021 года

Тренд автомобилей 2021 года — сила тока

Playboy
Открыть в приложении