Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Телевизоры 55 дюймов: какой выбрать в 2024 году? Телевизоры 55 дюймов: какой выбрать в 2024 году?

Хотите большой телевизор для гостиной? Подобрали бюджетные и премиальные модели

CHIP
Новый тренд: как короткая стрижка вновь стала популярной у женщин Новый тренд: как короткая стрижка вновь стала популярной у женщин

Почему на смену длинным волосам у женщин вновь приходит короткая стрижка

Psychologies
Идеальное свидание: романтические выходные только для двоих Идеальное свидание: романтические выходные только для двоих

Мы собрали лучшие идеи, которые помогут парам расслабиться

Караван историй
Как красиво уложить короткие волосы: 9 простых и стильных причесок на каждый день Как красиво уложить короткие волосы: 9 простых и стильных причесок на каждый день

Короткая стрижка — еще не повод жертвовать причудливыми укладками

VOICE
Искусство накопления: 10 фильмов про коллекционеров Искусство накопления: 10 фильмов про коллекционеров

После этих фильмов точно захочется начать что-то коллекционировать

Правила жизни
Как сохранить брак на всю жизнь: 10 советов от психолога Как сохранить брак на всю жизнь: 10 советов от психолога

Жить вместе «долго и счастливо» можно не только в сказках, но как?

Psychologies
Месть матери: громкое дело Марианне Бахмайер, отомстившей убийце своего ребенка прямо в зале суда Месть матери: громкое дело Марианне Бахмайер, отомстившей убийце своего ребенка прямо в зале суда

Марианне Бахмайер застрелила в прямо в зале суда соседа, и это была месть

VOICE
Спорт вне политики: 10 фильмов, доказывающих обратное Спорт вне политики: 10 фильмов, доказывающих обратное

Фильмы, в которых политика влияет на спорт, спорт — на политику

Forbes
​​​​​​​Альтернативный мир: 5 книг для тех, кто устал от новогодней сказки ​​​​​​​Альтернативный мир: 5 книг для тех, кто устал от новогодней сказки

Книги, которые помогут погрузиться с головой в альтернативную реальность

ТехИнсайдер
Сумчатые муравьеды перегрелись после десяти минут охоты на термитов в жару Сумчатые муравьеды перегрелись после десяти минут охоты на термитов в жару

Намбаты уязвимы перед глобальным потеплением

N+1
Кто и как придумал «Смешариков». Отрывок из книги Кто и как придумал «Смешариков». Отрывок из книги

Глава из книги «Смешарики» о том, как происходила работа над культовым проектом

СНОБ
История одной вещи: игральные карты, которые запрещали, монополизировали и превращали в искусство История одной вещи: игральные карты, которые запрещали, монополизировали и превращали в искусство

Карты — глубоко пустивший корни элемент культурного кода

Правила жизни
Чтение выходного дня: рассказ Макса Лоутона «Кето и кеносис» Чтение выходного дня: рассказ Макса Лоутона «Кето и кеносис»

Рассказ мастера американской словесности Макса Лоутона

Правила жизни
Ирина Яшкина «Пробуждение тишины». Отрывок из рассказа про цунами в Северо-Курильске Ирина Яшкина «Пробуждение тишины». Отрывок из рассказа про цунами в Северо-Курильске

Цунами в Северо-Курильске: глава из рассказа Ирины Яшкиной

СНОБ
3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь 3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь

Нужно ли учиться, чтобы стать заталкивателем пассажиров?

ТехИнсайдер
Разборный или неразборный бак в стиральных машинах: какой лучше? Разборный или неразборный бак в стиральных машинах: какой лучше?

Так какой бак для стиральной машины лучше, разборный или неразборный?

CHIP
Как прочистить унитаз без вантуза: 5 простых способов Как прочистить унитаз без вантуза: 5 простых способов

Как понять, что туалет засорился и как его прочистить?

VOICE
Приключения Робота в мире животных Приключения Робота в мире животных

«Мечты Робота»: веселая и печальная история о борьбе с одиночеством

Weekend
Путин и Песков протестировали вездеходы на Чукотке. Что это за машины Путин и Песков протестировали вездеходы на Чукотке. Что это за машины

Подробности о вездеходах, которые использовал Путин при поездке по Чукотке

РБК
«Хранительница очага» «Хранительница очага»

Руками Голды Меир строилось государство Израиль. Один из символов Израиля

Дилетант
Почему про супружескую измену говорят “Наставить рога”? Почему про супружескую измену говорят “Наставить рога”?

Как связаны супружеская верность и рога?

ТехИнсайдер
Поразительный факт! Кошки тоже могут ревновать: вот как распознать это Поразительный факт! Кошки тоже могут ревновать: вот как распознать это

Непредсказуемое кошачье поведение одновременно завораживает и озадачивает

ТехИнсайдер
Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи

Почему количество самоубийств среди молодежи растет по всему миру?

Inc.
Шутки в сторону: 5 хороших книг о природе юмора Шутки в сторону: 5 хороших книг о природе юмора

Как найти свою комическую струну и понять юмор? Изучаем литературу на эту тему

Правила жизни
Ранние браки, запрет на аборты и проституция: как живут женщины в Нигерии Ранние браки, запрет на аборты и проституция: как живут женщины в Нигерии

Нигерия: страна, в которой беспрецедентно нарушаются права женщин

Forbes
Интересный факт! Ученые не стали скрывать вещество, которое сохранит чувство любви Интересный факт! Ученые не стали скрывать вещество, которое сохранит чувство любви

Что происходит в мозгу, когда мы видим кого-то, кого любим?

ТехИнсайдер
Великий кофейный путь. Как зерно доставляют в Россию Великий кофейный путь. Как зерно доставляют в Россию

Как и откуда кофе в зернах привозят в Россию

СНОБ
Почему мы всегда спим на определенной стороне кровати: догадки ученых Почему мы всегда спим на определенной стороне кровати: догадки ученых

Как мы выбираем любимую сторону кровати?

ТехИнсайдер
«Темная психология»: как нами манипулируют, используя «умные» термины «Темная психология»: как нами манипулируют, используя «умные» термины

Каким образом психологические термины превращаются в способ насилия над другими

Psychologies
Как завести бензопилу после зимовки — готовим инструмент к началу сезона Как завести бензопилу после зимовки — готовим инструмент к началу сезона

Делимся инструкцией, как завести бензопилу после простоя

CHIP
Открыть в приложении