Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Какой должна быть яркость экрана смартфона, чтобы изображение всегда было хорошо видно Какой должна быть яркость экрана смартфона, чтобы изображение всегда было хорошо видно

Пиковая яркость — реальная характеристика или маркетинговый термин?

CHIP
Стесняюсь спросить: все, что вы хотели знать о жире в организме Стесняюсь спросить: все, что вы хотели знать о жире в организме

Для чего нужен жир в организме и можно ли от него избавиться навсегда?

Правила жизни
Видеоигры провоцируют на жестокость в реальной жизни? Ученые дали ответ! Видеоигры провоцируют на жестокость в реальной жизни? Ученые дали ответ!

Играет ли насилие в видеоиграх какую-либо роль в эмпатии людей в реальности?

ТехИнсайдер
Универсальный интерфейс поможет конструировать живые нейронные сети Универсальный интерфейс поможет конструировать живые нейронные сети

Платформа с гибкими настройками для интерфейса с живыми нейронами

N+1
В пазырыкском могильнике нашли монголоидную женщину В пазырыкском могильнике нашли монголоидную женщину

Палеоантрополог исследовал останки из памятника Берел

N+1
Юки-онна: как героиня японской мифологии вдохновляет создателей аниме и покемонов Юки-онна: как героиня японской мифологии вдохновляет создателей аниме и покемонов

Почему японская Снежная королева не подчиняется патриархальным традициям?

Forbes
Почему на других планетах один год длится не столько же, сколько на Земле? Почему на других планетах один год длится не столько же, сколько на Земле?

Почему длина года на планетах Солнечной системы различается?

ТехИнсайдер
Стреляет в ухе Стреляет в ухе

Что делать, если болит ухо, и как помочь в домашних условиях

Лиза
Как держать аскезу, чтобы твое желание точно сбылось Как держать аскезу, чтобы твое желание точно сбылось

Что такое аскеза и зачем она нужна?

VOICE
Вокруг Петрограда Вокруг Петрограда

Весной 1919 в России проходил вооружённый плебисцит

Дилетант
Ученые посчитали сколько живых клеток было на Земле и сколько еще будет Ученые посчитали сколько живых клеток было на Земле и сколько еще будет

Сколько клеток населяло нашу планету со времени появления первой?

ТехИнсайдер
Влюбиться в оппу и сделать эгье: разбираемся в корейских терминах и традициях Влюбиться в оппу и сделать эгье: разбираемся в корейских терминах и традициях

Какие культурные обычаи Южной Кореи могут вас удивить?

Psychologies
Как устроены безвтыковые поршни: все, что вы хотели знать. Без сложных терминов Как устроены безвтыковые поршни: все, что вы хотели знать. Без сложных терминов

Почему от безвтыковых поршней отказались и как они функционировали?

ТехИнсайдер
Почему про супружескую измену говорят “Наставить рога”? Почему про супружескую измену говорят “Наставить рога”?

Как связаны супружеская верность и рога?

ТехИнсайдер
Кто еще в опасности? Вот как цифровые медиа влияют на тревогу у подростков Кто еще в опасности? Вот как цифровые медиа влияют на тревогу у подростков

Почему использование цифровых медиа связано с симптомами тревоги?

ТехИнсайдер
«Я так хотела на свидание, а мне всего 12»: история об одном постсоветском лете «Я так хотела на свидание, а мне всего 12»: история об одном постсоветском лете

Рассказ «Усталость 1993» — о детстве, любви и лете

Psychologies
Магнитные бури Магнитные бури

Чем они на самом деле опасны для здоровья

Лиза
Что такое разум? Что такое разум?

Как разум связан с интеллектом и преобразованием среды?

Наука и техника
Денис Джонсон: «Дымовое древо». Отрывок из романа Денис Джонсон: «Дымовое древо». Отрывок из романа

Отрывок из мощной, маскулинной прозе об ужасах войны во Вьетнаме

СНОБ
Первая женщина-психоаналитик и любовница Юнга: что известно о россиянке Сабине Шпильрейн Первая женщина-психоаналитик и любовница Юнга: что известно о россиянке Сабине Шпильрейн

Глава из книги «50 историй российских девушек, изменивших мир»

Psychologies
Лаборатория ярких ощущений Лаборатория ярких ощущений

У человека есть пять основных чувств, и их утрата – нелегкое испытание

Зеркало Мира
Тайна одной профессии. Кто такие заклинатели червей и чем они напоминают охотников на вампиров Тайна одной профессии. Кто такие заклинатели червей и чем они напоминают охотников на вампиров

Глава из книги-расследования о природе поведения разных живых существ

СНОБ
«Будущее как на ладони» «Будущее как на ладони»

«Эта вывеска привлекла мое внимание своей наглостью...» – рассказ Игоря Харичева

Знание – сила
10 фильмов, которые должен посмотреть каждый, кто увлекается психологией 10 фильмов, которые должен посмотреть каждый, кто увлекается психологией

10 кинокартин, которые важны для любителей психологии

Psychologies
10 цитат Джона Готтмана, которые повысят уровень вашего эмоционального интеллекта 10 цитат Джона Готтмана, которые повысят уровень вашего эмоционального интеллекта

Советы американского психолога, которые помогут развить эмоциональный интеллект

Psychologies
Как правильно краситься после 50 лет: 7 гениальных лайфхаков, которые изменят твою жизнь Как правильно краситься после 50 лет: 7 гениальных лайфхаков, которые изменят твою жизнь

Трюки возрастного макияжа, которые придадут твоему лицу свежий и подтянутый вид

VOICE
Археологи нашли «Небесный календарь»: им пользовались в Китае 2000 лет назад! Археологи нашли «Небесный календарь»: им пользовались в Китае 2000 лет назад!

Археологи в Китае раскопали загадочный набор прямоугольных деревянных пластин

ТехИнсайдер
Вы поразитесь! Вот как военный инженер из США изобрел пружинку «Слинки»: история игрушки Вы поразитесь! Вот как военный инженер из США изобрел пружинку «Слинки»: история игрушки

Не всем известно, что знаменитая пружинка «Слинки» была «случайным изобретением»

ТехИнсайдер
Прощаемся с новогодней красавицей: как правильно утилизировать живую ель после праздников Прощаемся с новогодней красавицей: как правильно утилизировать живую ель после праздников

\Рассказываем, как правильно утилизировать живое новогоднее дерево

ТехИнсайдер
Какие места в самолете самые безопасные: мнение экспертов Какие места в самолете самые безопасные: мнение экспертов

Какие места в самолете лучше выбирать?

VOICE
Открыть в приложении