Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему компьютер постоянно перегревается? 7 способов охладить устройство Почему компьютер постоянно перегревается? 7 способов охладить устройство

Есть ли способы охладить лэптоп?

ТехИнсайдер
Математика в аграрной практике Математика в аграрной практике

Как разработать стратегию цепочек поставок в АПК

Агроинвестор
«Сама виновата?»: о чем рассказывает сериал, снятый по истории Маргариты Грачевой «Сама виновата?»: о чем рассказывает сериал, снятый по истории Маргариты Грачевой

Почему нужно постоянно напоминать о недопустимости виктимблейминга?

Psychologies
5 книг для подростков, которые помогут найти ответы на главные вопросы 5 книг для подростков, которые помогут найти ответы на главные вопросы

Книги, которые помогут подростку разобраться с чувствами

Psychologies
Тайна одной профессии. Кто такие заклинатели червей и чем они напоминают охотников на вампиров Тайна одной профессии. Кто такие заклинатели червей и чем они напоминают охотников на вампиров

Глава из книги-расследования о природе поведения разных живых существ

СНОБ
Можно ли заниматься спортом, если ты простужена: «правило шеи», которое следует знать Можно ли заниматься спортом, если ты простужена: «правило шеи», которое следует знать

Принцип, позволяющий определить, допустимы ли занятия спортом при простуде

VOICE
В змеином клубке В змеином клубке

Что делать, если коллеги начали распускать о тебе слухи и сплетни?

Лиза
Амбассадор искусственного интеллекта: как певица Grimes стала техно-визионером Амбассадор искусственного интеллекта: как певица Grimes стала техно-визионером

Как певица и медиахудожница Grimes стала одной из влиятельных фигур в сфере ИИ

Forbes
9 вещей, которые нас убивают в квартирах и офисах 9 вещей, которые нас убивают в квартирах и офисах

Хищные вещи человека, которые притворяются безвредными, но могут стать опасными

Maxim
Стесняюсь спросить: все, что вы хотели знать о жире в организме Стесняюсь спросить: все, что вы хотели знать о жире в организме

Для чего нужен жир в организме и можно ли от него избавиться навсегда?

Правила жизни
Мировая криминалистика пошатнулась. ИИ доказал, что отпечатки пальцев неуникальны Мировая криминалистика пошатнулась. ИИ доказал, что отпечатки пальцев неуникальны

Искусственный интеллект оспорил одну из «аксиом» криминалистики

ТехИнсайдер
Богатырский конь Богатырский конь

Лошадей, которые могут тяжеленные грузы возить, выводят с давних времен

Зеркало Мира
Как металл превращается в крыло Как металл превращается в крыло

Как алюминиевые сплавы стали основным материалом в авиастроении

Наука и техника
Поцелуй на Таймс-сквер: какая история скрывается за культовой фотографией моряка и медсестры Поцелуй на Таймс-сквер: какая история скрывается за культовой фотографией моряка и медсестры

Простой моряк, целующий любимую девушку на Таймс-сквер в Нью-Йорке? А вот и нет!

ТехИнсайдер
7 устаревших правил свиданий для женщин 7 устаревших правил свиданий для женщин

Неужели женщинам нужно искусственно пробуждать интерес мужчин на свиданиях?

Psychologies
Правила жизни Аркадия Райкина Правила жизни Аркадия Райкина

Артист эстрады, сатирик, умер 17 декабря 1987 года в возрасте 76 лет в Москве

Правила жизни
Вы поразитесь! Вот как военный инженер из США изобрел пружинку «Слинки»: история игрушки Вы поразитесь! Вот как военный инженер из США изобрел пружинку «Слинки»: история игрушки

Не всем известно, что знаменитая пружинка «Слинки» была «случайным изобретением»

ТехИнсайдер
Почему ни в коем случае нельзя сливать масло в канализацию: кто такие жирберги, и зачем их едят китайцы? Почему ни в коем случае нельзя сливать масло в канализацию: кто такие жирберги, и зачем их едят китайцы?

Как правильно утилизировать масло?

ТехИнсайдер
Интересный факт! Вот что происходит в мозгу во время мечтаний наяву Интересный факт! Вот что происходит в мозгу во время мечтаний наяву

«Мечты наяву» могут играть роль в пластичности мозга

ТехИнсайдер
Почему стоит заниматься спортом под музыку? Почему стоит заниматься спортом под музыку?

Кто из нас не хотел бы такой же рельефный пресс, как у Генри Кавилла?

Maxim
Дорогие кости: почему скелеты динозавров и древних существ стоят миллионы долларов Дорогие кости: почему скелеты динозавров и древних существ стоят миллионы долларов

Почему кости динозавров вызывают такой ажиотаж на арт-рынке?

Forbes
Выученная беспомощность: почему мы думаем, что от нас ничего не зависит Выученная беспомощность: почему мы думаем, что от нас ничего не зависит

Насколько мы способны повлиять на свою жизнь?

Psychologies
История другого континента: почему столица США — Вашингтон, а не Нью-Йорк История другого континента: почему столица США — Вашингтон, а не Нью-Йорк

Почему столица США «переехала» из Нью-Йорка в Вашингтон?

ТехИнсайдер
Узнайте, если вы «полимат»! Вот что это такое и кого можно так называть Узнайте, если вы «полимат»! Вот что это такое и кого можно так называть

Вы более рациональный или интуитивный мыслитель?

ТехИнсайдер
Морское пиратство сокращается все последние 10 лет. Но еще есть горячие точки Морское пиратство сокращается все последние 10 лет. Но еще есть горячие точки

Как обстоят дела с морским пиратством по всему миру?

ТехИнсайдер
Видеоигры провоцируют на жестокость в реальной жизни? Ученые дали ответ! Видеоигры провоцируют на жестокость в реальной жизни? Ученые дали ответ!

Играет ли насилие в видеоиграх какую-либо роль в эмпатии людей в реальности?

ТехИнсайдер
Кинофестиваль для дебютантов: как «Санденс» уже 40 лет открывает новые имена Кинофестиваль для дебютантов: как «Санденс» уже 40 лет открывает новые имена

Почему кинофестиваль «Санденс» все еще притягивает зрителей и режиссеров?

Forbes
Бедная Газа Бедная Газа

Как живет сектор Газа до и после теракта 7 октября

Монокль
Доступность пищи позволила орангутанам-мигрантам больше учиться у местных Доступность пищи позволила орангутанам-мигрантам больше учиться у местных

От чего зависит социальное обучение у орангутанов-мигрантов?

N+1
Индексы скорости и нагрузки шин: что они означают? Расшифровка Индексы скорости и нагрузки шин: что они означают? Расшифровка

Индекс скорости и нагрузки шин — что это за параметры, почему их нужно учитывать

РБК
Открыть в приложении