Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Малиновый фреш и стеклянные дожди: самые необычные факты о космосе или что еще скрывает от нас необъятная Вселенная Малиновый фреш и стеклянные дожди: самые необычные факты о космосе или что еще скрывает от нас необъятная Вселенная

Невероятных факты о космосе, которые заставят задуматься об удивительном мире

ТехИнсайдер
Мороз по коже: лютые и дикие способы, которыми народ в СССР согревался, когда не было отопления Мороз по коже: лютые и дикие способы, которыми народ в СССР согревался, когда не было отопления

Газеты, рейтузы и ковры: как согревались люди в СССР

Maxim
Научный способ решения любых проблем Научный способ решения любых проблем

Статья, которая упрощает любое дело в жизни

Maxim
«Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия «Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия

Глава из книги «Я все! Почему мы выгораем на работе и как это изменить»

Forbes
Расколоть на счастье Расколоть на счастье

Ни один орех не пользуется такой любовью, как грецкий

Лиза
Зачем на самом деле кошки трутся о человека и как они проявляют любовь: 50 самых удивительных фактов об этих созданиях Зачем на самом деле кошки трутся о человека и как они проявляют любовь: 50 самых удивительных фактов об этих созданиях

Задавались ли вы вопросом, насколько хорошо вы знаете своих пушистых домочадцев?

ТехИнсайдер
На 5000-летней керамике нашли остатки растительной пищи На 5000-летней керамике нашли остатки растительной пищи

Археологи исследовали 21 фрагмент керамической посуды

N+1
Получите, распишитесь Получите, распишитесь

Как оформить электронную подпись и где ей можно пользоваться

Лиза
Советские знаменитости, которые родились в звездных семьях Советские знаменитости, которые родились в звездных семьях

Непо-бейбис СССР: вспоминаем таланты, которые родились у знаменитых родителей

Maxim
От поражения до победы От поражения до победы

Йом-кипур в Израиле отмечают практически все, даже не очень верующие люди

Дилетант
Как держать аскезу, чтобы твое желание точно сбылось Как держать аскезу, чтобы твое желание точно сбылось

Что такое аскеза и зачем она нужна?

VOICE
«Чувство, знакомое с глубокого детства»: в чем главный секрет никотиновой зависимости «Чувство, знакомое с глубокого детства»: в чем главный секрет никотиновой зависимости

Почему курение так быстро становится частью жизни человека?

Psychologies
Про рыбов и котиков: можно ли кормить кошек рыбой? Про рыбов и котиков: можно ли кормить кошек рыбой?

Откуда у котиков пристрастие к рыбе, если их предки никогда её не ели?

ТехИнсайдер
«Лицо не соответствует душе»: как распознать серийного маньяка — 10 признаков «Лицо не соответствует душе»: как распознать серийного маньяка — 10 признаков

Глава из книги Антуана Касса и Ирины Капитановой «Феномен российских маньяков»

Psychologies
ТОП-10 самых счастливых стран в мире: новый отчет за 2023 год ТОП-10 самых счастливых стран в мире: новый отчет за 2023 год

Центр Гэллапа оценил, какие страны являются самыми счастливыми в мире

ТехИнсайдер
Бег на короткие дистанции: техника, противопоказания, советы экспертов Бег на короткие дистанции: техника, противопоказания, советы экспертов

Бег на короткие дистанции требует определенного уровня подготовки

РБК
Как управлять вниманием людей: 4 вида ораторских «крючков» Как управлять вниманием людей: 4 вида ораторских «крючков»

Чужое внимание бывает необходимо в самых разных ситуациях

Psychologies
Почему возле каждого барбершопа висят трехцветные столбики: история Barber’s pole Почему возле каждого барбершопа висят трехцветные столбики: история Barber’s pole

Это не обычная декорация, а символ парикмахерских, появившийся в средние века

ТехИнсайдер
Совсем другая игра: как женщины совершили революцию на рынке кроссовок Совсем другая игра: как женщины совершили революцию на рынке кроссовок

В мире производства спортивной обуви наступает новая, женская, эра

Forbes
То самое чувство моря То самое чувство моря

Элегантная яхта с корпусом из стали и надстройкой из легкого сплава

Y Magazine
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Как-то раз под Рождество: российские звезды с непростой судьбой, которые родились 7 января Как-то раз под Рождество: российские звезды с непростой судьбой, которые родились 7 января

Появиться на свет в Рождество – еще не гарантия безоблачной жизни

VOICE
Городские огороды обвинили в повышенных выбросах углекислого газа Городские огороды обвинили в повышенных выбросах углекислого газа

Огороды в городе стали причиной повышенного выброса углекислого газа

N+1
Пацан говорит: Леон Кемстач — о «Слове пацана», уличных драках и первом гонораре Пацан говорит: Леон Кемстач — о «Слове пацана», уличных драках и первом гонораре

Леон Кемстач: на кого ориентируется в профессии, на что потратил первый гонорар?

Правила жизни
Кипит суп – котелок друг, стук-бряк – котелок враг! Кипит суп – котелок друг, стук-бряк – котелок враг!

Думаете, котел – банальная штука? Думаете, он только для похода и рыбалки?

Зеркало Мира
Мем на $12 млн: в США показали одну из лучших спонсорских активаций в истории Мем на $12 млн: в США показали одну из лучших спонсорских активаций в истории

Что такое студенческие боулы и как они могут принести спонсорам миллионы?

Forbes
Затянувшееся межсезонье Апсны: 30 лет после войны Затянувшееся межсезонье Апсны: 30 лет после войны

Почему Абхазию пока не превратили в туристический рай

Монокль
Нулевой эффект: 4 популярные домашние маски, которые сделают только хуже Нулевой эффект: 4 популярные домашние маски, которые сделают только хуже

Развенчиваем мифы о домашних ритуалах красоты

VOICE
«Царь дефицита»: как и за что судили директора «Елисеевского» гастронома «Царь дефицита»: как и за что судили директора «Елисеевского» гастронома

На судебном заседании по делу Гастронома №1 собрались сотрудники КГБ...

ТехИнсайдер
Палеоантропологи описали новый подвид южноафриканских парантропов Палеоантропологи описали новый подвид южноафриканских парантропов

Палеоантропологи предложили пересмотреть систематику гоминин

N+1
Открыть в приложении