Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Малиновый фреш и стеклянные дожди: самые необычные факты о космосе или что еще скрывает от нас необъятная Вселенная Малиновый фреш и стеклянные дожди: самые необычные факты о космосе или что еще скрывает от нас необъятная Вселенная

Невероятных факты о космосе, которые заставят задуматься об удивительном мире

ТехИнсайдер
Туристы сходят с ума от этого озера: топ самых впечатляющих фактов о самом чудесном даре природы — Байкале Туристы сходят с ума от этого озера: топ самых впечатляющих фактов о самом чудесном даре природы — Байкале

Это уникальное место на Земле интересует не только туристов, но и ученых

ТехИнсайдер
Ныть — хорошо и полезно: 5 аргументов «за» Ныть — хорошо и полезно: 5 аргументов «за»

Почему всем нам иногда нужно хорошенько поныть?

Psychologies
Какие животные будут первыми на Луне и Марсе Какие животные будут первыми на Луне и Марсе

Найдется ли в колониях на Масре и Луне место животным?

ТехИнсайдер
10 ран, которые наносят детям родители-нарциссы 10 ран, которые наносят детям родители-нарциссы

Негативные последствия, которые могут иметь нарциссические черты родителей

Psychologies
Ошибочные машинные переводы забивают интернет словесным мусором Ошибочные машинные переводы забивают интернет словесным мусором

Как машинные переводы влияют на Интернет и пользователей?

ТехИнсайдер
Геоархеологи отследили миграцию исчезнувшего нильского рукава на восток от плато Гиза Геоархеологи отследили миграцию исчезнувшего нильского рукава на восток от плато Гиза

Как изменялcя гидрологический режим в районе «озера Хуфу»

N+1
Как лечат в центрах наркологической помощи: 5 основных этапов Как лечат в центрах наркологической помощи: 5 основных этапов

Психиатр-нарколог о том, какие именно методы борьбы с зависимостью существуют

Psychologies
«Если любовь требует усилий, она ненастоящая»: 2 типичные ошибки «Если любовь требует усилий, она ненастоящая»: 2 типичные ошибки

Если у нас проблемы, значит, не стоит быть вместе, верно?

Psychologies
«Не пытайтесь изменить тех, кто не хочет меняться»: как правильно помогать «Не пытайтесь изменить тех, кто не хочет меняться»: как правильно помогать

Всегда ли стоит помогать другим?

Psychologies
Без глютена Без глютена

Мифы о безглютеновой диете, которые давно пора развеять

Лиза
Как поэт Лев Рубинштейн всю жизнь сохранял в себе ребенка и дарил окружающим надежду Как поэт Лев Рубинштейн всю жизнь сохранял в себе ребенка и дарил окружающим надежду

Лев Рубинштейн — человек, который не боялся называть вещи своими именами

Forbes
А у вас так же? Узнайте признаки низкой самооценки у интеллигентных людей! А у вас так же? Узнайте признаки низкой самооценки у интеллигентных людей!

Даже самые умные и мудрые люди страдают от низкой самооценки

ТехИнсайдер
Свитчи для механической клавиатуры: что это такое, какими бывают и какие выбрать Свитчи для механической клавиатуры: что это такое, какими бывают и какие выбрать

Что такое свитчи и почему стоит обращать на них внимание при выборе "клавы"

CHIP
Приключения Робота в мире животных Приключения Робота в мире животных

«Мечты Робота»: веселая и печальная история о борьбе с одиночеством

Weekend
Песнь льда: как богатая наследница Луиза Арнер-Бойд покоряла Арктику Песнь льда: как богатая наследница Луиза Арнер-Бойд покоряла Арктику

Луиза Арнер-Бойд: женщина, которая не боялась ни холода, ни предубеждений

Forbes
Почему намерзает задняя стенка холодильника: решаем проблему самостоятельно Почему намерзает задняя стенка холодильника: решаем проблему самостоятельно

Из-за чего намерзает лед на задней стенке холодильника и что делать

ТехИнсайдер
Норвегия первой одобрила бурение морского дна для добычи полезных ископаемых. Морские экосистемы могут пострадать Норвегия первой одобрила бурение морского дна для добычи полезных ископаемых. Морские экосистемы могут пострадать

Норвегия — первая страна, разрешившая глубоководную добычу полезных ископаемых

ТехИнсайдер
То самое чувство моря То самое чувство моря

Элегантная яхта с корпусом из стали и надстройкой из легкого сплава

Y Magazine
Что стоит за желанием поздравить бывших партнеров: 4 мотива Что стоит за желанием поздравить бывших партнеров: 4 мотива

Почему в праздничные дни мы чаще вспоминаем своих бывших партнеров?

Psychologies
10 грампластинок, которые были в каждом советском доме 10 грампластинок, которые были в каждом советском доме

Музыка, которая звучала в каждом доме СССР

Maxim
Модный аксессуар: для чего мужчины высшего общества носили широкие воротники Модный аксессуар: для чего мужчины высшего общества носили широкие воротники

Почему европейцы носили широкие воротники на ежедневной основе?

ТехИнсайдер
Комфорт и домашняя еда: как лауреатка «Грэмми» заработала $20 млн на пирогах Комфорт и домашняя еда: как лауреатка «Грэмми» заработала $20 млн на пирогах

Как певица Патти Лабель покорила американцев своими домашними рецептами

Forbes
Жизнь без любимого: правда ли, что романтическая любовь умерла, а моногамия больше не в моде? Разбираемся с экспертами Жизнь без любимого: правда ли, что романтическая любовь умерла, а моногамия больше не в моде? Разбираемся с экспертами

Действительно ли любовь умерла и если да, то что пришло ей на смену

Правила жизни
Как сериал «Криминальное прошлое» говорит о насилии и расизме без морализаторства Как сериал «Криминальное прошлое» говорит о насилии и расизме без морализаторства

«Криминальное прошлое» — сериал о домашнем насилии и diversity

Forbes
А вы пробовали? Вот как анаболические стероиды вредят здоровью! А вы пробовали? Вот как анаболические стероиды вредят здоровью!

Чем ААС могут быть опасными и почему риски обычно перевешивают любую пользу

ТехИнсайдер
Создан ракетный двигатель, который сжигает себя как топливо Создан ракетный двигатель, который сжигает себя как топливо

Инженеры построили и запустили первый самосжигающий ракетный двигатель

ТехИнсайдер
О чем‑то большем О чем‑то большем

Infynito 90 — это первая яхта верфи, построенная по новой технологии F.S.E.A.

Y Magazine
Правила жизни Аркадия Райкина Правила жизни Аркадия Райкина

Артист эстрады, сатирик, умер 17 декабря 1987 года в возрасте 76 лет в Москве

Правила жизни
Как научиться играть на гитаре быстро и без скуки Как научиться играть на гитаре быстро и без скуки

Как подойти к обучению на гитаре так, чтобы не терять задор и мотивацию?

ТехИнсайдер
Открыть в приложении