Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Когда можно сесть за руль после алкоголя: сколько промилле разрешено Когда можно сесть за руль после алкоголя: сколько промилле разрешено

Как определить, когда после застолья можно садиться за руль?

РБК
Вершки и корешки с историей: 9 древнейших овощей на нашей грядке Вершки и корешки с историей: 9 древнейших овощей на нашей грядке

Какой путь проделали овощные культуры, прежде чем оказаться на наших грядках?

Вокруг света
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Куличи Куличи

К этому празднику готовятся заранее. Красят яйца, делают пасхи и пекут куличи

Здоровье
Легче лёгкого Легче лёгкого

Воздушный интерьер с обилием глянцевых поверхностей и натуральных материалов

SALON-Interior
3 вопроса на собеседовании, которыми обманывают всех, 3 осторожно! 3 вопроса на собеседовании, которыми обманывают всех, 3 осторожно!

HR-специалист оценивает всё, что ты делаешь и что говоришь

Cosmopolitan
Краткая история сала: кто и в какой стране придумал его солить (и 4 рецепта с салом) Краткая история сала: кто и в какой стране придумал его солить (и 4 рецепта с салом)

Жирность и питательность придавал блюдам национальной кухни свиной жир

Вокруг света
Вы уверены, что все про них знаете? 15 занимательных фактов про собак Вы уверены, что все про них знаете? 15 занимательных фактов про собак

Почти в каждой квартире есть сожитель, который слегка оброс шерстью

Популярная механика
Любопытство и страсть: книги о женщинах-ученых и первооткрывательницах Любопытство и страсть: книги о женщинах-ученых и первооткрывательницах

Книги о женщинах, проводивших научные исследования и совершавших открытия

Forbes
Алиса Вокс. Алиса из Ленинграда Алиса Вокс. Алиса из Ленинграда

Нужно отдать должное Шнурову, он был крутым конъюнктурщиком — в хорошем смысле

Коллекция. Караван историй
Когда терапевт ранит. Интервью с клиническим психологом Екатериной Оксанен о травмирующей психотерапии Когда терапевт ранит. Интервью с клиническим психологом Екатериной Оксанен о травмирующей психотерапии

Клинический психолог — что такое абьюзивная психотерапия?

СНОБ
Барбара Шер: «Кто сказал, что мечты не приносят денег?» Барбара Шер: «Кто сказал, что мечты не приносят денег?»

Барбара Шер — как страшно начинать даже то, что вам нравится

Psychologies
Зачем мы развешиваем дома фотографии близких? Зачем мы развешиваем дома фотографии близких?

Фотографии на кухне, в спальне и кабинете: прошлое, которое всегда с нами

Psychologies
Из каторжан в губернаторы: жизнь и необыкновенные приключения Федора Соймонова Из каторжан в губернаторы: жизнь и необыкновенные приключения Федора Соймонова

Жизнь Федора Ивановича Соймонова напоминала остросюжетный роман

Вокруг света
Диета минус 60: принципы, меню, рецепты и отзывы Диета минус 60: принципы, меню, рецепты и отзывы

Популярная «Диета минус 60»: действительно ли она работает?

VOICE
Йога для начинающих: 10 простых асан, советы тренера Йога для начинающих: 10 простых асан, советы тренера

Одно из важных преимуществ йоги — ее доступность каждому

РБК
Самка нетопыря преодолела 2486 километров из России во Францию и установила рекорд миграции для рукокрылых Самка нетопыря преодолела 2486 километров из России во Францию и установила рекорд миграции для рукокрылых

Предыдущий рекорд составлял 2224 километров.

N+1
Свет лопающихся пузырьков оказался неклассическим Свет лопающихся пузырьков оказался неклассическим

Канадские физики детально исследовали статистические свойства света

N+1
«Империя наций: Этнографическое знание и формирование Советского Союза» «Империя наций: Этнографическое знание и формирование Советского Союза»

Как ученые помогали вырабатывать принципы устройства СССР

N+1
Веселящий газ позволил получать фенолы каталитически Веселящий газ позволил получать фенолы каталитически

Химики научились использовать выбросы веселящего газа в каталитических реакциях

N+1
Со мной одной крови Со мной одной крови

Сева Кущинский передает привет из вены с любовью

Men’s Health
Самый смертоносный остров на Земле: бывший остров Возрождения на границе Казахстана и Узбекистана Самый смертоносный остров на Земле: бывший остров Возрождения на границе Казахстана и Узбекистана

СССР создал опаснейшее место, и оно до сих пор в полном расцвете злодейских сил

Maxim
«Принять и полюбить себя»: 8 основных шагов «Принять и полюбить себя»: 8 основных шагов

Как по-настоящему принять себя — иногда неуверенного и ленивого человека?

Psychologies
Наука в мире фэнтези: как Брендон Сандерсон создает магические системы Наука в мире фэнтези: как Брендон Сандерсон создает магические системы

Магия и наука – это полные противоположности? Нет!

Популярная механика
В спинном мозге мышей обнаружили нейроны приятных прикосновений В спинном мозге мышей обнаружили нейроны приятных прикосновений

Исследователи изучили один из типов нейронов медленных волокон в спинном мозге

N+1
«Провинция»: что выдает девушку из низшего социального класса «Провинция»: что выдает девушку из низшего социального класса

Какие черты отличают истинных аристократов от среднего класса?

Cosmopolitan
Король коммуникации: 5 книг о том, как правильно говорить и слушать Король коммуникации: 5 книг о том, как правильно говорить и слушать

Эффективная коммуникация — это значительная часть успеха в любом деле

Maxim
5 мифов об удобрениях, которые сэкономят вам деньги 5 мифов об удобрениях, которые сэкономят вам деньги

Большинство книг и видеороликов тиражируют одни и те же мифы об удобрениях

Популярная механика
10 интересных фактов о 10 интересных фактов о

Какой путь прошла The Coca-Cola Company, прежде, чем стать популярной?

ТехИнсайдер
Есть ли жизнь без БАДов Есть ли жизнь без БАДов

О значении БАДов и о том, как улучшить самочувствие без них

СНОБ
Открыть в приложении