Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как устроен самый длинный в мире аммиакопровод? Как устроен самый длинный в мире аммиакопровод?

Что такое аммиакопровод и нужно ли его бояться?

Популярная механика
Стрижка Гитлера, укладка «дурочка» и еще 3 прически, которые запрещались в СССР Стрижка Гитлера, укладка «дурочка» и еще 3 прически, которые запрещались в СССР

Советские представления о красоте были подвержены жестким стандартам

Cosmopolitan
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Мир, в котором мы живем: как данные могут спасти человечество Мир, в котором мы живем: как данные могут спасти человечество

Дата-грамотность — ключевой навык сегодняшнего дня

Вокруг света
Большие перемены Большие перемены

Как оставаться рядом при “Большой Перемене"

ПУСК
Пианист Алексей Любимов: «Для людей искусства никаких приказов нет» Пианист Алексей Любимов: «Для людей искусства никаких приказов нет»

Пианист Алексей Любимов — о контекстах пространства и времени, единении

РБК
Комедии, фильмы из детства и «Властелин колец»: как вылечить весеннюю апатию с помощью кино Комедии, фильмы из детства и «Властелин колец»: как вылечить весеннюю апатию с помощью кино

Как хорошее кино может помочь справиться с плохим настроением?

Популярная механика
Новые правила: как сохранить потенциал компании при смене владельцев Новые правила: как сохранить потенциал компании при смене владельцев

Одна из самых болезненных тем — смена собственников международных компаний

Inc.
Одна вокруг света: оползень в горах и кофе в джунглях Одна вокруг света: оползень в горах и кофе в джунглях

Путешественницы вынуждены совершить объезд в сотни километров из-за оползня

Forbes
Лобная доля мозга не смогла научиться языку без височной Лобная доля мозга не смогла научиться языку без височной

Наличие височной доли — обязательное условие для обработки языка лобной долей

N+1
Синдром Саманты: почему женщин унижают и заставляют 9 месяцев ждать сумку Birkin Синдром Саманты: почему женщин унижают и заставляют 9 месяцев ждать сумку Birkin

Биркин — вещь почти мифическая и очень, очень труднодостижимая

Cosmopolitan
Стрии: откуда берутся растяжки на коже и как от них избавиться Стрии: откуда берутся растяжки на коже и как от них избавиться

Растяжки на коже встречаются у большинства людей независимо от пола и возраста

РБК
Знатные авары оказались генетически близки древним монголам Знатные авары оказались генетически близки древним монголам

Знатные авары происходили от северо-восточных азиатов

N+1
Кем ты будешь, когда вырастешь: чем молодые предприниматели могут помочь подросткам Кем ты будешь, когда вырастешь: чем молодые предприниматели могут помочь подросткам

Молодые предприниматели делятся опытом с подростками и помогают им найти себя

Forbes
Высокий «Пульс» Высокий «Пульс»

Эдуарду Нетылько удалось стать крупнейшим игроком фармацевтической дистрибуции

Forbes
Кино, вино и домино: почему у каждого в паре должны быть личные друзья и увлечения Кино, вино и домино: почему у каждого в паре должны быть личные друзья и увлечения

Почему важно не забывать о своих личных увлечениях в паре?

Psychologies
Тонкий вопрос: опасно ли беременеть при молочнице? Тонкий вопрос: опасно ли беременеть при молочнице?

Опасно ли беременеть на фоне проблем с микрофлорой интимной зоны?

Cosmopolitan
Что произойдет, если исчезнут комары Что произойдет, если исчезнут комары

Что будет, если завтра в мире не останется ни одного комара?

Вокруг света
Совсем седая! Как состарилась голливудская красотка, бывшая жена Николаса Кейджа Совсем седая! Как состарилась голливудская красотка, бывшая жена Николаса Кейджа

Время не щадит никого — посмотри, как Патриция Аркетт выглядит сейчас!

VOICE
Принцесса скрывается от папарацци: как Елизавета II ездила в Париж в 1948 году Принцесса скрывается от папарацци: как Елизавета II ездила в Париж в 1948 году

Отрывок из книги «Елизавета II. Королева мира. Монарх и государственный деятель»

Forbes
Сосновые опилки помогли обнаружить аномальный гравитационный градиент температуры Сосновые опилки помогли обнаружить аномальный гравитационный градиент температуры

Ученые судили о разнице температур с помощью нескольких термопар

N+1
Как правильно чистить смартфон от загрязнений Как правильно чистить смартфон от загрязнений

Мобильный телефон называют одним из самых загрязнённых предметов в доме

Популярная механика
Сколько стоит путевка в «ад», зачем русские разморозили доисторических червей и еще 25 крутых фактов Сколько стоит путевка в «ад», зачем русские разморозили доисторических червей и еще 25 крутых фактов

27 шокирующих, забавных и немного грустных фактов

Популярная механика
Робингудская «почемучка» Робингудская «почемучка»

Отвечаем на наиболее распространённые вопросы о Робин Гуде и Средних веках

Дилетант
Do you speak «рунглиш»? Какие языки должен выучить космонавт перед полетом на МКС Do you speak «рунглиш»? Какие языки должен выучить космонавт перед полетом на МКС

Для покорения космических просторов требуется еще и знание иностранного языка

Популярная механика
Нефть — живая и мертвая: откуда берется черное золото Нефть — живая и мертвая: откуда берется черное золото

Прогноз о скором истощении запасов нефти специалисты воспринимают по-разному

ТехИнсайдер
Склонность птиц притворяться ранеными ради защиты гнезда от хищников оказалась широко распространенной Склонность птиц притворяться ранеными ради защиты гнезда от хищников оказалась широко распространенной

Некоторые птицы обманывают хищников, притворяясь, что у них сломано крыло

N+1
Наталья Земцова: «Постоянно нахожусь в состоянии натянутой струны» Наталья Земцова: «Постоянно нахожусь в состоянии натянутой струны»

Что такое счастливый брак?

Караван историй
«Вымершая» австралийская орхидея 22 года скрывалась под другим именем «Вымершая» австралийская орхидея 22 года скрывалась под другим именем

Орхидея Prasophyllum morganii считалась вымершей почти 90 лет назад

N+1
Глава Flip Animation Studio — о спросе на российскую анимацию Глава Flip Animation Studio — о спросе на российскую анимацию

Глава Flip Animation Studio — как детские мечты становятся реальностью

РБК
Открыть в приложении