Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Зачем мы отправляем друг другу откровенные фото Зачем мы отправляем друг другу откровенные фото

Что побуждает заниматься этим женщин и какие мотивы у мужчин?

Psychologies
5 продуктов для завтрака, которые помогут похудеть 5 продуктов для завтрака, которые помогут похудеть

Как сделать свой завтрак самым полезным приемом пищи за день

Популярная механика
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Подвески из вертикального детского захоронения эпохи неолита изготовили из ископаемых раковин Подвески из вертикального детского захоронения эпохи неолита изготовили из ископаемых раковин

Археологи исследовали погребальный инвентарь, обнаруженный на Алтае в 1982 году

N+1
11 фильмов о человеке в эпоху экономического кризиса 11 фильмов о человеке в эпоху экономического кризиса

Фильмы, в которых люди важнее денег, а финансовые кризисы — лишь пейзаж

Weekend
Возить придётся самолётами вместо фур, а это другие деньги: что меняется в цветочном бизнесе без импорта из Нидерландов Возить придётся самолётами вместо фур, а это другие деньги: что меняется в цветочном бизнесе без импорта из Нидерландов

Какой теперь будет логистика и как это повлияет на наличие и качество цветов

VC.RU
Марк Богатырев. Перезагрузка Марк Богатырев. Перезагрузка

Мне повезло испытать в жизни такую настоящую, трогательную, большую любовь

Коллекция. Караван историй
Как перестать сравнивать себя с другими: 5 несложных шагов Как перестать сравнивать себя с другими: 5 несложных шагов

Лучше я или хуже? Достиг ли я того, чего достигли другие?

Psychologies
«Все, что я делал до, не имеет сейчас смысла». Ладо Кватания — о переходе от клипов к полному метру, борьбе конформизма с идеализмом и сравнениях «Все, что я делал до, не имеет сейчас смысла». Ладо Кватания — о переходе от клипов к полному метру, борьбе конформизма с идеализмом и сравнениях

Режиссер Ладо Кватания — о “Казни”, сравнениях с Финчером и корейцами

Esquire
5 лучших стилей тренировки для похудения: эксперты рассказали, как выбрать подходящий способ сжечь лишний вес 5 лучших стилей тренировки для похудения: эксперты рассказали, как выбрать подходящий способ сжечь лишний вес

Подборка тренировочных стилей для избавления от целлюлита и толcтых животов

Популярная механика
Кристиан Гайи: «Би-боп». Отрывок из повести «Последняя любовь» Кристиан Гайи: «Би-боп». Отрывок из повести «Последняя любовь»

Отрывок из «Последней любви» о музыканте, которому осталось жить пару дней

СНОБ
Одна вокруг света: кирпичная фабрика в горах и индейцы кечуа-отавала Одна вокруг света: кирпичная фабрика в горах и индейцы кечуа-отавала

165-я серия о кругосветном путешествии москвички Ирины Сидоренко: Эквадор

Forbes
Аксолотль: 7 интереных фактов о «водяном чудище» Аксолотль: 7 интереных фактов о «водяном чудище»

Они отращивают конечности, могут страдать каннибализмом и жить более 10 лет

ТехИнсайдер
5 заболеваний, о которых может сигнализировать наша кожа 5 заболеваний, о которых может сигнализировать наша кожа

Как определить серьёзную болезнь, просто внимательно изучив состояние кожи

Популярная механика
Совсем седая! Как состарилась голливудская красотка, бывшая жена Николаса Кейджа Совсем седая! Как состарилась голливудская красотка, бывшая жена Николаса Кейджа

Время не щадит никого — посмотри, как Патриция Аркетт выглядит сейчас!

VOICE
Поворот к любви и дружбе: как «новая этика» и кризис влияют на нас Поворот к любви и дружбе: как «новая этика» и кризис влияют на нас

Почему сегодня люди ищут настоящую дружбу и искреннюю любовь?

Psychologies
Зачем мы развешиваем дома фотографии близких? Зачем мы развешиваем дома фотографии близких?

Фотографии на кухне, в спальне и кабинете: прошлое, которое всегда с нами

Psychologies
8 фильмов о том, есть ли жизнь после измены 8 фильмов о том, есть ли жизнь после измены

Подборка фильмов о том, как переживают измены в разных уголках планеты

Psychologies
Назад, в прошлое: модные приёмы 80-х, которые стоит повторить сегодня Назад, в прошлое: модные приёмы 80-х, которые стоит повторить сегодня

Модные "фишки" 80-х, которые круто выгуливать и сегодня

VOICE
Отрывок из книги Лианы Мориарти «Яблоки не падают никогда» Отрывок из книги Лианы Мориарти «Яблоки не падают никогда»

Публикуем отрывок из романа «Яблоки не падают никогда» Лианы Мориарти

СНОБ
7 хитростей для «ленивого» похудения 7 хитростей для «ленивого» похудения

Для больших успехов иногда достаточно очень маленьких изменений

Популярная механика
Тренд на остановку по требованию: чем опасен отказ от менструации Тренд на остановку по требованию: чем опасен отказ от менструации

Как методы, избавляющие от менструации, влияют на здоровье

VOICE
Как готовили наложниц для гаремов: историки нашли старинные документы Как готовили наложниц для гаремов: историки нашли старинные документы

Времена гаремов давно прошли, но записи тех дней до сих пор сохранились

Cosmopolitan
Бахромчатогубые листоносы вспомнили связанный с едой звук четыре года спустя Бахромчатогубые листоносы вспомнили связанный с едой звук четыре года спустя

Память этих рукокрылых такая же хорошая, как у врановых и приматов

N+1
Картуш и его шайка Картуш и его шайка

«Нет ни дня, чтобы не казнили кого-то из шайки Картуша»

Дилетант
7 фактов о Великобритании 7 фактов о Великобритании

Куда отправиться за привидениями и почему британские собаки пахнут бергамотом?

Лиза
Директор Фонда Хабенского Екатерина Бартош — о благотворительности Директор Фонда Хабенского Екатерина Бартош — о благотворительности

Екатерина Бартош — о работе с холодной головой и важности помощи фандрайзинга

СНОБ
Арктика стремительно тает: масштабы глобального изменения климата в 7 снимках Арктика стремительно тает: масштабы глобального изменения климата в 7 снимках

Почему и как Арктика тает?

ТехИнсайдер
Над злобой дня Над злобой дня

Книги о столкновении человека со злом, которые стоит перечитать

Weekend
Можно ли по-научному объяснить искусство левитации: разоблачение трюка с зависанием человека в воздухе Можно ли по-научному объяснить искусство левитации: разоблачение трюка с зависанием человека в воздухе

Левитация — это магия? Нет, чистая механика

ТехИнсайдер
Открыть в приложении