Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Урал, любовь моя Урал, любовь моя

5 абсолютно разных граней Большой уральской тропы

2Xplore
Что такое любовь к себе и зачем она нужна, рассказывает коуч Ирина Прачёва Что такое любовь к себе и зачем она нужна, рассказывает коуч Ирина Прачёва

Что такое «любить себя» непонятно в принципе

Cosmopolitan
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
6 продуктов для здоровья кишечника: почему они важны 6 продуктов для здоровья кишечника: почему они важны

В каких продуктах содержится больше всего пробиотиков?

Популярная механика
Русский путь через мост Sant’Angelo. Памяти Александра Тимофеевского Русский путь через мост Sant’Angelo. Памяти Александра Тимофеевского

Воспоминания о Александре Тимофеевском

СНОБ
10 советов, которые однажды могут спасти вам жизнь 10 советов, которые однажды могут спасти вам жизнь

Мы очень надеемся, что эти советы вам никогда не пригодятся

Популярная механика
«Бывший муж привел нашу маленькую дочь на встречу с любовницей» «Бывший муж привел нашу маленькую дочь на встречу с любовницей»

Как сделать минимальным ущерб от развода для маленького ребенка?

Psychologies
Откуда взялся тот самый зеленый кот и другие 50 удивительных фактов о кошках Откуда взялся тот самый зеленый кот и другие 50 удивительных фактов о кошках

Интересно, что будет если кошке подстричь усы? А накормить виноградом?

Популярная механика
Одна вокруг света: «ванные» с вулканическим обогревом и крепость инков Одна вокруг света: «ванные» с вулканическим обогревом и крепость инков

167-я серия о кругосветном путешествии москвички Ирины Сидоренко: Эквадор

Forbes
Как правильно измерять температуру: выбираем самый точный термометр Как правильно измерять температуру: выбираем самый точный термометр

Какой из градусников лучше именно для вас

Популярная механика
Диета «5 столовых ложек» Диета «5 столовых ложек»

Как похудеть на диете с точно отмеренными порциями

VOICE
Нефть — живая и мертвая: откуда берется черное золото Нефть — живая и мертвая: откуда берется черное золото

Прогноз о скором истощении запасов нефти специалисты воспринимают по-разному

ТехИнсайдер
Зачем женщине в любом возрасте нужен муж: меткое объяснение Галины Вишневской Зачем женщине в любом возрасте нужен муж: меткое объяснение Галины Вишневской

Как великая русская оперная дива определяла главную пользу от замужества

Cosmopolitan
Принцесса Нур Инайят Хан: история разведчицы, рекорд которой запрещали повторять Принцесса Нур Инайят Хан: история разведчицы, рекорд которой запрещали повторять

Нур Инайят Хан — одна из самых легендарных разведчиц Второй Мировой

Популярная механика
Редкие травы: как Ту Юю получила Нобелевскую премию за традиционную медицину Редкие травы: как Ту Юю получила Нобелевскую премию за традиционную медицину

Китайской химику-фармацевту Ту Юю 91 год. В 80 лет она получила премию Ласкера

Forbes
Календарь огородника: что посадить в начале лета, чтобы успеть собрать урожай осенью Календарь огородника: что посадить в начале лета, чтобы успеть собрать урожай осенью

К счастью, есть растения, которыми не поздно заниматься даже летом

Популярная механика
Физики оценили роль квантовой когерентности в работе птичьего компаса Физики оценили роль квантовой когерентности в работе птичьего компаса

Как устроена чувствительность к магнитому полю у перелетных птиц?

N+1
Благотворительному фонду AdVita исполнилось 20 лет Благотворительному фонду AdVita исполнилось 20 лет

Фонд, который делает лечение онкогематологических заболеваний доступным

СНОБ
«Я желаю ей обычной жизни» «Я желаю ей обычной жизни»

Как жить с первичным иммунодефицитом

СНОБ
Как записать видео с экрана: несколько простых способов Как записать видео с экрана: несколько простых способов

Рассказываем о том, как записать видео с экрана компьютера

CHIP
«Ты не пройдёшь!» кто ловит космических странников на пути к земле «Ты не пройдёшь!» кто ловит космических странников на пути к земле

Как Юпитер и Сатурн защищают Солнечную систему от непрошенных гостей

Наука и жизнь
Давление под контролем Давление под контролем

Думаешь, гипертонией страдают исключительно пожилые люди? Это не так!

Лиза
Макаки почувствовали частоту своего пульса Макаки почувствовали частоту своего пульса

Макаки-резусы способны чувствовать собственный пульс

N+1
Ко дню рождения Елизаветы II. 5 книг о королевской семье Ко дню рождения Елизаветы II. 5 книг о королевской семье

Пять биографических изданий о королевской семье

СНОБ
Технологии в музеях: как антибликовое стекло защищает ценные экспонаты и предметы искусства Технологии в музеях: как антибликовое стекло защищает ценные экспонаты и предметы искусства

Разработка и оформление витрин экспозиции ― важный этап для музейной выставки

Популярная механика
Теломиан Теломиан

Теломиан, единственная собака, претендующая на то, чтобы стать малайской породой

Weekend
Почему люди не едят один бамбук: научный взгляд на природу наших вкусов Почему люди не едят один бамбук: научный взгляд на природу наших вкусов

Люди распространились по всему земному шару, потому что мы полностью всеядны

Вокруг света
Найти преимущество: как работает правильное импортозамещение Найти преимущество: как работает правильное импортозамещение

Опыт успешных программ импортозамещения в других странах

Forbes
«Все, что я делал до, не имеет сейчас смысла». Ладо Кватания — о переходе от клипов к полному метру, борьбе конформизма с идеализмом и сравнениях «Все, что я делал до, не имеет сейчас смысла». Ладо Кватания — о переходе от клипов к полному метру, борьбе конформизма с идеализмом и сравнениях

Режиссер Ладо Кватания — о “Казни”, сравнениях с Финчером и корейцами

Esquire
Как управлять сетью пунктов выдачи заказов через чек-листы Как управлять сетью пунктов выдачи заказов через чек-листы

Как открыть точку выдачи заказов и грамотно ей управлять?

VC.RU
Открыть в приложении