Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Истребитель 1970-х годов, который сохранил свою актуальность и по сей день

Популярная механика
Как пережить разрыв? Советы Михаила Лабковского Как пережить разрыв? Советы Михаила Лабковского

Как правильно переживать расставание, какие мысли помогут справиться быстрее?

VOICE
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Астрономы нашли нового кандидата в самую далекую галактику Астрономы нашли нового кандидата в самую далекую галактику

Свет от этой галактики шел до Земли 13,5 миллиардов лет

N+1
Там, где пробок точно нет. Крутые луноходы от автомобильных компаний Там, где пробок точно нет. Крутые луноходы от автомобильных компаний

Многие известные компании предложили свои варианты транспорта для Луны

РБК
10 книг, которые помогут действовать творчески 10 книг, которые помогут действовать творчески

Подборка книг о креативности

Psychologies
Кристиан Гайи: «Би-боп». Отрывок из повести «Последняя любовь» Кристиан Гайи: «Би-боп». Отрывок из повести «Последняя любовь»

Отрывок из «Последней любви» о музыканте, которому осталось жить пару дней

СНОБ
Женщина-собственница: чем ты рискуешь, если считаешь мужчину своим имуществом Женщина-собственница: чем ты рискуешь, если считаешь мужчину своим имуществом

«Мой мужчина должен быть только моим» — чем это может обернуться на практике?

Cosmopolitan
Мужчины никому не интересны: ученые изучили аудиторию приложений для знакомств и пришли к неутешительным выводам Мужчины никому не интересны: ученые изучили аудиторию приложений для знакомств и пришли к неутешительным выводам

Почему в интернете мужчины получают меньше внимания, чем девушки?

Популярная механика
Прототип доктора Лектора полвека сидит в стеклянной клетке: он до сих пор опасен Прототип доктора Лектора полвека сидит в стеклянной клетке: он до сих пор опасен

Кто такой Роберт Модсли и какую клятву он дал?

Cosmopolitan

Дэвид Фравор встречался с необычными и объектами в воздухе и в глубинах океана

ТехИнсайдер
Почему наступают ледниковые периоды и когда ждать следующего? Почему наступают ледниковые периоды и когда ждать следующего?

Каждый следующий ледниковый период становился суровее и дольше

Вокруг света
Как с помощью творчества развить устойчивость к стрессу и адаптивность Как с помощью творчества развить устойчивость к стрессу и адаптивность

Как усилить адаптивность с помощью творческой активности

Psychologies
Как Маргарет Харденброк занималась трансатлантическими перевозками в XVII веке Как Маргарет Харденброк занималась трансатлантическими перевозками в XVII веке

Маргарет Харденброк вела международную торговлю и сама бороздила моря

Forbes
Как вернуться в тренажерный зал после долгого перерыва: 5 простых шагов Как вернуться в тренажерный зал после долгого перерыва: 5 простых шагов

Как возобновить тренировки и вернуться в прежнее русло?

Популярная механика
Давление под контролем Давление под контролем

Думаешь, гипертонией страдают исключительно пожилые люди? Это не так!

Лиза
Как рожали в СССР: воспоминания мам и акушера Как рожали в СССР: воспоминания мам и акушера

Какую помощь могли оказать роженицам врачи СССР?

Вокруг света
Джонатан Франзен: «Перекрестки». Отрывок из нового романа Джонатан Франзен: «Перекрестки». Отрывок из нового романа

Отрывок из романа «Перекрестки» — о семье пастора в Америке 1970-х

СНОБ
Некрасивые истории красивого кино: что осталось за кадром советских фильмов Некрасивые истории красивого кино: что осталось за кадром советских фильмов

Что скрывает знаменитое советское кино?

VOICE
Бахромчатогубые листоносы вспомнили связанный с едой звук четыре года спустя Бахромчатогубые листоносы вспомнили связанный с едой звук четыре года спустя

Память этих рукокрылых такая же хорошая, как у врановых и приматов

N+1
Каково это — быть жертвой патологической зависти Каково это — быть жертвой патологической зависти

Каково приходится жертвам чужой зависти?

Psychologies
Нейробиологи описали стандартную траекторию развития головного мозга Нейробиологи описали стандартную траекторию развития головного мозга

Нейробиологи вывели стандартную кривую развития человеческого мозга

N+1
Сайлент Хилл по-кавказски: 3 маршрута по городам-призракам Абхазии Сайлент Хилл по-кавказски: 3 маршрута по городам-призракам Абхазии

В Абхазию можно отправиться не только ради пляжного отдыха

Вокруг света
Мир, в котором мы живем: как данные могут спасти человечество Мир, в котором мы живем: как данные могут спасти человечество

Дата-грамотность — ключевой навык сегодняшнего дня

Вокруг света
Тыква вкуснее дыни? Тыква вкуснее дыни?

Что в тыкве примечательного: размер, вкус или польза для здоровья?

Наука и жизнь
«Бандиты без автоматов»: как компания аферистов в начале 20 века обманула национальный банк и правительство Португалии «Бандиты без автоматов»: как компания аферистов в начале 20 века обманула национальный банк и правительство Португалии

В 1925 году Артур Рейс и его сообщники выпустили в оборот крупную партию банкнот

VC.RU
Мужской кризис: про ипотеку, улыбку и развод Мужской кризис: про ипотеку, улыбку и развод

Как вернуть веру в себя во время кризиса?

Psychologies
8 вещей, которые ни в коем случае нельзя смывать в раковину: страшный сон сантехника 8 вещей, которые ни в коем случае нельзя смывать в раковину: страшный сон сантехника

Эти восемь типов загрязнений – «страшный сон» сантехника

Популярная механика
Сама стояла за кассой: почему все боятся новую главу Zara Сама стояла за кассой: почему все боятся новую главу Zara

Ее называют секретным оружием Zara и одной из провидиц модной индустрии

Cosmopolitan
Простой способ сделать выбор, если вы на распутье Простой способ сделать выбор, если вы на распутье

Это очень трудно — решиться и сделать то, чего раньше никогда не делали

Psychologies
Открыть в приложении