Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Палены Палены

Потомки немецких рыцарей фон дер Палены находились на русской службе с XVIII в.

Дилетант
«Муж просил заразить его»: 5 историй женщин, чьи партнеры узнали, что у них ВИЧ «Муж просил заразить его»: 5 историй женщин, чьи партнеры узнали, что у них ВИЧ

Истории девушек, которые признались своим партнерам в ВИЧ-положительном статусе

Cosmopolitan
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
5 самых распространенных мифов о кормах для кошек 5 самых распространенных мифов о кормах для кошек

На главные вопросы о кормах для кошек отвечают ветеринары

Maxim
Самый смертоносный остров на Земле: бывший остров Возрождения на границе Казахстана и Узбекистана Самый смертоносный остров на Земле: бывший остров Возрождения на границе Казахстана и Узбекистана

СССР создал опаснейшее место, и оно до сих пор в полном расцвете злодейских сил

Maxim
Мария Кюри, Хеди Ламарр и другие: 10 фильмов про женщин-ученых Мария Кюри, Хеди Ламарр и другие: 10 фильмов про женщин-ученых

Про достижения женщин в науке снято немало фильмов

Forbes
6 особенностей уверенных в себе женщин 6 особенностей уверенных в себе женщин

Какие качества помогают женщинам идти по жизни с гордо поднятой головой?

Psychologies
Некрасивые истории красивого кино: что осталось за кадром советских фильмов Некрасивые истории красивого кино: что осталось за кадром советских фильмов

Что скрывает знаменитое советское кино?

VOICE
Как планировать в мире, где нельзя ничего планировать? Как планировать в мире, где нельзя ничего планировать?

Как вернуть уплывшую из-под ног землю и взять происходящее под контроль

Psychologies
Кто из выходцев из России и СССР стал миллиардером за рубежом Кто из выходцев из России и СССР стал миллиардером за рубежом

Миллиардеры: выходцы из России и потомки иммигрантов из СССР

Forbes
«Джулия»: сериал о том, как одна женщина и ее кулинарное шоу изменили Америку «Джулия»: сериал о том, как одна женщина и ее кулинарное шоу изменили Америку

«Джулия»: бывшая шпионка Джулия Чайлд решила попробовать себя в кулинарии

Forbes
Новые хоббиты Новые хоббиты

Герой этой истории из мексиканского города Морелия поселился... внутри холма

SALON-Interior
Что испытывают люди с тревожным расстройством Что испытывают люди с тревожным расстройством

Взгляните на состояние постоянной тревоги изнутри

Psychologies
Сосновые опилки помогли обнаружить аномальный гравитационный градиент температуры Сосновые опилки помогли обнаружить аномальный гравитационный градиент температуры

Ученые судили о разнице температур с помощью нескольких термопар

N+1
Как полюбить спорт и перестать насильно заставлять себя заниматься: научный подход Как полюбить спорт и перестать насильно заставлять себя заниматься: научный подход

Может ли обычный человек получать удовольствие от физических нагрузок?

Популярная механика
Зубы мудрости: удалять или нет? Зубы мудрости: удалять или нет?

Стоит ли избавляться от зубов мудрости или пусть себе растут?

Здоровье
Пять запрещенных в США фильмов: их точно стоит посмотреть Пять запрещенных в США фильмов: их точно стоит посмотреть

Почему эти киноленты запрещены в США?

Cosmopolitan
«Итальянские маршруты Андрея Тарковского». Отрывок из книги «Итальянские маршруты Андрея Тарковского». Отрывок из книги

Отрывок из путеводителя по творчеству Андрея Тарковского

СНОБ
«Ссорюсь с родителями, которые всегда выставляют виноватой меня» «Ссорюсь с родителями, которые всегда выставляют виноватой меня»

Как побудить родителей слушать ребенка?

Psychologies
Больно, опасно, вредно: вся правда об отбеливании зубов Больно, опасно, вредно: вся правда об отбеливании зубов

Чем вредно отбеливание зубов?

VOICE
Скотоводы пришли в дельту Нила около 7000 лет назад Скотоводы пришли в дельту Нила около 7000 лет назад

Ученые провели исследование керна отложений, отобранного в дельте Нила

N+1
«Наша аудитория — это люди эпохи сервисов доставки и шеринга. Мы для них такой же сервис — только в сфере жилья»: основатель Colife Артем Бабинов о коливингах в России и ОАЭ «Наша аудитория — это люди эпохи сервисов доставки и шеринга. Мы для них такой же сервис — только в сфере жилья»: основатель Colife Артем Бабинов о коливингах в России и ОАЭ

Основатель Colife — о формате коливингов и рынке недвижимости в ОАЭ

Inc.
11 фильмов о человеке в эпоху экономического кризиса 11 фильмов о человеке в эпоху экономического кризиса

Фильмы, в которых люди важнее денег, а финансовые кризисы — лишь пейзаж

Weekend
Брачные аферисты. Кто может стать жертвой и как защититься Брачные аферисты. Кто может стать жертвой и как защититься

Как обезопасить себя от мошенников в приложениях для знакомств?

Лиза
Дольше держит заряд и не виснет: рассказываем, как прокачать iPhone в домашних условиях Дольше держит заряд и не виснет: рассказываем, как прокачать iPhone в домашних условиях

С нашими советами твой гаджет обретет новую жизнь

Maxim
Красота и политика: чему учат современных лидеров Кир Великий и Александр Македонский Красота и политика: чему учат современных лидеров Кир Великий и Александр Македонский

Красота всегда была символом власти и, в то же время, — проводником перемен

Вокруг света
Окончательная смена декораций Окончательная смена декораций

Как Гриша Брускин из официального художника опять стал неофициальным

Weekend
12 старых вещей, которые ни в коем случае нельзя выбрасывать 12 старых вещей, которые ни в коем случае нельзя выбрасывать

Некоторые вещи сохранить всё же стоит — и вот почему

Популярная механика
«Темные эмпаты»: что делает социопатов и нарциссов еще опаснее? «Темные эмпаты»: что делает социопатов и нарциссов еще опаснее?

Почему так опасно, когда люди наделены способностью считывать наши чувства?

Psychologies
Принять различия: как избавиться от предрассудков Принять различия: как избавиться от предрассудков

Как распознать свои скрытые предубеждения и уменьшить их влияние на нас?

Psychologies
Открыть в приложении