Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Телескопы с жидким зеркалом: как это работает Телескопы с жидким зеркалом: как это работает

Есть ли у «жидких ртутных телескопов» будущее?

Популярная механика
На какие дистанции стреляют профессиональные снайперы: счет на километры На какие дистанции стреляют профессиональные снайперы: счет на километры

Как стреляют из сверхдальних винтовок

ТехИнсайдер
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
«Паучьи лапки» и еще 7 неочевидных деталей, которые выдают неухоженность «Паучьи лапки» и еще 7 неочевидных деталей, которые выдают неухоженность

Гоняясь за совершенным образом, мы сталкиваемся с большим количеством сложностей

Cosmopolitan
Вы уверены, что все про них знаете? 15 занимательных фактов про собак Вы уверены, что все про них знаете? 15 занимательных фактов про собак

Почти в каждой квартире есть сожитель, который слегка оброс шерстью

Популярная механика
Видеть насквозь: разбираемся, что такое машинное зрение и для чего оно нужно Видеть насквозь: разбираемся, что такое машинное зрение и для чего оно нужно

Как улучшение машинного зрения поможет человечеству?

Вокруг света
Одна вокруг света: оползень в горах и кофе в джунглях Одна вокруг света: оползень в горах и кофе в джунглях

Путешественницы вынуждены совершить объезд в сотни километров из-за оползня

Forbes
Псковское диво: 9 фактов о Чудском озере Псковское диво: 9 фактов о Чудском озере

Водоем, поделенный между Россией и Эстонией, еще называют морем

Вокруг света
От заморозки яйцеклеток до искусственной матки: как будут рождаться люди будущего От заморозки яйцеклеток до искусственной матки: как будут рождаться люди будущего

Современная медицина позволяет женщинам заботиться о репродуктивном здоровье

Вокруг света
10 сериалов для тех, кто соскучился по «Игре престолов» 10 сериалов для тех, кто соскучился по «Игре престолов»

10 сериалов, которые стоит посмотреть любителям истории и фэнтези

Esquire
Еще бы Долбославом назвали: почему мы смеемся над необычными именами Еще бы Долбославом назвали: почему мы смеемся над необычными именами

Почему люди смеются над чужими именами и что это о них говорит?

VOICE
Впервые замуж в 42: история любви Кортни Кардашьян и Трэвиса Баркера Впервые замуж в 42: история любви Кортни Кардашьян и Трэвиса Баркера

Как старшая из сестер суперизвестного клана искала свою любовь?

VOICE
Голоса в голове: что такое субличности и как они меняют наше представление о себе Голоса в голове: что такое субличности и как они меняют наше представление о себе

Отрывок из книги «Мои разные «я» — Ричард Шварц бросает вызов теории «мономозга»

Forbes
«Небесный механик» Пьер Симон де Лаплас: история жизни, рассказанная Стивеном Хокингом «Небесный механик» Пьер Симон де Лаплас: история жизни, рассказанная Стивеном Хокингом

Биография величайшего специалиста в области математической физики всех времен

Вокруг света
Скрученный бислой стал ферромагнетиком под действием лазера Скрученный бислой стал ферромагнетиком под действием лазера

Физикам удалось превратить скрученный бислой в ферромагнетик

N+1
Что такое сексизм: 6 примеров Что такое сексизм: 6 примеров

Сексистские высказывания, которые женщины слышат в свой адрес каждый день

Psychologies
Прекрати стареть сейчас: 7 секретов, чтобы выглядеть и чувствовать себя моложе Прекрати стареть сейчас: 7 секретов, чтобы выглядеть и чувствовать себя моложе

Старение — часть жизни, которую мы не можем остановить, но можем замедлить

Cosmopolitan
Истекающие кровью: почему нас всех так пугает менструация Истекающие кровью: почему нас всех так пугает менструация

Менструация — табу: почему люди так стесняются этой темы?

VOICE
Ох уж эти критические дни: 7 причин для повторной менструации за один месяц Ох уж эти критические дни: 7 причин для повторной менструации за один месяц

Если менструация начинается у тебя два раза в месяц, причин может несколько

VOICE
На море штиль, и в сердце камень. В прокат выходит «Закат» скандального режиссера из Мексики Мишеля Франко На море штиль, и в сердце камень. В прокат выходит «Закат» скандального режиссера из Мексики Мишеля Франко

«Закат» Мишеля Франко — кино об экзистенциальной усталости

СНОБ
Круглый год с крепким иммунитетом: 14 полезных продуктов Круглый год с крепким иммунитетом: 14 полезных продуктов

Какие продукты повышают иммунитет у взрослых людей

VOICE
Как сочетать цвета в интерьере кухни. Советы и правила Как сочетать цвета в интерьере кухни. Советы и правила

Правильные цветовые сочетания помогут сделать кухню более комфортной

Лиза
Главные факты о раздельном питании: все за и против Главные факты о раздельном питании: все за и против

Что такое раздельное питание и что о нем думают врачи?

РБК
Красота тела: 9 главных торсов мирового искусства Красота тела: 9 главных торсов мирового искусства

Изображения людей — особое направление искусства

Вокруг света
Гель с герпесвирусным вектором помог при буллезном эпидермолизе Гель с герпесвирусным вектором помог при буллезном эпидермолизе

Заживление ран ускорилось и стало более стойким

N+1
«Из-за служебного романа потеряла любимую работу. Теперь не могу найти свое место» «Из-за служебного романа потеряла любимую работу. Теперь не могу найти свое место»

Как помочь себе найти жизненную цель?

Psychologies
Где взять энергию Где взять энергию

Простые и эффективные способы, которые помогут подзарядить внутренние батарейки

Лиза
Почему советские квартиры такие маленькие: раскрыта горькая причина Почему советские квартиры такие маленькие: раскрыта горькая причина

Почему СССР был такой большой страной, а квартиры в нем — такими маленькими

Cosmopolitan
Брачные аферисты. Кто может стать жертвой и как защититься Брачные аферисты. Кто может стать жертвой и как защититься

Как обезопасить себя от мошенников в приложениях для знакомств?

Лиза
Цветы на срез Цветы на срез

Какие факторы сдерживают развитие цветочного бизнеса

Агроинвестор
Открыть в приложении