Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Land Rover Defender. Не время умирать Land Rover Defender. Не время умирать

Тест-драйв: новый Land Rover Defender

4x4 Club
Вор или жертва: как обвиненный в плагиате Асгар Фархади стал героем своего же фильма Вор или жертва: как обвиненный в плагиате Асгар Фархади стал героем своего же фильма

Как Асгар Фархади попал в скандал с плагиатом?

Forbes
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Миф о «расколдованности»: почему верили в магию в прошлом Миф о «расколдованности»: почему верили в магию в прошлом

Сегодня в словарях и учебниках можно встретить разные определения слова «магия»

Вокруг света
Смерть в кадре: фото, сделанные за считаные минуты до трагедии Смерть в кадре: фото, сделанные за считаные минуты до трагедии

Иногда в кадр попадают леденящие душу моменты

Cosmopolitan
«Парень плохо отзывается о моей подруге» «Парень плохо отзывается о моей подруге»

Почему вашему партнеру могут не нравиться ваши друзья и что с этим делать?

Psychologies
Рецидивисты оказались ключом к моделированию коррупции в Испании и Бразилии Рецидивисты оказались ключом к моделированию коррупции в Испании и Бразилии

Ученые сравнили структуру коррупционных скандалов в Испании и Бразилии

N+1
Брокколи: полезные свойства и вред «волшебного» овоща Брокколи: полезные свойства и вред «волшебного» овоща

Встречайте: капуста брокколи, настоящий «волшебный» овощ

Популярная механика
От липосакции до коррекции ушей: какую пластику мужчины делают чаще всего От липосакции до коррекции ушей: какую пластику мужчины делают чаще всего

Желание улучшить свою внешность присуще не только женщинам

Cosmopolitan
Зашквар vs годнота: пять позорных способов тюнинговать автомобиль и достойные альтернативы им Зашквар vs годнота: пять позорных способов тюнинговать автомобиль и достойные альтернативы им

Плохие способы освежить автомобиль

Maxim
Робин из Локсли Робин из Локсли

О Робин Гуде сложены несколько десятков баллад

Дилетант
Детская жестокость и стадный инстинкт: почему семилеток так привлекает смерть? Детская жестокость и стадный инстинкт: почему семилеток так привлекает смерть?

Стоит ли пугаться, если ваш ребенок желает смерти персонажу фильма или книги?

Psychologies
Стрии: откуда берутся растяжки на коже и как от них избавиться Стрии: откуда берутся растяжки на коже и как от них избавиться

Растяжки на коже встречаются у большинства людей независимо от пола и возраста

РБК
«Позовите капитана Ященко»: топ-10 самых смешных розыгрышей на 1 апреля «Позовите капитана Ященко»: топ-10 самых смешных розыгрышей на 1 апреля

День дурака запомнился нашим читательницам больше всего

Cosmopolitan
6 основных ошибок при маскировке темных кругов под глазами: варианты исправления 6 основных ошибок при маскировке темных кругов под глазами: варианты исправления

Как убрать темные круги под глазами и избежать ошибок при маскировке

VOICE
В каких странах получить ВНЖ дешевле и проще всего В каких странах получить ВНЖ дешевле и проще всего

Где в новых условиях можно получить ВНЖ и по какой программе можно переехать?

Forbes
Обитавший 336 миллионов лет назад тетрапод оказался обладателем длинного четвертого пальца Обитавший 336 миллионов лет назад тетрапод оказался обладателем длинного четвертого пальца

Своим длинным четвертым пальцем тетрапод напоминал ящериц

N+1
«Имею ли я право быть счастливой, если всем плохо?»: мнение читательницы и психолога «Имею ли я право быть счастливой, если всем плохо?»: мнение читательницы и психолога

Можно ли, невзирая на сегодняшний новостной поток, наслаждаться радостями жизни?

Psychologies
Штрафы за среднюю скорость и оформление ДТП: как будут работать камеры Штрафы за среднюю скорость и оформление ДТП: как будут работать камеры

Власти планируют расширить способы применения дорожных камер

РБК
5 рекомендаций от зоопсихолога о том, как пережить трудные времена с собакой 5 рекомендаций от зоопсихолога о том, как пережить трудные времена с собакой

Как события вокруг влияют на нервную систему домашнего питомца, чем можно помочь

Psychologies
Как похудеть, не привязываясь к конкретному меню на день? Как похудеть, не привязываясь к конкретному меню на день?

Как комфортно сбросить вес, не ограничивая себя?

Cosmopolitan

Дэвид Фравор встречался с необычными и объектами в воздухе и в глубинах океана

ТехИнсайдер
Семь фильмов по мотивам книг — с весенним настроением Семь фильмов по мотивам книг — с весенним настроением

Cемь отличных фильмов с весенним настроением, снятых по мотивам популярных книг

СНОБ
Пять запрещенных в США фильмов: их точно стоит посмотреть Пять запрещенных в США фильмов: их точно стоит посмотреть

Почему эти киноленты запрещены в США?

Cosmopolitan
3 правила здорового и устойчивого снижения веса 3 правила здорового и устойчивого снижения веса

Cосредоточиться на трех базовых принципах разумного питания, чтобы похудеть

Psychologies
Бургер не пройдет! Бургер не пройдет!

Чем заменить фастфуд в рационе, чтобы было так же вкусно

Лиза
Эрих Фромм: «Любовь требует смирения, объективности и разума» Эрих Фромм: «Любовь требует смирения, объективности и разума»

Эрих Фромм анализирует разные типы любви и рассматривает практические вопросы

Psychologies
Как понять, что пора уходить от мужчины? Расскажет его знак зодиака Как понять, что пора уходить от мужчины? Расскажет его знак зодиака

Как известно, все знаки зодиака в отношениях ведут себя по-разному

Cosmopolitan
Что нужно женщине в 18, 35, 55: цитата Софи Такер, избавившей мир от стереотипов Что нужно женщине в 18, 35, 55: цитата Софи Такер, избавившей мир от стереотипов

Актрису Софи Такер можно было бы назвать первой последовательницей бодипозитива

Cosmopolitan
Red Hot Chili Peppers: Джон Фрушанте, наркотики и безграничная любовь. Таймлайн Red Hot Chili Peppers: Джон Фрушанте, наркотики и безграничная любовь. Таймлайн

Разбираем дискографию Red Hot Chili Peppers

Esquire
Открыть в приложении