Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Простые, но важные правила удачных путешествий Простые, но важные правила удачных путешествий

Все отечественные автотуристы делятся на эпизодических и осознанных

4x4 Club
Смерть в кадре: фото, сделанные за считаные минуты до трагедии Смерть в кадре: фото, сделанные за считаные минуты до трагедии

Иногда в кадр попадают леденящие душу моменты

Cosmopolitan
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
«Гений места». Краткий гид по российским автохтонным винам «Гений места». Краткий гид по российским автохтонным винам

В чем уникальность атохтонных вин?

СНОБ
17 лучших продуктов, снижающих уровень сахара в крови 17 лучших продуктов, снижающих уровень сахара в крови

Риски развития диабета можно значительно снизить, оздоровив свой рацион

Популярная механика
Богиня Луна, страшная клятва и дочь из головы. Отрывок из книги Марии Махановой о древнегреческих мифах Богиня Луна, страшная клятва и дочь из головы. Отрывок из книги Марии Махановой о древнегреческих мифах

Отрывок из сборника мифов и легенд Древней Греции, пересказанных с юмором

СНОБ
Уровень социального неблагополучия матерей связали с объемом тканей мозга новорожденных Уровень социального неблагополучия матерей связали с объемом тканей мозга новорожденных

Как социальное неблагополучие матерей влияет их на их детей?

N+1
От «Служебного романа» к героям 1990-х: как в России менялись гендерные стереотипы От «Служебного романа» к героям 1990-х: как в России менялись гендерные стереотипы

Как в СССР и постсоветское время менялись стереотипы о «женском предназначении»

Forbes
Без права на Страшный суд: за что горели на кострах инквизиции во Флоренции Без права на Страшный суд: за что горели на кострах инквизиции во Флоренции

За фасадом «колыбели Эпохи Возрождения» скрывается немало «темных» страниц

Вокруг света
Путь к мечте: 10 заповедей счастливого человека Путь к мечте: 10 заповедей счастливого человека

Хорошая новость, что, какой бы сложной ни была ситуация, мы можем ее изменить

Psychologies
Почему техногенные катастрофы в фильмах и сериалах стали интереснее природных Почему техногенные катастрофы в фильмах и сериалах стали интереснее природных

Нашумевшие фильмы о техногенных катастрофах

СНОБ
Бункер с видом на ядерный взрыв: как «выживальщики» спасаются от Апокалипсиса Бункер с видом на ядерный взрыв: как «выживальщики» спасаются от Апокалипсиса

Кто же такие выживальщики, чего они ждут и чего можно ожидать от них?

Psychologies
«Имею ли я право быть счастливой, если всем плохо?»: мнение читательницы и психолога «Имею ли я право быть счастливой, если всем плохо?»: мнение читательницы и психолога

Можно ли, невзирая на сегодняшний новостной поток, наслаждаться радостями жизни?

Psychologies
От физики до психики От физики до психики

Как на самом деле влияет на наше здоровье кишечник (и чем мы можем ему помочь)

Лиза
Биологи реконструировали 624 предковых генома эукариот Биологи реконструировали 624 предковых генома эукариот

Биологи представили алгоритм AGORA для реконструкции предковых геномов эукариот

N+1
Палеоантропологи обнаружили в Колыбели человечества пяточную кость гоминина Палеоантропологи обнаружили в Колыбели человечества пяточную кость гоминина

Палеоантропологи исследовали пяточную кость, обнаруженную во время раскопок

N+1
Сперматозоиды из стволовых клеток помогли зачать крысят Сперматозоиды из стволовых клеток помогли зачать крысят

Японские ученые вырастили сперматозоиды из эмбриональных клеток крысы

N+1
5 книг о космосе, которые изменят ваше представление о Вселенной 5 книг о космосе, которые изменят ваше представление о Вселенной

Книги о космосе, которые позволят вам немного разобраться во Вселенной

Популярная механика
Тренд на остановку по требованию: чем опасен отказ от менструации Тренд на остановку по требованию: чем опасен отказ от менструации

Как методы, избавляющие от менструации, влияют на здоровье

VOICE
«Темные эмпаты»: что делает социопатов и нарциссов еще опаснее? «Темные эмпаты»: что делает социопатов и нарциссов еще опаснее?

Почему так опасно, когда люди наделены способностью считывать наши чувства?

Psychologies
Прошлая волна: как живут и работают русские эмигранты в США, ОАЭ и Великобритании Прошлая волна: как живут и работают русские эмигранты в США, ОАЭ и Великобритании

К чему нужно быть готовым при эмиграции?

Forbes
Безумная свекровь Елизаветы II: от чего её напрасно пытался вылечить Фрейд Безумная свекровь Елизаветы II: от чего её напрасно пытался вылечить Фрейд

Алисой Баттенберг: одни называли ее сумасшедшей, другие – святой

Cosmopolitan
«Не могу контролировать агрессию в адрес дочери» «Не могу контролировать агрессию в адрес дочери»

Как справиться с агрессией в сторону своего ребенка?

Psychologies
Почему мы сегодня так одиноки и как искать реальные отношения Почему мы сегодня так одиноки и как искать реальные отношения

В чем причина нарастающего глобального одиночества?

Psychologies
Свет, камера, она: продюсер Алена Акимова о том, каково быть женщиной в кино Свет, камера, она: продюсер Алена Акимова о том, каково быть женщиной в кино

Продюсер Алена Акимова — как девушкам пробиваться сквозь тернии к звездам

Cosmopolitan
Наследование по материнской линии помогло ткачам-кукушкам нести яйца разного цвета Наследование по материнской линии помогло ткачам-кукушкам нести яйца разного цвета

Как экологическим расам гнездовых паразитов удается нести яйца разного цвета

N+1
Дьявол у двери: 5 тайн и загадок Нотр-Дама Дьявол у двери: 5 тайн и загадок Нотр-Дама

О Нотр-Даме веками ходит множество мрачных легенд

Вокруг света
8 продуктов, которые помогут снизить риск инсульта 8 продуктов, которые помогут снизить риск инсульта

Если есть эти продукты регулярно, можно снизить риск инсульта на 27%!

Популярная механика
Кейт Уинслет Кейт Уинслет

«Чтобы выглядеть сексуально, необязательно быть похожей на шланг от пылесоса»

Здоровье
Вор или жертва: как обвиненный в плагиате Асгар Фархади стал героем своего же фильма Вор или жертва: как обвиненный в плагиате Асгар Фархади стал героем своего же фильма

Как Асгар Фархади попал в скандал с плагиатом?

Forbes
Открыть в приложении