Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

IBM разработала квантовый чип на 1000 кубитов IBM разработала квантовый чип на 1000 кубитов

IBM представила чип Condor, который содержит 1121 сверхпроводящий кубит

ТехИнсайдер
Любовь и деньги крепко связаны: 5 метких цитат Ремарка, которые это доказывают Любовь и деньги крепко связаны: 5 метких цитат Ремарка, которые это доказывают

Эрих Мария Ремарк - значимый писатель для нескольких поколений

Cosmopolitan
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Мошенники придумали способ обойти техосмотр: что будет за подделку Мошенники придумали способ обойти техосмотр: что будет за подделку

Эксперты предупредили о поддельном техосмотре

РБК
Как похудеть, не считая калорий: 5 способов контролировать питание Как похудеть, не считая калорий: 5 способов контролировать питание

Важно следить за тем, сколько вы съели. А вы знаете, много вы едите или мало?

Популярная механика
Почему мы часто дарим друг другу странные подарки Почему мы часто дарим друг другу странные подарки

Почему выбор подарков — дело не из простых

РБК
Как избавиться от храпа: 6 эффективных советов для здорового сна Как избавиться от храпа: 6 эффективных советов для здорового сна

Сильно храпите во сне?

Популярная механика
Роды с доулой: как выбрать боевую подругу Роды с доулой: как выбрать боевую подругу

Кто такая доула и какова ее роль в родах

Psychologies
Из-за пудинга и собаки: за что королева Елизавета II увольняла своих слуг Из-за пудинга и собаки: за что королева Елизавета II увольняла своих слуг

Корги, виски, слизняки и другие поводы для увольнения от Елизаветы II

Cosmopolitan
Как в России производят титан: технология настоящего Как в России производят титан: технология настоящего

Гигант ВСМПО-АВИСМА — неотъемлемая часть мирового авиапрома

Популярная механика
Кем ты будешь, когда вырастешь: чем молодые предприниматели могут помочь подросткам Кем ты будешь, когда вырастешь: чем молодые предприниматели могут помочь подросткам

Молодые предприниматели делятся опытом с подростками и помогают им найти себя

Forbes
Самые полезные продукты для мозга, которые улучшат память и мышление Самые полезные продукты для мозга, которые улучшат память и мышление

Важно не только постоянно тренировать мозг, но и правильно питаться

Популярная механика
Прошлая волна: как живут и работают русские эмигранты в США, ОАЭ и Великобритании Прошлая волна: как живут и работают русские эмигранты в США, ОАЭ и Великобритании

К чему нужно быть готовым при эмиграции?

Forbes
Без Парка Горького и ВДНХ. Где погулять в Москве на майских — 5 небанальных маршрутов Без Парка Горького и ВДНХ. Где погулять в Москве на майских — 5 небанальных маршрутов

Нетипичные места для прогулок по Москве

СНОБ
Главные факты о раздельном питании: все за и против Главные факты о раздельном питании: все за и против

Что такое раздельное питание и что о нем думают врачи?

РБК
Как миллиардер из Китая за пять лет вошел в топ-20 богатейших людей мира Как миллиардер из Китая за пять лет вошел в топ-20 богатейших людей мира

Как миллиардер Чанпэн Чжао увеличивал свое состояние

Forbes
Главные ошибки, которые портят вкус еды: вы о них и не догадывались Главные ошибки, которые портят вкус еды: вы о них и не догадывались

Вкусная еда начинается с хороших привычек

Популярная механика
Как создать «умное» производство с роботами: пошаговое руководство для бизнеса Как создать «умное» производство с роботами: пошаговое руководство для бизнеса

Роботы могут работать на любом заводе, выполняя монотонные или опасные задачи.

Популярная механика
Натуральное – значит безопасное? Натуральное – значит безопасное?

Так ли однозначно влияние натуральных продуктов на организм человека?

Здоровье
«Услышь меня!» «Услышь меня!»

Как сохранить мир с близкими, если у вас разные взгляды на жизнь

Лиза
Как устроена работа бортпроводницы: 5 фактов, о которых не догадываются обычные пассажиры Как устроена работа бортпроводницы: 5 фактов, о которых не догадываются обычные пассажиры

Стюардесса рассказала, как выглядит полет глазами экипажа воздушного судна

Вокруг света
Это опухоль, а это мигрень: как различать 6 видов головной боли Это опухоль, а это мигрень: как различать 6 видов головной боли

Головная боль бывает разной — и обнаружение причины поможет избавиться неё

Psychologies
Екатерина Осипенко: «Женщине достаточно заговорить, чтобы сразу стало понятно, сколько ей лет» Екатерина Осипенко: «Женщине достаточно заговорить, чтобы сразу стало понятно, сколько ей лет»

Красивый голос – показатель качества здоровья, уровня образованности

Здоровье
Музыкальная эстетика заводов от саунд-дизайнеров: как записать чистый звук машины Музыкальная эстетика заводов от саунд-дизайнеров: как записать чистый звук машины

Кто такие саунд-дизайнеры и что такое сонорные объекты?

Популярная механика
Круглый год с крепким иммунитетом: 14 полезных продуктов Круглый год с крепким иммунитетом: 14 полезных продуктов

Какие продукты повышают иммунитет у взрослых людей

VOICE
«Мои руки дрожали»: кто, когда и зачем сделал первое селфи в России «Мои руки дрожали»: кто, когда и зачем сделал первое селфи в России

Княжна Анастасия — девочка, сделавшая первое селфи в России

Cosmopolitan
Еда с колес Еда с колес

Как бывшие нефтяники построили производство фудтраков и домов на колесах

Forbes
Советская романтика: речные трамвайчики на Москве-реке Советская романтика: речные трамвайчики на Москве-реке

Вспоминаем историю московских речных трамвайчиков

Maxim
Письма из эмиграции: что русские интеллигенты писали о загранице, а иностранцы — об СССР Письма из эмиграции: что русские интеллигенты писали о загранице, а иностранцы — об СССР

Русские и советские граждане за последние 100 лет мигрировали не раз

Esquire
Нездоровый ажиотаж: какие лекарства раскупали россияне в марте Нездоровый ажиотаж: какие лекарства раскупали россияне в марте

В марте в России резко выросли продажи практически всех лекарственных препаратов

Forbes
Открыть в приложении