Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Засветиться» в инфополе и почаще выходить из дома: как быстро завести знакомства в новой профессии «Засветиться» в инфополе и почаще выходить из дома: как быстро завести знакомства в новой профессии

Как создать полезные связи в условиях ограниченной очной коммуникации?

Inc.
Как прожить дольше: 5 здоровых привычек, которые помогут встретить сотый день рождения Как прожить дольше: 5 здоровых привычек, которые помогут встретить сотый день рождения

Вам срочно нужно сделать эти полезные привычки частью своей жизни!

ТехИнсайдер
Геймификация, «какашки» и честность: как бренду привлечь зумеров Геймификация, «какашки» и честность: как бренду привлечь зумеров

Что поможет бренду зацепить поколение Z

Inc.
Под кайтом Под кайтом

Как побить мировой рекорд скорости для парусных судов

ТехИнсайдер
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
Как за каменной стеной Как за каменной стеной

Почему города становятся заповедниками для редких животных

N+1
Пространство свободы Пространство свободы

Этот лаконичный дизайн стал воплощением идеи об интерьере как месте отдыха

SALON-Interior
Передовая на передовой Передовая на передовой

«Великая»: байопик легендарной военной корреспондентки Ли Миллер

Weekend
Get ready with me: в чем смысл тренда и почему люди показывают, как готовятся выйти из дома Get ready with me: в чем смысл тренда и почему люди показывают, как готовятся выйти из дома

Почему видеоролики, в которых блогеры одеваются, становятся вирусными?

Psychologies
Янина Жеймо-Костричкина: «Вокруг «Золушки» плелись коварные интриги...» Янина Жеймо-Костричкина: «Вокруг «Золушки» плелись коварные интриги...»

«До последнего вздоха мама оставалась советской гражданкой»

Коллекция. Караван историй
Безумству поем мы славу Безумству поем мы славу

Второй «Джокер»: Хоакин Феникс и Леди Гага отказываются развлекать публику

Weekend
Цвет вашей кожи может влиять на эффективность лекарств Цвет вашей кожи может влиять на эффективность лекарств

Как кожа человека реагирует на лекарства в зависимости от ее типа?

ТехИнсайдер
Подготовка к зиме: обязательный набор автомобилиста Подготовка к зиме: обязательный набор автомобилиста

Что входит в обязательный набор, который нужно возить с собой в автомобиле зимой

4x4 Club
Настенный микс Настенный микс

Как комбинировать разные виды обоев в комнате

Лиза
Как не стать зависимым от гаджетов: 4 эффективных способа Как не стать зависимым от гаджетов: 4 эффективных способа

Как контролировать использование гаджетов и не попасть в зависимость от них?

ТехИнсайдер
Боязнь чистого листа Боязнь чистого листа

Трансформация из художника в дизайнера: путь Кристиано Гатто

Y Magazine
Ничего личного Ничего личного

Почему не стоит давать советы окружающим?

VOICE
Здания-рекордсмены: постройки России, которые попали в Книгу рекордов Гиннесса Здания-рекордсмены: постройки России, которые попали в Книгу рекордов Гиннесса

Здания России, которые побили самые разные мировые рекорды

ТехИнсайдер
Тимур и его столица Тимур и его столица

Как Тимур стал эффективным сити-менеджером

Вокруг света
Древние амфибии впали в летнюю спячку в ожидании мегамуссона Древние амфибии впали в летнюю спячку в ожидании мегамуссона

Древние амфибии пережидали сухой сезон в самостоятельно вырытых норах

N+1
Найти путь к изобилию Найти путь к изобилию

Как работает обращение к психологам с запросом на финансовое благополучие

Psychologies
Сладкая жизнь Сладкая жизнь

Плохо это или хорошо – быть сладкоежкой?

Лиза
Одиночество вдвоем или семейное выгорание: как распознать и преодолеть кризис в отношениях Одиночество вдвоем или семейное выгорание: как распознать и преодолеть кризис в отношениях

Живете с партнером под одной крышей, но чувствуете себя одиноко?

VOICE
Сильно больше Сильно больше

Tank 700 готов подтвердить свое лидерство не только выразительной внешностью

Автопилот
Зубы мудрости: почему взрослым не нужно бояться носить брекеты и элайнеры Зубы мудрости: почему взрослым не нужно бояться носить брекеты и элайнеры

Почему почему элайнеры и брекеты — повод для восхищения, а не ухмылки

Forbes
Гигантские шершни добрались до Европы Гигантские шершни добрались до Европы

Южных гигантских шершней заметили в Испании

N+1
Давай сбежим в Баку Давай сбежим в Баку

Баку: и морской курорт, и гастрономический центр Кавказа

ЖАРА Magazine
«Быть битмейкером — это не круто» «Быть битмейкером — это не круто»

Wallem, певец и автор песен, поделился наблюдениями за музыкальными трендами

ЖАРА Magazine
«Она была актрисою» «Она была актрисою»

О своих страхах и надеждах, красоте и эпохе рассказала актриса Ангелина Стречина

OK!
Молодые годы Колчака Молодые годы Колчака

Александр Колчак — не только военный, но и ученый-океанограф

Знание – сила
Открыть в приложении