Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Геймификация, «какашки» и честность: как бренду привлечь зумеров Геймификация, «какашки» и честность: как бренду привлечь зумеров

Что поможет бренду зацепить поколение Z

Inc.
Виктория Исакова Виктория Исакова

Актриса Виктория Исакова — о ДНК постсоветских 1990-х

Собака.ru
Разработана умная роботизированная инвалидная коляска Разработана умная роботизированная инвалидная коляска

Как умное кресло-коляска позволяет находить оптимальный путь к пункту назначения

ТехИнсайдер
«Чувствовала себя коровой»: как грудное вскармливание становится для женщин проблемой «Чувствовала себя коровой»: как грудное вскармливание становится для женщин проблемой

Что переживают женщины, которые только начинают грудное вскармливание

Forbes
Как психологическое состояние влияет на сексуальную жизнь Как психологическое состояние влияет на сексуальную жизнь

Половая жизнь — это не только физиология, но и сложный эмоциональный процесс

Правила жизни
Ветряки, солнечные панели и декарбонизация бизнеса: какой будет энергетика будущего Ветряки, солнечные панели и декарбонизация бизнеса: какой будет энергетика будущего

Есть ли у человечества возможность отказаться от грязных ресурсов?

Forbes
«Я приношу деньги, дальше — не моя забота»: 5 типов отцов, которые портят детям психику «Я приношу деньги, дальше — не моя забота»: 5 типов отцов, которые портят детям психику

Пять самых деструктивных типов отцов

Psychologies
В этом вся соль: из чего делают противогололедные реагенты и почему они плавят лед В этом вся соль: из чего делают противогололедные реагенты и почему они плавят лед

Из чего вообще сделана техническая соль и точно ли она безопасна для нас?

ТехИнсайдер
Зрелая женщина: 7 признаков психологически взрослого человека Зрелая женщина: 7 признаков психологически взрослого человека

Что за «зверь» такой — зрелая женщина?

Psychologies
Стоит ли смотреть сериал «Первый номер»: честная рецензия Стоит ли смотреть сериал «Первый номер»: честная рецензия

«Первый номер»: насколько ужасы гламура похожи на правду

Maxim
В чем разница между обычным фотоаппаратом и кинокамерой? Узнайте простой ответ! В чем разница между обычным фотоаппаратом и кинокамерой? Узнайте простой ответ!

Что стоит учесть, выбирая камеру? Чем они отличаются?

ТехИнсайдер
Как перестать заслуживать и выпрашивать любовь и избавиться от постоянного чувства голода по ней Как перестать заслуживать и выпрашивать любовь и избавиться от постоянного чувства голода по ней

Как удовлетворить свою потребность в любви?

VOICE
6 фильмов с очень интересными деталями на заднем плане 6 фильмов с очень интересными деталями на заднем плане

Фильмы и сериалы, которые стоит пересмотреть ради заднего плана

Maxim
В авиастроении сменился командный состав В авиастроении сменился командный состав

Чем спровоцированы кадровые перестановки в российском авиастроении

Монокль
Внутри рубина лазерный луч может отбрасывать тень при облучении другим лазером Внутри рубина лазерный луч может отбрасывать тень при облучении другим лазером

Световые мечи из «Звездных войнов» — не просто фантастика

ТехИнсайдер
«Мы запустились на чистом энтузиазме, денег не было совсем»: режиссер Иван Соснин о фильме «Пришелец» «Мы запустились на чистом энтузиазме, денег не было совсем»: режиссер Иван Соснин о фильме «Пришелец»

Режиссер Иван Соснин — о любви к фантастике и недоверии к компьютерной графике

СНОБ
Чувство дома Чувство дома

Места, где связь с прошлым ощущается особенно сильно

Grazia
Город исторической доказанности Город исторической доказанности

Великий Новгород: миф об альтернативной истории России

Weekend
«Все время чего-то не хватает для счастья»: как перестать гнаться за успехом и начать радоваться тому, что есть «Все время чего-то не хватает для счастья»: как перестать гнаться за успехом и начать радоваться тому, что есть

Как не потерять вкус к жизни в погоне за достижениями?

Psychologies
Девочка созрела Девочка созрела

Как помочь дочери принять свое тело и вовремя заметить, если что-то идет не так

Лиза
Узнайте, есть ли у ваших друзей Узнайте, есть ли у ваших друзей

На какие проблемы со здоровьем может указать нервный смех?

ТехИнсайдер
Дарья Казакова Дарья Казакова

Дарья Казакова о переломном моменте и особенностях ее типажа

Grazia
Поговорим о наших деньгах Поговорим о наших деньгах

Что представляют собой деньги и почему эта тема так болезненна?

Psychologies
Беги, Роберт, беги! Лучшие фильмы Земекиса Беги, Роберт, беги! Лучшие фильмы Земекиса

Главные фильмы и эксперименты в карьере Роберта Земекиса

СНОБ
Агросектор накрыла волна консолидации Агросектор накрыла волна консолидации

Группа компаний «Русагро» завершила сделку по приобретению конкурента

Монокль
Наука о счастье: какой может быть хэппиномика Наука о счастье: какой может быть хэппиномика

Какой может быть наука о счастье и что она способна дать человечеству?

Forbes
Хозяин порта Хозяин порта

Фантастический рассказ Роберта Чамберса «Хозяин порта»

Наука и жизнь
Как не стать зависимым от гаджетов: 4 эффективных способа Как не стать зависимым от гаджетов: 4 эффективных способа

Как контролировать использование гаджетов и не попасть в зависимость от них?

ТехИнсайдер
Как найти музыку из видео: 7 рабочих способов на все случаи жизни Как найти музыку из видео: 7 рабочих способов на все случаи жизни

Простые способы, как найти музыку из видео на телефоне

CHIP
Сетевые дементоры: что такое теория «мертвого интернета» и вытеснит ли ИИ живых людей Сетевые дементоры: что такое теория «мертвого интернета» и вытеснит ли ИИ живых людей

Какие риски для современного мира представляет GPT-контент?

Forbes
Открыть в приложении