Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Меньше не значит хуже: как и зачем развивать бизнес в малых городах. Опыт компьютерного клуба Меньше не значит хуже: как и зачем развивать бизнес в малых городах. Опыт компьютерного клуба

Малые города: зачем бизнесу заходить на такие территории и как с этим работать?

Inc.
Владение немецким Владение немецким

Насколько кроссоверы Jetta VS5 и VS7 из Китая фольксвагеновские по восприятию?

Автопилот
До эпохи айфона: 10 телефонов, о которых мечтали все До эпохи айфона: 10 телефонов, о которых мечтали все

Раскладушки, встроенные игровые консоли — добро пожаловать в зал славы телефонов

Inc.
Подвести черту: почему важно не затягивать с разделом имущества при разводе Подвести черту: почему важно не затягивать с разделом имущества при разводе

Почему отложенный раздел имущества после развода может стать проблемой?

Forbes
Страдания от избытка красоты: что такое синдром Стендаля Страдания от избытка красоты: что такое синдром Стендаля

Что такое синдром Стендаля и в чем он выражается

ТехИнсайдер
Где найти деньги: советы для предпринимателей, как привлечь инвестиции на старте Где найти деньги: советы для предпринимателей, как привлечь инвестиции на старте

Как привлечь инвестиции и как при этом избежать самых распространенных ошибок?

Inc.
Никита Мещерский: Как король полного привода отстал от конкурентов Никита Мещерский: Как король полного привода отстал от конкурентов

Audi Quattro — культовый полноприводный автомобиль

4x4 Club
Новые русские ремесленники Новые русские ремесленники

Как делают свои прекрасные вещи настоящие ремесленники

Монокль
Хорошо-то как! Хорошо-то как!

Как научиться получать удовольствие от простых вещей?

Лиза
Как ИИ помогает диагностировать смертельные болезни, и чего он пока не умеет Как ИИ помогает диагностировать смертельные болезни, и чего он пока не умеет

Как нейросети могут помочь врачам в их работе?

Inc.
Прошлое, стертое с лица планеты: 5 утраченных памятников культурного наследия Прошлое, стертое с лица планеты: 5 утраченных памятников культурного наследия

Какие предметы культурного наследия были бесследно уничтожены?

ТехИнсайдер
Мама-предприниматель: какой бизнес чаще выбирают женщины в России Мама-предприниматель: какой бизнес чаще выбирают женщины в России

Почему в современном мире женщинам не нужно выбирать между семьей и карьерой

Inc.
«Она была актрисою» «Она была актрисою»

О своих страхах и надеждах, красоте и эпохе рассказала актриса Ангелина Стречина

OK!
Вместо «тренировки волос»: 4 работающих хака, которые помогут мыть голову реже Вместо «тренировки волос»: 4 работающих хака, которые помогут мыть голову реже

Можно ли натренировать волосы, чтобы они медленнее пачкались?

VOICE
Бизнес на кончиках пальцев: как Ксения Рыкова развивает инклюзивный массажный салон Бизнес на кончиках пальцев: как Ксения Рыкова развивает инклюзивный массажный салон

Как в России реагируют на инклюзию в велнес-индустрии?

Forbes
Заплатить долги Заплатить долги

Что и кому мы должны в семье? И кто это решает?

Psychologies
Стоит ли смотреть сериал «Первый номер»: честная рецензия Стоит ли смотреть сериал «Первый номер»: честная рецензия

«Первый номер»: насколько ужасы гламура похожи на правду

Maxim
Диалог с человечеством: художники и коллекционеры о связи искусства и благотворительности Диалог с человечеством: художники и коллекционеры о связи искусства и благотворительности

Как искусство и благотворительность меняют общество

СНОБ
Я не хотела Я не хотела

Как быть, если на эмоциях наговорила лишнего

Лиза
Для чего просвещенный бельгийский монарх Леопольд II устроил апокалипсис в Африке Для чего просвещенный бельгийский монарх Леопольд II устроил апокалипсис в Африке

Как король бельгийцев завоёвывал Африку

Forbes
Все секреты о том, как работодатели понимают, что сотрудник им подходит Все секреты о том, как работодатели понимают, что сотрудник им подходит

Какие черты соискателя по-настоящему привлекают работодателей?

Inc.
Ускользающая простота Ускользающая простота

Как Геннадий Шпаликов не нашел себе места в застое

Weekend
Как у тебя хорошо! Как у тебя хорошо!

Как правильно просить дом о помощи?

VOICE
Остановите, я сойду Остановите, я сойду

Прыгаем с эмоциональных качелей — и убегаем

VOICE
Игорь Костолевский: «Женился я на французской актрисе, а живу с русской железнодорожницей» Игорь Костолевский: «Женился я на французской актрисе, а живу с русской железнодорожницей»

Если есть любовь, все можно преодолеть

Караван историй
«СПбГУ научил четко и ясно доносить свои мысли» «СПбГУ научил четко и ясно доносить свои мысли»

Гендиректор «Бронка групп» о том, какие ценные навыки получил в alma mater

Санкт-Петербургский университет
Причиной гипонатриемии при приеме МДМА назвали выброс окситоцина Причиной гипонатриемии при приеме МДМА назвали выброс окситоцина

Гипонатриемия при приеме МДМА связана с повышением уровня окситоцина

N+1
Рай от-кутюр Рай от-кутюр

Соосновательница брендов Splat и Edem о том, как построить бизнес с мужем

Grazia
«Принудительные танцы — вид харассмента»: правила этикета на корпоративах «Принудительные танцы — вид харассмента»: правила этикета на корпоративах

Как с элегантностью и честью пережить новогодние корпоративы

РБК
Шимпанзе лучше выполняют задания, если на них смотрят зрители Шимпанзе лучше выполняют задания, если на них смотрят зрители

«Эффект аудитории» укоренился в социальной эволюции человекообразных обезьян

ТехИнсайдер
Открыть в приложении