Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самые опасные пищевые привычки россиян и чем вредна доставка Самые опасные пищевые привычки россиян и чем вредна доставка

Что происходит с пищевым поведением россиян?

Inc.
Самец краснолицего гульмана вторгся в чужую группу и убил несколько детенышей Самец краснолицего гульмана вторгся в чужую группу и убил несколько детенышей

Почему самцы приматов бывают жестокими по отношению к чужим детенышам?

N+1
Облачные хранилища бесплатно: где и сколько можно получить Облачные хранилища бесплатно: где и сколько можно получить

Самые популярные облачные хранилища: у каких условия самые лучшие?

CHIP
Заводские настройки Заводские настройки

Заводские настройки фэшн-индустрии

Grazia
Все фильмы Пон Джун Хо, снявшего «Микки 17» и «Паразиты»: от худшего к лучшему Все фильмы Пон Джун Хо, снявшего «Микки 17» и «Паразиты»: от худшего к лучшему

8 фильмов южнокорейского режиссера, от легких комедий до мощных триллеров

Maxim
10 вредных пищевых привычек: как поймать себя на них 10 вредных пищевых привычек: как поймать себя на них

Пищевое поведение, которое может нанести ощутимый вред здоровью

Psychologies
Лажа Галактики Лажа Галактики

«Франшиза»: Армандо Ианнуччи и Сэм Мендес разоблачают супергероику

Weekend
Раздавили бы камни трилитона деревянные катки? Раздавили бы камни трилитона деревянные катки?

Насколько большое бревно нужно под вес камней трилитона Баальбека – 800 т.?

Наука и техника
На острове Диско найден возможный источник фосфора для возникновения первых живых организмов На острове Диско найден возможный источник фосфора для возникновения первых живых организмов

Магма могла стать источником фосфора для возникновения первых живых организмов

Знание – сила
Молодые годы Колчака Молодые годы Колчака

Александр Колчак — не только военный, но и ученый-океанограф

Знание – сила
Русская течь: как быть с защитой персональных данных Русская течь: как быть с защитой персональных данных

Не поздно ли плакать по утекшим данным и есть ли шансы перекрыть кран утечкам

Forbes
У позвоночных нашлось семь поводов поесть фекалий У позвоночных нашлось семь поводов поесть фекалий

Пищевую копрофагию у позвоночных животных можно разделить на семь категорий

N+1
К звёздам К звёздам

За унылым названием «гермообъект» стоит история прототипа межпланетного корабля

Наука и техника
Служебный роман Служебный роман

Советские актеры, у которых служебные отношения переросли в личные

Лиза
Новая уникальная антилопа Азии Новая уникальная антилопа Азии

Уникальные саолы — редкие "единороги" из горных лесов Вьетнама

Знание – сила
Эхо горы Эхо горы

«Волшебная гора» Томаса Манна: роман-собор, роман-университет, роман-путешествие

Weekend
Готовимся к Новому году! Что можно есть при диарее: простые советы и инструкция Готовимся к Новому году! Что можно есть при диарее: простые советы и инструкция

Какие продукты стоит есть и чего избегать при праздничной диарее

ТехИнсайдер
Гигантские шершни добрались до Европы Гигантские шершни добрались до Европы

Южных гигантских шершней заметили в Испании

N+1
«Самые веселые съемки у меня были с Филиппом Киркоровым»: Кристина Вайнас — о кино, сыне и браке с Кириллом Дыцевичем «Самые веселые съемки у меня были с Филиппом Киркоровым»: Кристина Вайнас — о кино, сыне и браке с Кириллом Дыцевичем

Кристина Вайнас — о фильме «Финист. Первый богатырь» и сыне

VOICE
Стресс может нарушить память и привести к страху в безобидной ситуации Стресс может нарушить память и привести к страху в безобидной ситуации

Как стресс влияет на формирование памяти?

ТехИнсайдер
От Винни-Пуха до биткоина От Винни-Пуха до биткоина

9 вещей, которые запрещены в Китае

Лиза
Дело жизни Дело жизни

Известные шеф-повара об их истоках и пути в профессии

Grazia
Новая эклектика Новая эклектика

Уникальные пространства разноуровневой квартиры в Санкт-Петербурге

SALON-Interior
Моя гениальная мелодрама Моя гениальная мелодрама

«Моя гениальная подруга»: четвертый сезон экранизации бестселлера Элены Ферранте

Weekend
Дальнобойщики 2:0 Дальнобойщики 2:0

Страшно ли ехать в кабине беспилотного грузовика?

ТехИнсайдер
Отберут ли автомобиль, если не заплатить вовремя по автокредиту – и 5 способов решить вопрос с банком Отберут ли автомобиль, если не заплатить вовремя по автокредиту – и 5 способов решить вопрос с банком

Как будет действовать банк, выдавший автокредит, если клиент задерживает платежи

ТехИнсайдер
«Шугар», «Заговор сестер Гарви», «Плохая обезьяна»: лучшие новые детективные сериалы «Шугар», «Заговор сестер Гарви», «Плохая обезьяна»: лучшие новые детективные сериалы

Новые детективы, которые невозможно выключить, не узнав, кто же убийца

Forbes
Даня Крастер: «Я заболел алкоголизмом и был отчислен из строительного — теперь зудит по поводу этого» Даня Крастер: «Я заболел алкоголизмом и был отчислен из строительного — теперь зудит по поводу этого»

Даня Крастер: невероятный разговор о популярной науке и любви ко всему новому

Maxim
Код света и музыки Код света и музыки

Современное искусство открывает новые направления. Одно из них — медиативный арт

ЖАРА Magazine
Важный показатель Важный показатель

Что такое гликированный гемоглобин, кому и зачем его стоит сдавать

Лиза
Открыть в приложении