Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Британские музыканты записали «альбом тишины» в знак протеста против ИИ Британские музыканты записали «альбом тишины» в знак протеста против ИИ

Более 1000 музыкантов выпустили «альбом тишины» в знак протеста против ИИ

Inc.
Агросектор накрыла волна консолидации Агросектор накрыла волна консолидации

Группа компаний «Русагро» завершила сделку по приобретению конкурента

Монокль
Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера» Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера»

Отрывок из книги «Искусственный интеллект: путь к новому миру»

Inc.
Это у нас семейное: что происходит с институтом семьи и брака? Это у нас семейное: что происходит с институтом семьи и брака?

Успевают ли семейные отношения за стремительно меняющимся миром?

Правила жизни
Дела сердечные: как современный ритм жизни влияет на риск возникновения инфаркта Дела сердечные: как современный ритм жизни влияет на риск возникновения инфаркта

Какие привычки бьют по сердцу сильнее наследственности?

Правила жизни
Ох уж эта свекровь! Ох уж эта свекровь!

На самом деле далеко не каждая свекровь – монстр. Просто нужно знать секреты!

Лиза
Трудности электропривода Трудности электропривода

Почему китайцы теснят европейский автопром

Деньги
«Есть слово „надо“»: зачем развивать дисциплинированность «Есть слово „надо“»: зачем развивать дисциплинированность

Почему дисциплинированность недооценена и как она помогает нам в жизни

Psychologies
Роман Мадянов: «В моей жизни все решал Его величество господин великий случай» Роман Мадянов: «В моей жизни все решал Его величество господин великий случай»

Люди меня встречают и в большинстве случаев просят: «Можно пожать вашу руку?»

Коллекция. Караван историй
Дама и осьминоги: как Жанна Вильпре-Пауэр придумала аквариумы и исследовала моллюсков Дама и осьминоги: как Жанна Вильпре-Пауэр придумала аквариумы и исследовала моллюсков

Жанна Вильпре-Пауэр провела детство в глубинке, но связала свою жизнь с морем

Forbes
Самый гуманный сюр в мире Самый гуманный сюр в мире

10 самых сюрреалистичных советских мультфильмов

Weekend
«Принудительные танцы — вид харассмента»: правила этикета на корпоративах «Принудительные танцы — вид харассмента»: правила этикета на корпоративах

Как с элегантностью и честью пережить новогодние корпоративы

РБК
«Перемещенные»: как подросток из лагеря для беженцев пытается жить в чужой стране «Перемещенные»: как подросток из лагеря для беженцев пытается жить в чужой стране

Отрывок из книги психолога Сании Биккиной «Перемещенные»

Forbes
Что такое «теория красных ногтей» — и правда ли, что этот цвет помогает привлечь мужчину Что такое «теория красных ногтей» — и правда ли, что этот цвет помогает привлечь мужчину

Почему красный цвет маникюра некоторым кажется таким «могущественным».

Psychologies
«Чукотка» на воде, ждем «Лидера» «Чукотка» на воде, ждем «Лидера»

Россия последовательно наращивает свою ледокольную группировку

Монокль
9 причин, по которым ногти становятся желтыми, и что делать в каждом случае 9 причин, по которым ногти становятся желтыми, и что делать в каждом случае

Вычислить причину, по которой ногти стали желтыми, не так-то просто

VOICE
Лимфома, удар ножом, ВИЧ и вера: почему чемпионы уходили из спорта и как возвращались Лимфома, удар ножом, ВИЧ и вера: почему чемпионы уходили из спорта и как возвращались

Как величайшие спортсмены уходили на пенсию?

Forbes
Хитрый рис Хитрый рис

Всё, что нужно знать про саке

RR Люкс.Личности.Бизнес.
Культурное наследие Культурное наследие

Авторы, которые в своем творчестве обращаются к историческим корням

Grazia
Самый сок Самый сок

Почему кроссовер Jaecoo J7 Supreme-V — технический деликатес

Автопилот
Даня Крастер: «Я заболел алкоголизмом и был отчислен из строительного — теперь зудит по поводу этого» Даня Крастер: «Я заболел алкоголизмом и был отчислен из строительного — теперь зудит по поводу этого»

Даня Крастер: невероятный разговор о популярной науке и любви ко всему новому

Maxim
5 ошибок в уборке, которые ставят ваш иммунитет под угрозу 5 ошибок в уборке, которые ставят ваш иммунитет под угрозу

Какие ошибки мы совершаем в уборке чаще всего?

ТехИнсайдер
Новая эклектика Новая эклектика

Уникальные пространства разноуровневой квартиры в Санкт-Петербурге

SALON-Interior
Темные звезды: почему токсичные сотрудники подрывают работу и как этому противостоять Темные звезды: почему токсичные сотрудники подрывают работу и как этому противостоять

Стоит ли закрывать глаза на агрессию, если человек приносит компании прибыль?

Forbes
«Если хотите, можете меня поблагодарить»: почему нацисты считали себя хорошими людьми «Если хотите, можете меня поблагодарить»: почему нацисты считали себя хорошими людьми

Воспринимают ли люди зло как часть своей жизни?

Psychologies
Шедевр реактивного искусства Шедевр реактивного искусства

Третье поколение космических двигателей SpaceX Raptor: с прицелом на Марс

ТехИнсайдер
Мембрана для извлечения водорода Мембрана для извлечения водорода

Мембрана из ванадиевого сплава — залог прогресс в водородной энергетике

ТехИнсайдер
Петербург будущего Петербург будущего

Основатель бюро SLOI Валентин Коган — самый успешный молодой архитектор Питера

Собака.ru
В этом вся соль: из чего делают противогололедные реагенты и почему они плавят лед В этом вся соль: из чего делают противогололедные реагенты и почему они плавят лед

Из чего вообще сделана техническая соль и точно ли она безопасна для нас?

ТехИнсайдер
Фокус на тарелке: 10 вопросов фуд-стилисту Фокус на тарелке: 10 вопросов фуд-стилисту

Кто такой фуд-стилист и чем он занимается

СНОБ
Открыть в приложении