Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сервис с самой низкой комиссией — это ловушка: 4 частые ошибки при выборе платежного агента Сервис с самой низкой комиссией — это ловушка: 4 частые ошибки при выборе платежного агента

Какие ошибки чаще всего допускает бизнес при выборе платежного агента

Inc.
15 советов, которые помогут получить повышение 15 советов, которые помогут получить повышение

Как выделиться на фоне коллег и стать по-настоящему ценным сотрудником?

Psychologies
Антисмартфоны и цифровые детокс-устройства: как tech-индустрия зарабатывает на нашей усталости от экранов Антисмартфоны и цифровые детокс-устройства: как tech-индустрия зарабатывает на нашей усталости от экранов

Гаджеты, которые помогут вернуть контроль над своим временем

Inc.
Женщины, удивившие мир Женщины, удивившие мир

Женщины, установившие мировые рекорды и удивившие мужчин-спортсменов

Караван историй
Завтрак с Сократом Завтрак с Сократом

Философия повседневной жизни

kiozk originals
Безумству поем мы славу Безумству поем мы славу

Второй «Джокер»: Хоакин Феникс и Леди Гага отказываются развлекать публику

Weekend
«Есть слово „надо“»: зачем развивать дисциплинированность «Есть слово „надо“»: зачем развивать дисциплинированность

Почему дисциплинированность недооценена и как она помогает нам в жизни

Psychologies
Между искусством и фейком Между искусством и фейком

10 эпизодов сюр(реализм)а в моде

Weekend
Лимфома, удар ножом, ВИЧ и вера: почему чемпионы уходили из спорта и как возвращались Лимфома, удар ножом, ВИЧ и вера: почему чемпионы уходили из спорта и как возвращались

Как величайшие спортсмены уходили на пенсию?

Forbes
Что такое «теория красных ногтей» — и правда ли, что этот цвет помогает привлечь мужчину Что такое «теория красных ногтей» — и правда ли, что этот цвет помогает привлечь мужчину

Почему красный цвет маникюра некоторым кажется таким «могущественным».

Psychologies
Иммунитет и вакцинация: роль вакцин в профилактике инфекционных заболеваний Иммунитет и вакцинация: роль вакцин в профилактике инфекционных заболеваний

Как работают вакцины?

ТехИнсайдер
Спору — нет / спору — да Спору — нет / спору — да

Где подстерегают людей конфликты и почему они полезны?

Men Today
Сахар: есть или не есть Сахар: есть или не есть

С чем связана наша зависимость от быстрых углеводов и стоит ли с ней бороться

Монокль
Закрасить седину Закрасить седину

Методы, которые помогут замаскировать седые волосы и освежить образ

Лиза
Больше, чем любовь Больше, чем любовь

Как выстроить надежные и согревающие отношения с близкими?

Psychologies
Не только бизнес Не только бизнес

Любовь, дружба и другие нетрудовые отношения в офисе

Men Today
Заводские настройки Заводские настройки

Заводские настройки фэшн-индустрии

Grazia
Почему пловцы-профи дышат не на каждом гребке – и надо ли вам делать так же Почему пловцы-профи дышат не на каждом гребке – и надо ли вам делать так же

Почему пловцы так редко дышат во время заплыва?

ТехИнсайдер
Звезда Амуры Звезда Амуры

Чувства, эмоции, предчувствия и чутье в жизни Аскара Ильясова

Men Today
Наука о счастье: какой может быть хэппиномика Наука о счастье: какой может быть хэппиномика

Какой может быть наука о счастье и что она способна дать человечеству?

Forbes
Заговор в голове Заговор в голове

Что заставляет людей верить в конспирологию?

Вокруг света
Кочевые племена Кочевые племена

Хотите ли вы узнать, что ощущали русские землепроходцы?

Отдых в России
Было бы желание! Было бы желание!

Женское либидо – штука хрупкая, ненадежная

Лиза
Быть в тренде: чего хотят люди и как на этом заработать Быть в тренде: чего хотят люди и как на этом заработать

Что сейчас модно и как бизнес может этим воспользоваться?

Inc.
Тёплое время: 20 идей для уютной атмосферы в семье Тёплое время: 20 идей для уютной атмосферы в семье

Идеи, которые помогут сделать ваше «время вместе» теплее, дружнее и интереснее

Новый очаг
Умный город: утопия или реальное будущее? Умный город: утопия или реальное будущее?

Можно ли создать идеальный город?

Наука и жизнь
Удачная покупка Удачная покупка

Аффирмации, чудо-кошелек и другие способы не прогадать на распродаже

Лиза
Зимняя Башкирия Зимняя Башкирия

Башкортостан не зря называют «русской Швейцарией»

Отдых в России
Семь причин сонливости Семь причин сонливости

Спите 7–8 часов, а днём всё равно клюёте носом?

Здоровье
Помогает ли коллаген здоровью суставов и кожи Помогает ли коллаген здоровью суставов и кожи

Что такое коллаген? Нужно ли его пить для здоровья кожи?

ТехИнсайдер
Открыть в приложении