Что такое дипфейки и чем они опасны

Цифровой океанHi-Tech

Несобственной персоной

Миллионы лет эволюции приучили людей доверять зрению, и восклицание «глазам своим не верю!» еще недавно воспринималось как ироническое. Однако дипфейки учат нас критически относиться к увиденному. И по темпам обучения человечеству стоит постараться обогнать нейросети

Текст Павел Иевлев, системный аналитик

В видеоклипе The Heart (Part 5) Кендрик Ламар превращается в разных знаменитостей, не переставая читать рэп. Например, в Уилла Смитта (на фото)

Слово дипфейк (deepfake) сложилось из терминов deep learning (глубокое обучение) и fake (подделка). Это явление считается порождением новейших технологий машинного обучения, однако само явление «подмены визуальной реальности» куда старше. Первые опыты в «теплых аналоговых дипфейках» были ровесниками фотографии и делались методами двойного экспонирования и ретуши. Так на изображениях появлялось то, чего не было в объективе камеры: это было еще не deep, но уже fake. Затем пришел кинематограф с комбинированными съемками и макетами, замахали нарисованными световыми мечами джедаи на картонных звездолетах, а чуть позже компьютеры доросли до неотличимой от реальности графики. Чем дальше, тем более убедительной становилась картинка.

Даже примитивные технологии фотомонтажа регулярно использовались для производства подделок. И не только в целях создания относительно безобидных сенсаций вроде лохнесского чудовища или НЛО, но и для шантажа, политических провокаций, репутационных скандалов, влияния на общественное мнение и так далее. Разумеется, дипфейки, давшие возможность простого, а главное, массового доступа к технологии подмены изображений, получили в первую очередь негативную коннотацию, хотя могли бы использоваться (и используются) не только в дурных целях.

Глубины возможностей

Дипфейки создаются путем обучения генеративно-состязательной нейронной сети (Generative Adversarial Network, или GAN). Одна нейронная сеть, генератор, создает изображения, а другая, дискриминатор, оценивает их. Этот процесс носит итерационный характер: генератор постоянно совершенствует выходной сигнал, создавая все более убедительные подделки, пока дискриминатор не перестанет отличать настоящие изображения от фейков. Как правило, в этот момент их перестают различать и люди.

Это открывает окно возможностей для манипуляций в области социальной инженерии, причем с очень низким «порогом вхождения», что кардинально отличает дипфейки от технологий подмены прошлых поколений. Чтобы создать убедительное поддельное фото, не говоря уже о видео, средствами аналоговой передачи изображения, требовались высокая квалификация исполнителя, много труда, а результат все равно не мог обмануть эксперта. Сейчас генеративные сети доступны каждому, что порождает количественный скачок, глубоко влияющий на медиасферу. И это в тот момент, когда сама медиасфера занимает все больше места в нашей жизни. Только за 2020 год и только в США было совершено более миллиона махинаций с использованием технологии deepfake.

Неужели дипфейки настолько хороши, что их невозможно распознать? Увы, да. И не в последнюю очередь потому, что люди слишком уверены в себе. Опросы показали, что 57 % потребителей контента во всем мире считают, что они могут успешно обнаружить подделку, хотя на практике смогли их распознать всего 24 % респондентов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Транспорт будущего Транспорт будущего

Вот уже шесть лет мы пишем про летающие автомобили и стоим рядом с прототипами

ТехИнсайдер
Zooуборка Zooуборка

Полезные советы для четвероногих чистюль и их хозяев

Лиза
Глубокое заблуждение Глубокое заблуждение

Как археологи отличают правду от фейков

Цифровой океан
«Я подружилась с болезнью» «Я подружилась с болезнью»

Можно ли нормально жить с обсессивно-компульсивным расстройством

Psychologies
Сканер души Сканер души

ИИ определяет личные качества людей по фотографии

Цифровой океан
Капитан Южного океана Капитан Южного океана

История великого путешественника и первооткрывателя Джеймса Кука

Знание – сила
Поразительные паразиты Поразительные паразиты

Есть в паразитах и своя пугающая красота: они изящно манипулируют хозяевами

ТехИнсайдер
Капустник и скандал: зачем оперные театры заказывают спектакли Константину Богомолову Капустник и скандал: зачем оперные театры заказывают спектакли Константину Богомолову

Что делает Богомолов в музыкальном театре?

Forbes
«Большевики, прямо скажем, хуже дерьма» «Большевики, прямо скажем, хуже дерьма»

Изъятие «излишков» зерна стало главной причиной массового голода на селе

Дилетант
8 вещей, которые должны быть у каждой женщины старше 50 лет: советы стилистов по составлению базового гардероба 8 вещей, которые должны быть у каждой женщины старше 50 лет: советы стилистов по составлению базового гардероба

Как составить капсульный гардероб?

VOICE
4 факта о торфяном виски, которые знают далеко не все ценители 4 факта о торфяном виски, которые знают далеко не все ценители

Многие ценители виски в конце концов приходят к сортам с с привкусом лыжной мази

Maxim
«Я никогда не…»: один простой вопрос может превратить игру в психотерапию «Я никогда не…»: один простой вопрос может превратить игру в психотерапию

Может ли простая игра стать способом терапии?

Psychologies
Чем закусывали пиво в СССР? Чем закусывали пиво в СССР?

Сушки — одна из самых популярных закусок в советское время

Maxim
Дело молодое Дело молодое

Автопром ищет точки соприкосновения, чтобы не проиграть борьбу за юные сердца

Автопилот
Спорт без боли Спорт без боли

Почему болят мышцы после тренировки и как быстро с этим справиться

Лиза
Полезное устройство для кухни и не только: 6 необычных методов использования сита в быту Полезное устройство для кухни и не только: 6 необычных методов использования сита в быту

Скорее записывайте или запоминайте эти лучшие лайфхаки с ситом!

ТехИнсайдер
«Валентина Толкунова — это вся моя жизнь», — рассказывает директор певицы Любовь Майорова «Валентина Толкунова — это вся моя жизнь», — рассказывает директор певицы Любовь Майорова

Любовь Майорова вспоминает о певице Валентине Толкуновой

Коллекция. Караван историй
Авто особого назначения Авто особого назначения

На чем будут ездить российские чиновники

Деньги
Эти правила спасут каждую из нас: 5 способов улучшить кожу лица без процедур и дорогой косметики Эти правила спасут каждую из нас: 5 способов улучшить кожу лица без процедур и дорогой косметики

Как быстро улучшить кожу лица — главные правила

VOICE
Стеклянный небосвод вместо стеклянного потолка. Отрывок из книги о женщинах-астрономах Стеклянный небосвод вместо стеклянного потолка. Отрывок из книги о женщинах-астрономах

История первых женщин-астрономов

СНОБ
10 неожиданных методов применения молока в быту, которые вам точно захочется повторить 10 неожиданных методов применения молока в быту, которые вам точно захочется повторить

Этот вкусный напиток можно использовать не только в кулинарии! Не верите?

ТехИнсайдер
Польза и вред кофе: все, что вам нужно знать. Еще чашечку! Польза и вред кофе: все, что вам нужно знать. Еще чашечку!

Кофе — наш друг или враг? Отвечает нутрициолог Дарья Савельева

Psychologies
Эпидемия одиночества: 8 признаков того, что ваше состояние становится опасным для жизни Эпидемия одиночества: 8 признаков того, что ваше состояние становится опасным для жизни

В чем опасность одиночества? И как справиться с этим чувством?

Psychologies
Генетики прочитали 1526 геномов бантуговорящих африканцев Генетики прочитали 1526 геномов бантуговорящих африканцев

Палеогенетики исследовали ДНК 1763 африканцев

N+1
Благородные, но такие разные Благородные, но такие разные

Почему цены на драгметаллы разнонаправлены

Деньги
Петр Чех обожает хоккей: теперь он выступает за чемпиона Великобритании Петр Чех обожает хоккей: теперь он выступает за чемпиона Великобритании

Как легендарный футболист Петр Чех фанатеет от игры на льду

Forbes
Что на самом деле совершили панфиловцы и сам Панфилов осенью 1941-го Что на самом деле совершили панфиловцы и сам Панфилов осенью 1941-го

Дискуссии о подвиге 28 панфиловцев — «было? не было? а если было, то как?»

Maxim
Марина Кравец: «Никогда не пыталась стать частью тусовки» Марина Кравец: «Никогда не пыталась стать частью тусовки»

Марина Кравец – об учебе на филфаке, тревогах материнства и строптивых женщинах

VOICE
Секс без оргазма: 13 последствий, о которых тебя никто не предупреждал Секс без оргазма: 13 последствий, о которых тебя никто не предупреждал

Какие последствия у секса без оргазма? Рассказываем

VOICE
У американки с двумя матками выявили беременность в обеих У американки с двумя матками выявили беременность в обеих

32-летняя жительница Алабамы с двумя матками вынашивает ребенка в каждой из них

N+1
Открыть в приложении