Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Программа «12 шагов»: как она работает и кому может помочь Программа «12 шагов»: как она работает и кому может помочь

Как программа «12 шагов» помогает избавиться от зависимости?

Psychologies
Семейный лофт Семейный лофт

Идеальное соотношение между технологичностью, стилем и функциональностью

SALON-Interior
С особым подходом: почему хакеры атакуют компании разных отраслей по-разному С особым подходом: почему хакеры атакуют компании разных отраслей по-разному

Как бизнес-интересы определяют способы атак на сайты российских компаний

Forbes
Матильда Шнурова: «Это норма жизни — женщина работает с мужчиной» Матильда Шнурова: «Это норма жизни — женщина работает с мужчиной»

Матильда Шнурова — о том, как формирует ядро своих ресторанов

Bones
Сохраняйте спокойствие Сохраняйте спокойствие

Спокойствие — мощный способ достижения успеха в жизни

kiozk originals
Большой отец Большой отец

Как Олег Кулик стал символом постсоветского искусства и разделил его судьбу

Weekend
Срединная Литва и генерал Желиговский Срединная Литва и генерал Желиговский

В 1920 году Польша замахнулась на свой Эльзас. Но произошло неожиданное событие…

Дилетант
Еще 10 ярких примеров эффекта Манделы, когда люди помнят то, чего не было Еще 10 ярких примеров эффекта Манделы, когда люди помнят то, чего не было

Ты удивишься, насколько ты неверно запомнил самые очевидные вещи и события

Maxim
От «Казалетов» до Джонатана Франзена: 5 современных семейных саг От «Казалетов» до Джонатана Франзена: 5 современных семейных саг

Важные семейные саги последних лет

Forbes
Что продавали в первых российских аптеках? Что продавали в первых российских аптеках?

Травы, натурпродукты — какие лекарства были на прилавках первых российских аптек

Культура.РФ
Шоколад Шоколад

Ежегодно 11 июля любители сладкого отмечают Всемирный день шоколада

Здоровье
Почему латиноамериканки не стареют: 6 секретов красоты, которые помогут и тебе Почему латиноамериканки не стареют: 6 секретов красоты, которые помогут и тебе

Раскрываем главные секреты красоты латиноамериканок

VOICE
Михаил Эпштейн: Как люди находят утешение в обиде Михаил Эпштейн: Как люди находят утешение в обиде

Понятия, которые лежат в основе мышления, но с трудом поддаются определению

СНОБ
Разлад по-хорошему: 35 правил ссоры, которая не приведет к расставанию Разлад по-хорошему: 35 правил ссоры, которая не приведет к расставанию

Добрая ссора бывает получше худого мира

VOICE
Саша Николаенко: «Муравьиный бог: реквием». Что растет из нелюбви Саша Николаенко: «Муравьиный бог: реквием». Что растет из нелюбви

Отрывок из книги Саша Николаенко о том, как детство тратит свое будущее

СНОБ
Что нам стоик Что нам стоик

Как при помощи стоической философии избавиться от боли

Правила жизни
Первая леди Первая леди

Как революционная феминистка стала лицом советской дипломатии

Дилетант
Знатным скандинавам эпохи викингов приглянулся мех бобра Знатным скандинавам эпохи викингов приглянулся мех бобра

Бобровый мех выступал для местной скандинавской верхушки предметом роскоши

N+1
Время вспять: можно ли перевести стрелки биологических часов назад и замедлить старение Время вспять: можно ли перевести стрелки биологических часов назад и замедлить старение

Об интересных научных открытиях из книги «Загадка нестареющей медузы»

ТехИнсайдер
Симметрия инверсии времени оказалась важна для околомагических ядер Симметрия инверсии времени оказалась важна для околомагических ядер

Квадрупольный и магнитный дипольный моменты изотопов индия зависят от нейтронов

N+1
Физики напрямую увидели электронные вихри Физики напрямую увидели электронные вихри

Физики впервые напрямую увидели вихри электронной жидкости

N+1
Что такое ЛКП автомобиля и как правильно за ним ухаживать Что такое ЛКП автомобиля и как правильно за ним ухаживать

Лакокрасочном покрытие автомобиля: нюансы измерения и стандартах его толщины

РБК
«Островок разума и внутренней свободы». Основатели «Страдающего Средневековья» о новых гуманитарных курсах и юморе в темные времена «Островок разума и внутренней свободы». Основатели «Страдающего Средневековья» о новых гуманитарных курсах и юморе в темные времена

Как паблик с картинками про инквизиторов превратился в образовательный проект

Inc.
Lexus NX. Первый автомобиль бренда Lexus NX. Первый автомобиль бренда

Новый Lexus NX продуман настольно, что даже вылезать не хочется

4x4 Club
«Эти дни»: зачем компании вводят менструальные отгулы «Эти дни»: зачем компании вводят менструальные отгулы

Как внимание к менструации влияет на представление о гендерном равенстве?

Forbes
Как распознать лицемера: 3 главных признака Как распознать лицемера: 3 главных признака

Как понять, что есть лицемерие?

Psychologies
«Медовые дни» Эшколя Нево: роман о приключениях пожилых репатриантов из России «Медовые дни» Эшколя Нево: роман о приключениях пожилых репатриантов из России

Отрывок из романа «Медовые дни» — о том, что никогда не поздно

Forbes
Как телефоны разрушают наши жизни Как телефоны разрушают наши жизни

Цифровой вампиризм. Что это такое?

Psychologies
«Пусть они заткнутся»: история медсестры Марии Фикачковой, убивавшей младенцев «Пусть они заткнутся»: история медсестры Марии Фикачковой, убивавшей младенцев

Как Мария Фикачкова три года убивала младенцев и думала, что ее не поймают

VOICE
Роды в присутствии трехлетнего сына: почему история Регины Тодоренко вызвала яростные споры Роды в присутствии трехлетнего сына: почему история Регины Тодоренко вызвала яростные споры

Стоит ли посвящать в таинство рождения трехлетнего ребенка?

Psychologies
Открыть в приложении