Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Это ведь не считается!»: 3 неочевидных признака эмоциональной неверности, которые опасно игнорировать «Это ведь не считается!»: 3 неочевидных признака эмоциональной неверности, которые опасно игнорировать

Как понять, что вы вот-вот измените, пусть и не в стандартном понимании?

Psychologies
Как жить дальше после расставания: 3 совета Как жить дальше после расставания: 3 совета

Что мешает нашему разбитому сердцу исцелиться?

Psychologies
Японцы сделали роборуку с человеческими мышцами Японцы сделали роборуку с человеческими мышцами

Японские инженеры разработали биогибридную руку с человеческими мышцами

N+1
Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией

Пожилая женщина могла подвергаться насилию из-за деформированного черепа

N+1
Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
Хоррор на даче Хоррор на даче

Как не подхватить паразитов летом за городом

Лиза
Основатель школы GirlPower — о женском футболе и преодолении стереотипов Основатель школы GirlPower — о женском футболе и преодолении стереотипов

Основатель школы женского футбола: какие стереотипы приходится преодолевать

РБК
Палеоразум: как аборигенное мышление дает новый взгляд на мир и западную культуру Палеоразум: как аборигенное мышление дает новый взгляд на мир и западную культуру

Отрывок из книги антрополога Тайсона Янкапорты «Разговоры на песке»

Forbes
Звенигород: окно в небо Звенигород: окно в небо

Затерянный мир науки среди коттеджных посёлков и таунхаусов

Наука и жизнь
Работа на больничном и еще 5 привычек, из-за которых мы глупеем Работа на больничном и еще 5 привычек, из-за которых мы глупеем

Если вам кажется, что ваши родители в вашем возрасте были умнее, вам не кажется

Psychologies
Метод Мари Кондо: 5 простых советов по уборке дома Метод Мари Кондо: 5 простых советов по уборке дома

Полезные советы Мари Кондо, которые научили людей правильно наводить порядок

Psychologies
Чтение выходного дня: родство рока и рейва и история танцевальной музыки. Фрагмент книги «Вспышка энергии» Саймона Рейнольдса Чтение выходного дня: родство рока и рейва и история танцевальной музыки. Фрагмент книги «Вспышка энергии» Саймона Рейнольдса

Отрывок из книги «Вспышка энергии» о рейве и истории музыкального поколения

Правила жизни
Моль, тараканы и клопы, вы сами уйдете, или вам помочь? Лучшие способы борьбы с насекомыми в квартире Моль, тараканы и клопы, вы сами уйдете, или вам помочь? Лучшие способы борьбы с насекомыми в квартире

У нас есть действенные методы борьбы не только с тараканами, но и с клопом

ТехИнсайдер
Боги, богини и Фрейд: 15 популярных книг по психологии Боги, богини и Фрейд: 15 популярных книг по психологии

Топ-15 самых интересных книг по психологии, которые стоит прочитать всем

Forbes
Жёны застоя Жёны застоя

Супруги генсеков и членов политбюро ЦК КПСС

Дилетант
Саша Николаенко: «Муравьиный бог: реквием». Что растет из нелюбви Саша Николаенко: «Муравьиный бог: реквием». Что растет из нелюбви

Отрывок из книги Саша Николаенко о том, как детство тратит свое будущее

СНОБ
Пенопласт на обед, отруби на ужин: найдены черви, которые могут спасти Землю Пенопласт на обед, отруби на ужин: найдены черви, которые могут спасти Землю

Личинки умудряются получать питательные вещества из пенополистирола

Вокруг света
Контроль государства и контркультура: каким было российское кино в последние 20 лет Контроль государства и контркультура: каким было российское кино в последние 20 лет

Что произошло с российским кинематографом в XXI веке

Forbes
Просто добавь воды: собираем и завариваем по науке Просто добавь воды: собираем и завариваем по науке

Как собрать душистый букет разнотравья для чая?

ТехИнсайдер
Пять кроссоверов Lada, которые могли стать суперхитами Пять кроссоверов Lada, которые могли стать суперхитами

Вспоминаем историю неудавшихся проектов Lada

РБК
Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо

Женщины, которые первые покорили небо

Forbes
Перепланировка: правила изменились Перепланировка: правила изменились

Разбираемся, что можно, а что нельзя делать при ремонте квартиры

Идеи Вашего Дома
Новосибирские археологи раскопали в Прииртышье ранненеолитическое святилище Новосибирские археологи раскопали в Прииртышье ранненеолитическое святилище

Археологи раскопали остатки древнего святилища поселения Усть-Тартас-1

N+1
Как сделать колонтитул в Ворде: простые способы для разных версий Как сделать колонтитул в Ворде: простые способы для разных версий

Как вставить колонтитулы на одной или нескольких страницах в Microsoft Word?

CHIP
«Я к вам пишу, а дальше что?»: как перестать бояться белого листа «Я к вам пишу, а дальше что?»: как перестать бояться белого листа

Тебя тоже пугает белый лист? VOICE знает, как бороться с белизной

VOICE
Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии

Как обращение к предсказательным практикам определяло историю

Forbes
Правда ли, что Правда ли, что

Почему язык тела воспринимают везде по-разному?

ТехИнсайдер
Беззаботное детство советских детей: во что играли во дворах СССР? Беззаботное детство советских детей: во что играли во дворах СССР?

Все резиночки, классики, вышибалы остались в нашем детстве СССР

ТехИнсайдер
Крысы опылили фейхоа Крысы опылили фейхоа

Грызуны и деревья перешли к взаимовыгодному сотрудничеству

N+1
Как правильно спать и не навредить своему организму: техника безопасности Как правильно спать и не навредить своему организму: техника безопасности

Сон необходим нашему организму для существования, но он может стать опасным

ТехИнсайдер
Открыть в приложении