Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Хотели как лучше»: какие травмы наносят ребенку любящие родители «Хотели как лучше»: какие травмы наносят ребенку любящие родители

К чему может привести заботливая гиперопека над ребенком?

Psychologies
Черный список: 5 модных ошибок, которые чаще всего совершают женщины 40+ Черный список: 5 модных ошибок, которые чаще всего совершают женщины 40+

Между прилагательными «моложавая» и «молодящаяся» пролегает целая пропасть?

VOICE
Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер

За 15 лет видение о том, каким должен быть Ту-204, несколько раз менялось

ТехИнсайдер
«Убийца реки Дженеси»: история маньяка, которого осудили, но не смогли остановить «Убийца реки Дженеси»: история маньяка, которого осудили, но не смогли остановить

Несовершенство судебной системы нередко приводит к трагедиям

VOICE
Что такое духовность и как ее развивать: 6 способов Что такое духовность и как ее развивать: 6 способов

Кто может называть себя духовно богатой личностью?

Psychologies
Овощи как новый тренд Овощи как новый тренд

В последнее время тема овощей в гастрономии актуальна как никогда

Bones
Кто первым связал коммунизм с электрификацией Кто первым связал коммунизм с электрификацией

Григорий Ревзин о коммивояжере, который добавил к утопии Ниагарский водопад

Weekend
Загробный Диснейленд: автобиографический роман о европейской женщине в Китае Загробный Диснейленд: автобиографический роман о европейской женщине в Китае

Отрывок из автофикшена Светланы Дорошевой о шанхайской арт-резиденции

Forbes
Палеогенетики подтвердили родство таштыкских мумий с сибирскими скифами Палеогенетики подтвердили родство таштыкских мумий с сибирскими скифами

Ученые впервые прочитали геномы представителей таштыкской культуры

N+1
Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо

Женщины, которые первые покорили небо

Forbes
7 мест на планете, где акула — реальная опасность 7 мест на планете, где акула — реальная опасность

У всех ли берегов стоит опасаться этих хищников?

ТехИнсайдер
Дитя инцеста: почему Гитлер стыдился своей матери Клары Пельцль Дитя инцеста: почему Гитлер стыдился своей матери Клары Пельцль

Почему Адольф Гитлер стеснялся темных пятен в своей родословной?

ТехИнсайдер
Как медведь боеприпасы на войне носил: невероятная история косолапого капрала, который прошел через всю Вторую Мировую Как медведь боеприпасы на войне носил: невероятная история косолапого капрала, который прошел через всю Вторую Мировую

Войтек — медведь, который был удостоен звания капрала

ТехИнсайдер
Во все уши: как научиться слушать и слышать людей и стать хорошим собеседником? Несколько простых советов Во все уши: как научиться слушать и слышать людей и стать хорошим собеседником? Несколько простых советов

Как научиться вовлекаться в диалог и перестать обесценивать собеседника

Правила жизни
Как жить дальше после расставания: 3 совета Как жить дальше после расставания: 3 совета

Что мешает нашему разбитому сердцу исцелиться?

Psychologies
Помнят ли кошки и собаки свое прошлое Помнят ли кошки и собаки свое прошлое

Как кошки и собаки запоминают информацию?

ТехИнсайдер
Срединная Литва и генерал Желиговский Срединная Литва и генерал Желиговский

В 1920 году Польша замахнулась на свой Эльзас. Но произошло неожиданное событие…

Дилетант
Катать не перекатать: на чем можно прохватить, если велосипед уже надоел Катать не перекатать: на чем можно прохватить, если велосипед уже надоел

Что же это за джамперы и флоутборды?

ТехИнсайдер
История самого популярного российского салата, или почему мы все так любим “Оливье” История самого популярного российского салата, или почему мы все так любим “Оливье”

Как салат “Оливье” стал нашим национальным символом?

ТехИнсайдер
Почему на Руси все мечтали родить урода: 5 слов, утративших свое первоначальное значение Почему на Руси все мечтали родить урода: 5 слов, утративших свое первоначальное значение

От урода до укропа: слова русского языка с необычным происхождением

ТехИнсайдер
«Я еще ого-го!»: как принять свой возраст «Я еще ого-го!»: как принять свой возраст

Почему же так трудно подружиться со своим возрастом?

Psychologies
Как малому бизнесу стать компанией-газелью Как малому бизнесу стать компанией-газелью

Как малому бизнесу перейти из категории «мышей» в категорию «газелей»

Inc.
Наталья Гвоздикова: Наталья Гвоздикова:

Хочу рассказать о тех, кого помню и люблю

Караван историй
Покажи своему парню: чего ждать от тещи по знаку зодиака Покажи своему парню: чего ждать от тещи по знаку зодиака

У твоего мужчины нет причин для страха перед будущей (или уже настоящей) тещей!

VOICE
Признаки овуляции: как рассчитать и распознать симптомы Признаки овуляции: как рассчитать и распознать симптомы

Как узнать, что овуляция наступила

VOICE
Там, на неведомых дорожках Там, на неведомых дорожках

Как сделать садовую дорожку своими руками?

Лиза
Какое животное считается умнейшим на Земле? Какое животное считается умнейшим на Земле?

Как оценивать ум других живых существ и можно ли выбрать среди них фаворита

ТехИнсайдер
Парадоксы аппетита Парадоксы аппетита

80% молодых женщин считают себя толстыми

Лиза
Чай для стройности Чай для стройности

Быстрый способ сбросить вес или опасность для здоровья?

Лиза
5 романтичных экранизаций французских романов 5 романтичных экранизаций французских романов

Французские романы, которые послужили основой для отличных экранизаций

СНОБ
Открыть в приложении