Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Поговорите со своим страхом»: 3 совета, как психологически подготовиться к смене работы «Поговорите со своим страхом»: 3 совета, как психологически подготовиться к смене работы

Разбираемся, как безболезненно сменить род или место деятельности

Psychologies
Сколько сети накидывают сверху Сколько сети накидывают сверху

Торговая наценка на отдельные продукты питания может доходить до 100–150 %

Агроинвестор
«Осторожно, затягивает»: как ледоколы ломают лед (на самом деле) «Осторожно, затягивает»: как ледоколы ломают лед (на самом деле)

Может ли мощное судно проиграть битву со льдом?

ТехИнсайдер
Как и зачем люди ломают себе уши за свои же деньги Как и зачем люди ломают себе уши за свои же деньги

Проливаем свет на один из самых необычных мужских трендов

Maxim
Эмоциональный интеллект Эмоциональный интеллект

Новое представление о том, что значит быть «умным»

kiozk originals
Renault Arkana. Звезда в тени Renault Arkana. Звезда в тени

Renault Arkana — симпатичный, комфортный и надежный кроссовер

4x4 Club
Кто изобрел алфавит: история, о которой вы не знали Кто изобрел алфавит: история, о которой вы не знали

Наша система письма была разработана людьми, которые не умели читать

ТехИнсайдер
От  От 

Необычные и невероятно красивые места России

Караван историй
Новая теория происхождения Земли расставила все точки над i Новая теория происхождения Земли расставила все точки над i

Как именно образовалась наша планета?

ТехИнсайдер
Советский Хатико: чем закончилась история овчарки, встречавшей самолеты Советский Хатико: чем закончилась история овчарки, встречавшей самолеты

А ты знаешь, что в СССР был свой Хатико?

VOICE
Истина где-то рядом: зачем в NASA решили взяться за изучение НЛО Истина где-то рядом: зачем в NASA решили взяться за изучение НЛО

NASA начнет изучать НЛО, причем именно с научной точки зрения

Вокруг света
«Мне стало казаться, что за мной следят спецслужбы»: история читательницы «Мне стало казаться, что за мной следят спецслужбы»: история читательницы

Что делать, если кажется, будто каждый наш шаг находится под чьим-то контролем?

Psychologies
«Работает мало, делает много»: как российские экзоскелеты ускоряют производство «Работает мало, делает много»: как российские экзоскелеты ускоряют производство

Экзоскелеты: как их можно применять в сфере производства

ТехИнсайдер
Две мертвые женщины и лжец: как сериал «Лестница» рассказывает о реальном убийстве Две мертвые женщины и лжец: как сериал «Лестница» рассказывает о реальном убийстве

О чем «Лестница» и что за реальная история за ней стоит

Forbes
Графен как источник почти бесконечной энергии: революция, произошедшая случайно Графен как источник почти бесконечной энергии: революция, произошедшая случайно

Графен может вырабатывать энергию с помощью окружающей среды

ТехИнсайдер
Атмосфера драйва Атмосфера драйва

Необычный симбиоз стилей получился из-за разных предпочтений владельцев

Идеи Вашего Дома
Кого зовёт больной живот: как понять, что личная жизнь вызывает проблемы с ЖКТ, и что с этим делать Кого зовёт больной живот: как понять, что личная жизнь вызывает проблемы с ЖКТ, и что с этим делать

Правда ли, что боли в животе связаны с психологическими проблемами?

VOICE
На берегу Красноярского водохранилища нашли две каменные подвески и кострище возрастом 25 тысяч лет На берегу Красноярского водохранилища нашли две каменные подвески и кострище возрастом 25 тысяч лет

Археологи исследовали верхнепалеолитическую стоянку Сабаниха-3

N+1
Почему не стоит гнаться за счастьем? Тезисы из выступления американского писателя Почему не стоит гнаться за счастьем? Тезисы из выступления американского писателя

Как начать жить в настоящем, а не ждать идеального будущего

Правила жизни
Жизнь в ночном сумраке: шесть лучших фильмов про вампиров и оборотней Жизнь в ночном сумраке: шесть лучших фильмов про вампиров и оборотней

Фильмы, которые точно стоит посмотреть любителям сверхъестественной фантастики

Forbes
Дмитрий Галковский Дмитрий Галковский

Литературная конспирология: «12 стульев» и «Золотой теленок» написаны Булкаговым

Правила жизни
Как развить креативность: 14 любопытных способов Как развить креативность: 14 любопытных способов

Эти приемы могут повысить ваши творческие способности

Psychologies
Дачникам на заметку: что лучше сажать в июле Дачникам на заметку: что лучше сажать в июле

Овощи и травы можно посадить в середине лета, чтобы получить осенний урожай

ТехИнсайдер
«От любви похудела»: экс-солистка «Ленинграда» Алиса Вокс тайно вышла замуж «От любви похудела»: экс-солистка «Ленинграда» Алиса Вокс тайно вышла замуж

Алиса Вокс (Алиса Кондратьева) узаконила отношения с возлюбленным

VOICE
ЭКО тогда и сейчас: как за 30 лет изменилось проведение процедуры в России ЭКО тогда и сейчас: как за 30 лет изменилось проведение процедуры в России

Сейчас многие не так предвзято относятся к ЭКО. Как изменилась технология?

Psychologies
Почему собака сильно чешется и как помочь ей избавиться от зуда Почему собака сильно чешется и как помочь ей избавиться от зуда

Заметили, что ваш питомец начал чесаться?

ТехИнсайдер
От Врубеля до Урса Фишера: как керамика стала популярным трендом в искусстве От Врубеля до Урса Фишера: как керамика стала популярным трендом в искусстве

С чего началось увлечение аудитории и коллекционеров керамикой

Forbes
Пенится квас в ковше Пенится квас в ковше

Квас — одно из древнейших русских кулинарных изобретений

Наука и жизнь
Тайна темной энергии. Вселенная не просто расширяется, она расширяется ускоренно Тайна темной энергии. Вселенная не просто расширяется, она расширяется ускоренно

Почему Вселенная расширяется ускоренно?

ТехИнсайдер
Мартин Иванов: Всех своих «Таурусов» я получил за фильмы о Борне Мартин Иванов: Всех своих «Таурусов» я получил за фильмы о Борне

Чем известен автомобильный каскадёр Мартин Иванов?

4x4 Club
Открыть в приложении