Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 типов токсичного общения: что ответить собеседнику 5 типов токсичного общения: что ответить собеседнику

По каким признакам распознать коммуникацию, нарушающую личные границы?

Psychologies
Найден способ связать воедино массивы кремниевых кубитов Найден способ связать воедино массивы кремниевых кубитов

Ученый нашел решение фундаментальной проблемы квантовой вычислительной техники

ТехИнсайдер
Как найти музыку из видео: 7 рабочих способов на все случаи жизни Как найти музыку из видео: 7 рабочих способов на все случаи жизни

Простые способы, как найти музыку из видео на телефоне

CHIP
Как сделать держатель для смартфона: 10 вариантов подставок своими руками Как сделать держатель для смартфона: 10 вариантов подставок своими руками

Подставка для смартфона нужна не всегда, но когда понадобится — её можно сделать

ТехИнсайдер
Целибат сведет в могилу: почему не заниматься сексом смертельно опасно Целибат сведет в могилу: почему не заниматься сексом смертельно опасно

Наука в очередной раз доказала, что секс — это лучшее лекарство

Maxim
8 нон-фикшн-книг, которые важно прочесть до 35 лет 8 нон-фикшн-книг, которые важно прочесть до 35 лет

Мотивационные бестселлеры, которые необходимо прочесть до 35 лет

СНОБ
Что нам стоик Что нам стоик

Как при помощи стоической философии избавиться от боли

Правила жизни
Самосострадание или высокая самооценка: что важнее и почему? Самосострадание или высокая самооценка: что важнее и почему?

Что делать, чтобы приобрести навык самосочувствия?

Psychologies
«Писать невозможно, голова забита бараньими ногами»: отрывок из биографии Джейн Остен «Писать невозможно, голова забита бараньими ногами»: отрывок из биографии Джейн Остен

Отрывок из книги «Викторианки» — о последних годах жизни Джейн Остен

Forbes
Современные культы и секты, которых стоит опасаться Современные культы и секты, которых стоит опасаться

Религиозные течения, которые вместо спасения даруют печальные последствия

Maxim
Как и зачем люди ломают себе уши за свои же деньги Как и зачем люди ломают себе уши за свои же деньги

Проливаем свет на один из самых необычных мужских трендов

Maxim
Лечит природа Лечит природа

Что нужно учесть, прибегая к помощи трав?

Лиза
Критикуй вовремя: как твердо высказать свое мнение, никого не обидев Критикуй вовремя: как твердо высказать свое мнение, никого не обидев

Как корректно говорить правду и высказывать свое мнение?

VOICE
Какую женщину никогда не позовут замуж: жесткая цитата Джины Лоллобриджиды Какую женщину никогда не позовут замуж: жесткая цитата Джины Лоллобриджиды

Если тебя еще не осчастливили предложением стать женой, считай это комплиментом

VOICE
Очки для автопутешествий: как выбирать и что проверять Очки для автопутешествий: как выбирать и что проверять

Как выбрать очки, чтобы глаза меньше уставали за рулем?

Maxim
Тип фигуры: как определить свой и как правильно подобрать гардероб Тип фигуры: как определить свой и как правильно подобрать гардероб

Как скрыть ненужное и подчеркнуть достоинства в соответствии с типом фигуры?

РБК
Почему вашу собаку тошнит: самые опасные признаки заболеваний Почему вашу собаку тошнит: самые опасные признаки заболеваний

Когда у собаки расстройство желудка, это сложно для всех!

ТехИнсайдер
Новые русские миллионеры Новые русские миллионеры

Новые русские миллионеры — что это за люди и как они вошли в новую реальность

Правила жизни
Пять кроссоверов Lada, которые могли стать суперхитами Пять кроссоверов Lada, которые могли стать суперхитами

Вспоминаем историю неудавшихся проектов Lada

РБК
Засуха как обычное явление Засуха как обычное явление

Как отечественные аграрии справляются с погодными аномалиями

Агроинвестор
Как читать «Лето Господне» Шмелева Как читать «Лето Господне» Шмелева

Что нужно знать о жизни наших предков, чтобы правильно прочитать «Лето Господне»

Культура.РФ
Почему раздельный купальник назвали бикини и как это оскорбило ученых (спойлер - да, всё дело в женской наготе!) Почему раздельный купальник назвали бикини и как это оскорбило ученых (спойлер - да, всё дело в женской наготе!)

Появление раздельного купального костюма произвело поистине взрывной эффект

VOICE
Личный опыт: как я стала жертвой эксгибициониста Личный опыт: как я стала жертвой эксгибициониста

Защититься от встречи с эксгибиционистом непросто

Psychologies
История одной вещи: нелегкая судьба «Тетриса», за который боролись англичанин и японцы История одной вещи: нелегкая судьба «Тетриса», за который боролись англичанин и японцы

История тетриса — кинематографичная, тянущая на добротный шпионский фильм

Правила жизни
Ресторан высокой битвы Ресторан высокой битвы

«Медведь»: повар как главное открытие современного сериала

Weekend
Скаты-хвостоколы умеют издавать звуки. Они пощелкали на дайверов Скаты-хвостоколы умеют издавать звуки. Они пощелкали на дайверов

Дикие скаты могут издавать звуки

N+1
Причины возникновения и опасность анемии: всё о дефиците железа в организме Причины возникновения и опасность анемии: всё о дефиците железа в организме

Что такое анемия и как ее лечить?

VOICE
Стать ее голосом: как журналистка из США открывала неизвестных художниц Возрождения Стать ее голосом: как журналистка из США открывала неизвестных художниц Возрождения

Как НКО Advancing Women Artists ищет художниц эпохи Возрождения

Forbes
Как создать стикеры в Телеграме: пошаговая инструкция Как создать стикеры в Телеграме: пошаговая инструкция

Рассказываем, как сделать стикеры в Телеграме и поделиться своим стикерпаком

CHIP
Ничуть не странные дела Ничуть не странные дела

«Страна Саша»: самый нежный фильм года

Weekend
Открыть в приложении