Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Партнер-провокатор: что стоит за его манипуляциями и как реагировать правильно Партнер-провокатор: что стоит за его манипуляциями и как реагировать правильно

Как вычислить манипуляцию провокацией и как правильно реагировать на нее

Psychologies
Разговор с овощами Разговор с овощами

Овощи обладают разной текстурой, с ними даже можно разговаривать

Bones
От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России

Зачем нужна биометрия и как ее использовать в России

ТехИнсайдер
5 самых необычных снарядов, которыми стреляли из пушек 5 самых необычных снарядов, которыми стреляли из пушек

На протяжении веков пушки были одним из важнейших элементов войны

ТехИнсайдер
Что такое калланетика и помогает ли она похудеть: 9 упражнений Что такое калланетика и помогает ли она похудеть: 9 упражнений

Эффективный комплекс упражнений для укрепления мышц, которые можно делать дома

РБК
Звенигород: окно в небо Звенигород: окно в небо

Затерянный мир науки среди коттеджных посёлков и таунхаусов

Наука и жизнь
«Чувствую себя 6-летним ребенком»: как живет женщина с редкой формой амнезии «Чувствую себя 6-летним ребенком»: как живет женщина с редкой формой амнезии

История девушки, которая забывает почти всю свою жизнь и переносится в прошлое

Psychologies
Между Европой и Азией Между Европой и Азией

Как развивается непривычная для жителей Екатеринбурга паназиатская кухня?

Bones
Близкий пропал без вести: как справиться с болью и неизвестностью Близкий пропал без вести: как справиться с болью и неизвестностью

Как помочь себе, если ваш близкий пропал?

Psychologies
7 самых отвратительных для девушек мужских качеств 7 самых отвратительных для девушек мужских качеств

Что снижает твои шансы понравиться девушкам? Ученые дали ответ

Maxim
Децл, капитан космического корабля. Как самый ненавидимый рэп-музыкант стал символом эпохи Децл, капитан космического корабля. Как самый ненавидимый рэп-музыкант стал символом эпохи

Вспоминаем историю первой звезды российского рэпа

Правила жизни
Новые русские миллионеры Новые русские миллионеры

Новые русские миллионеры — что это за люди и как они вошли в новую реальность

Правила жизни
Зачем в СССР создавали грандиозные дворцы питания, и почему они исчезли Зачем в СССР создавали грандиозные дворцы питания, и почему они исчезли

Фабрики-кухни, которые начали строить в СССР, быстро окрестили дворцами питания

VOICE
Как американская бюрократия уничтожила автомобиль будущего: история Tucker 48 Как американская бюрократия уничтожила автомобиль будущего: история Tucker 48

Бывают люди, у которых даже неудачные проекты выглядят вдохновляющие

Maxim
Эффект Розенталя: как чужие ожидания формируют наше реальное поведение Эффект Розенталя: как чужие ожидания формируют наше реальное поведение

Как работает эффект Розенталя и к каким последствиям он может привести?

Forbes
Половое воспитание. Нужно ли разговаривать с детьми о сексе Половое воспитание. Нужно ли разговаривать с детьми о сексе

Как разговаривать с детьми о сексе и отношениях — и нужно ли вообще это делать

СНОБ
В сосудах бронзового века из Израиля обнаружили остатки опиума В сосудах бронзового века из Израиля обнаружили остатки опиума

В бронзовом веке в Левант наркотик поставляли с Кипра

N+1
Люди дороже денег: как торговые центры привлекают посетителей в кризис Люди дороже денег: как торговые центры привлекают посетителей в кризис

ТРЦ привлекают все больше досуговых концепций, но доходов они почти не приносят

Forbes
Контроль государства и контркультура: каким было российское кино в последние 20 лет Контроль государства и контркультура: каким было российское кино в последние 20 лет

Что произошло с российским кинематографом в XXI веке

Forbes
Откуда в марсианском кратере редкий минерал: любопытная теория Откуда в марсианском кратере редкий минерал: любопытная теория

Марсоход Curiosity наткнулся на Марсе на весьма необычную находку

ТехИнсайдер
Сад для ленивых Сад для ленивых

Как облегчить работу на даче? Посадить многолетники!

Лиза
6 фатальных ошибок на собеседовании 6 фатальных ошибок на собеседовании

Успешно пройти собеседование — искусство, которое можно освоить

Psychologies
Александра Маринина: «История движется поступками людей, а люди, как известно, не меняются» Александра Маринина: «История движется поступками людей, а люди, как известно, не меняются»

История – это тоже своего рода детектив

Лиза
Без вины виноватые. Как перестать чувствовать ответственность за то, что невозможно контролировать Без вины виноватые. Как перестать чувствовать ответственность за то, что невозможно контролировать

Как не чувствовать себя виноватым в том, на что не можешь повлиять?

Inc.
Ростов-папа и не только: какие города были самыми криминальными в СССР Ростов-папа и не только: какие города были самыми криминальными в СССР

Какие города СССР славились запредельным числом бандитов?

VOICE
Химики разгадали путь биосинтеза стрихнина и воспроизвели его в табаке Химики разгадали путь биосинтеза стрихнина и воспроизвели его в табаке

Стало ясно, как растения синтезируют сложные алкалоиды

N+1
Эти галактические явления пугают даже опытных астрономов: чего мы не знаем о Вселенной Эти галактические явления пугают даже опытных астрономов: чего мы не знаем о Вселенной

Галактические явления, которые нарушают прогнозы и ставят в тупик

ТехИнсайдер
Очки для автопутешествий: как выбирать и что проверять Очки для автопутешествий: как выбирать и что проверять

Как выбрать очки, чтобы глаза меньше уставали за рулем?

Maxim
Критикуй вовремя: как твердо высказать свое мнение, никого не обидев Критикуй вовремя: как твердо высказать свое мнение, никого не обидев

Как корректно говорить правду и высказывать свое мнение?

VOICE
Лаланн-Ленд Лаланн-Ленд

Чем творчество Клод и Франсуа-Ксавье Лаланнов привлекает коллекционеров?

Robb Report
Открыть в приложении