Ученые создали инструмент для редактирования объектов на изображении

N+1Hi-Tech

Нейросеть получила удобный интерфейс редактирования изображений

Он напоминает редактор внешности в видеоиграх

Виктория Земляк

40c394a560f62d417ec8c9208cc0404f.gif
Пример работы DragGAN. Theobalt et al. / arXiv, 2023

Ученые из США и Германии создали инструмент для редактирования объектов на изображении DragGAN. Он основан на нейросети, которая на лету генерирует новые изображения. Пользователь может отмечать мышкой разные элементы на фотографии, и они реалистично перемещаются, поворачиваются, растягиваются и уменьшаются — похожий подход нередко используют в видеоиграх для редактирования внешности персонажа. Препринт доступен на arXiv.org.

В последние пару лет случился бум диффузионных нейросетей для генерации изображений по текстовым запросам — например, Stable Diffusion, DALL-E и Midjourney. Диффузионная модель умеет генерировать реалистичные изображения из случайного шума, а текстовое описание подсказывает модели, что именно должно быть на изображении. Но есть проблема: диффузионные нейросети недостаточно точны и не подходят, если нужно выполнить очень конкретную задачу при редактировании: сдвинуть объект на несколько пикселей в определенную сторону или повернуть его на определенное количество градусов.

Задачу точного редактирования изображений можно решить с помощью других нейросетевых архитектур. Например, до появления диффузионных нейросетей часто использовали GAN — генеративно-состязательные сети. Такая модель состоит из двух нейросетей: генеративной и состязательной. По сути две нейросети соревнуются друг с другом: состязательная сеть учится отличать реальные изображения от сгенерированных, а генеративная, в свою очередь, пытается сгенерировать максимально реалистичные изображения из случайного шума (на этой идее основаны и диффузионные модели). Состязательная сеть посылает сигнал генеративной модели — сообщает ей, насколько реалистичное получилось изображение. И так до тех пор, пока генеративная сеть не научится обманывать состязательную.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Генетики выявили старейшего известного домашнего кота Китая Генетики выявили старейшего известного домашнего кота Китая

Самая ранняя домашняя кошка жила в VIII или IX веках нашей эры

N+1
Не объедки, а остатки Не объедки, а остатки

Почему многих из нас пугает мысль об использовании б/у узлов и деталей машин?

Автопилот
Ошибка 403 Forbidden: что она означает и можно ли ее исправить Ошибка 403 Forbidden: что она означает и можно ли ее исправить

Что значит ошибка 403 и как ее можно исправить?

ТехИнсайдер
Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион

Почему ДНК людей за короткий эволюционный промежуток времени вдруг изменилась?

ТехИнсайдер
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
$155 млн за драгоценности: как Хайди Хортен побила рекорд Элизабет Тейлор $155 млн за драгоценности: как Хайди Хортен побила рекорд Элизабет Тейлор

Как Хайди Хортен удалось собрать уникальную коллекцию драгоценностей

Forbes
Не греет душу: как Disney продолжает капитализировать ностальгию в фильме «Индиана Джонс и колесо судьбы» Не греет душу: как Disney продолжает капитализировать ностальгию в фильме «Индиана Джонс и колесо судьбы»

Харрисон Форд прощается с образом неутомимого харизматичного археолога

Правила жизни
Курс на позитив Курс на позитив

Почему нам так нравится страдать и как обернуть уныние в свою пользу

Лиза
«Сон под микроскопом» «Сон под микроскопом»

Чем обусловлена наша потребность во сне и откуда берется сонливость и усталость

N+1
Летящие над водой Летящие над водой

Одна из самых интересных технологий, переживающая настоящий ренессанс – фойлы

ТехИнсайдер
Острые психические расстройства: каковы факторы риска Острые психические расстройства: каковы факторы риска

Обстоятельства, которые могут увеличить вероятность психических заболеваний

Psychologies
«Краткая история равенства» «Краткая история равенства»

Рассказ о том, как человечество, не смотря ни на что, стремилось к равноправию

N+1
10 самых крутых и диких русских злодеев в голливудских фильмах 10 самых крутых и диких русских злодеев в голливудских фильмах

Самые известные русские злодеи в голливудских фильмах

Maxim
Высокие цели Высокие цели

13 громких автомобильных покушений XX века

Автопилот
5 сокровищ Шри-Ланки 5 сокровищ Шри-Ланки

Впечатления от отдыха на Шри-Ланке превзойдут все самые смелые мечты

Лиза
Темная материя ведет себя не как частица, а скорее как волна Темная материя ведет себя не как частица, а скорее как волна

Как именно ведут себя элементы таинственной «темной материи»

ТехИнсайдер
10 самых провальных российских фильмов XXI века 10 самых провальных российских фильмов XXI века

Про половину из этих убыточных кинолент вы даже не слышали

Maxim
Ушли в минус Ушли в минус

Зачем автопроизводители выпускают холодильники

Автопилот
Почему скорпионы светятся в темноте? Почему скорпионы светятся в темноте?

Скорпионы светятся в темноте и при ультрафиолетовом освещении! Зачем?

ТехИнсайдер
Как домашние черепахи захватили мир Как домашние черепахи захватили мир

Почему экологи стараются остановить распространение красноухой черепахи?

Наука и жизнь
«Я причинил боль жене и детям»: Арнольд Шварценеггер пожалел об измене Марии Шрайвер с домработницей «Я причинил боль жене и детям»: Арнольд Шварценеггер пожалел об измене Марии Шрайвер с домработницей

Арнольд Шварценеггер до сих пор чувствует вину перед 67-летней бывшей женой

VOICE
Что такое pleasure gap и почему женщины получают меньше удовольствия от секса Что такое pleasure gap и почему женщины получают меньше удовольствия от секса

Почему мы все еще далеки от сокращения pleasure gap в сексе?

Forbes
Толщина женской коры мозга оказалась меньше мужской в странах с гендерным неравенством Толщина женской коры мозга оказалась меньше мужской в странах с гендерным неравенством

Как гендерное неравенство сказывается на человеческом мозге?

N+1
Несогласие со смертью: почему у умирающих вся жизнь проносится перед глазами? Несогласие со смертью: почему у умирающих вся жизнь проносится перед глазами?

Что происходит с мозгом сразу после последнего удара сердца

Вокруг света
Катя Гущина Катя Гущина

Иллюстратор, комиксист, картограф – все это о Кате Гущиной

Правила жизни
Бабушка, мама, дочь: голливудские династии, где рождаются только красавицы Бабушка, мама, дочь: голливудские династии, где рождаются только красавицы

Глядя на эти знаменитые семьи, невозможно сказать, что природа отдыхает на детях

VOICE
Морской царь юрского океана был вдвое больше косаток Морской царь юрского океана был вдвое больше косаток

Челюсти этого плиозавра были мощнее, чем у ти-рекса

ТехИнсайдер
Как зарабатывать больше денег? Надо изучать философию в университете! Как зарабатывать больше денег? Надо изучать философию в университете!

Специалисты по философии зарабатывают больше денег, чем многие их сверстники

ТехИнсайдер
Гид в кармане Гид в кармане

7 полезных приложений для путешествий по России

Лиза
«Общество поглощения: Человечество в поисках еды» «Общество поглощения: Человечество в поисках еды»

Как сельское хозяйство породило войны, болезни и рабство

N+1
Открыть в приложении