Ученые создали инструмент для редактирования объектов на изображении

N+1Hi-Tech

Нейросеть получила удобный интерфейс редактирования изображений

Он напоминает редактор внешности в видеоиграх

Виктория Земляк

40c394a560f62d417ec8c9208cc0404f.gif
Пример работы DragGAN. Theobalt et al. / arXiv, 2023

Ученые из США и Германии создали инструмент для редактирования объектов на изображении DragGAN. Он основан на нейросети, которая на лету генерирует новые изображения. Пользователь может отмечать мышкой разные элементы на фотографии, и они реалистично перемещаются, поворачиваются, растягиваются и уменьшаются — похожий подход нередко используют в видеоиграх для редактирования внешности персонажа. Препринт доступен на arXiv.org.

В последние пару лет случился бум диффузионных нейросетей для генерации изображений по текстовым запросам — например, Stable Diffusion, DALL-E и Midjourney. Диффузионная модель умеет генерировать реалистичные изображения из случайного шума, а текстовое описание подсказывает модели, что именно должно быть на изображении. Но есть проблема: диффузионные нейросети недостаточно точны и не подходят, если нужно выполнить очень конкретную задачу при редактировании: сдвинуть объект на несколько пикселей в определенную сторону или повернуть его на определенное количество градусов.

Задачу точного редактирования изображений можно решить с помощью других нейросетевых архитектур. Например, до появления диффузионных нейросетей часто использовали GAN — генеративно-состязательные сети. Такая модель состоит из двух нейросетей: генеративной и состязательной. По сути две нейросети соревнуются друг с другом: состязательная сеть учится отличать реальные изображения от сгенерированных, а генеративная, в свою очередь, пытается сгенерировать максимально реалистичные изображения из случайного шума (на этой идее основаны и диффузионные модели). Состязательная сеть посылает сигнал генеративной модели — сообщает ей, насколько реалистичное получилось изображение. И так до тех пор, пока генеративная сеть не научится обманывать состязательную.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В палеолитическом пещерном святилище впервые нашли голубые краски В палеолитическом пещерном святилище впервые нашли голубые краски

Люди эпохи верхнего палеолита пользовались красками голубых оттенков

N+1
«Меня уже заменили другой»: Алена Ашмарина рассталась с отцом своих двух дочерей «Меня уже заменили другой»: Алена Ашмарина рассталась с отцом своих двух дочерей

Алена Ашмарина рассказала о разрыве с отцом своих детей

VOICE
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
Эль-Ниньо и Ла-Нинья случаются все чаще при глобальном потеплении Эль-Ниньо и Ла-Нинья случаются все чаще при глобальном потеплении

Глобальное потепление делает климат все более неустойчивым и непредсказуемым

ТехИнсайдер
Плохой «ритм» сна связан с 83 болезнями Плохой «ритм» сна связан с 83 болезнями

Люди плохо представляют, сколько они на самом деле спят

ТехИнсайдер
Разумная экономия: 5 гениальных идей, как использовать просроченный крем в быту Разумная экономия: 5 гениальных идей, как использовать просроченный крем в быту

Реюз: как можно повторно использовать крем?

ТехИнсайдер
Узнайте необычные привычки людей с высоким интеллектом! Интересные факты Узнайте необычные привычки людей с высоким интеллектом! Интересные факты

На умственные способности человека влияет множество факторов

ТехИнсайдер
«Невинная шалость вылилась в оскорбления»: звезда сериала «Сваты» Олеся Железняк пережила травлю из-за фигуры «Невинная шалость вылилась в оскорбления»: звезда сериала «Сваты» Олеся Железняк пережила травлю из-за фигуры

Олеся Железняк столкнулась с упреками из-за лишнего веса

VOICE
Инструктаж от стилиста: как выбрать платье на лето, чтобы спрятать животик Инструктаж от стилиста: как выбрать платье на лето, чтобы спрятать животик

Фасоны платьев, в которых ты будешь чувствовать себя отлично и уверенно

VOICE
Для комаров создали Для комаров создали

Комары, по-видимому, предпочитают определенные особенные человеческие запахи

ТехИнсайдер
«Я расплакалась после отъезда из России»: Яна Троянова призналась, что эмигрировала во Францию «Я расплакалась после отъезда из России»: Яна Троянова призналась, что эмигрировала во Францию

Яна Троянова устраивает жизнь во Франции

VOICE
Советские граждане, а не евреи: почему в СССР практически не говорили о Холокосте Советские граждане, а не евреи: почему в СССР практически не говорили о Холокосте

Почему советские власти пытались замолчать трагедию о Холокосте

Forbes
«Океан — это непрозрачный шар, в который мы тыкаем иголочкой»: чем занимаются океанологи и как попасть в эту профессию «Океан — это непрозрачный шар, в который мы тыкаем иголочкой»: чем занимаются океанологи и как попасть в эту профессию

Чем интересна океанология и что нужно, чтобы изучать океан?

Вокруг света
Мужчина 15 лет на больничном. Ему не повышают зарплату, и он подал в суд на работодателя Мужчина 15 лет на больничном. Ему не повышают зарплату, и он подал в суд на работодателя

Недовольный работник IT-компании больше 10 лет находится в больничном отпуске

ТехИнсайдер
70% россиян готовы к искусственному оплодотворению: результаты опроса о репродуктивном здоровье 70% россиян готовы к искусственному оплодотворению: результаты опроса о репродуктивном здоровье

Что россияне знают о репродуктивном здоровье?

Psychologies
Кому подойдет диалектическая поведенческая терапия (ДПТ) Кому подойдет диалектическая поведенческая терапия (ДПТ)

ДПТ была разработана в конце 1980-х годов американским психологом Маршей Линехан

Psychologies
20 фильмов Каннского фестиваля 20 фильмов Каннского фестиваля

Двадцатка лучших фильмов в программе Каннского кинофестиваля

Weekend
Карту на стол: как развивался русский авангрард Карту на стол: как развивался русский авангрард

По какой схеме развивался русский авангард? Объясняет искусствовед

Правила жизни
Почему обычно распадаются браки: 4 главные причины — узнайте, как этого не допустить Почему обычно распадаются браки: 4 главные причины — узнайте, как этого не допустить

Причиной разводов чаще всего становятся четыре стандартные проблемы

Psychologies
Почему гималайская соль считается полезной: правда или миф Почему гималайская соль считается полезной: правда или миф

Стоит ли вам поменять свою соль?

ТехИнсайдер
Гипоксия наполовину продлила жизнь ускоренно стареющих мышей Гипоксия наполовину продлила жизнь ускоренно стареющих мышей

Несколько видов воздействия, замедляющих старение и продлевающих жизнь

N+1
От чистого сердца? От чистого сердца?

Истории, в которых за добрыми поступками явно прослеживается другой мотив

Лиза
Есть ли жизнь после Tinder: 7 аналогичных приложений для знакомств Есть ли жизнь после Tinder: 7 аналогичных приложений для знакомств

Почему приложения для знакомств стали столь значимой частью нашей жизни

Psychologies
От медосмотра до послеполетных работ: из чего складывается рабочий день бортпроводника От медосмотра до послеполетных работ: из чего складывается рабочий день бортпроводника

О подготовке к рейсу и обязанностях бортпроводников

ТехИнсайдер
Мессенджер в голове: есть ли перспективы у «техно-телепатии» Мессенджер в голове: есть ли перспективы у «техно-телепатии»

Как людям обмениваться мыслями, не став жертвами унификации

VC.RU
Брак — это не только сделка: как появилось замужество по любви и право на развод Брак — это не только сделка: как появилось замужество по любви и право на развод

Отрывок из книги «Неприглядная история» от блога «АСЯ ЗНАЕТ»

Forbes
Колхоз – дело добровольное Колхоз – дело добровольное

Как в Советском Союзе «колхозили» запчасти для иностранных автомобилей

Автопилот
Как защитить уличную мебель от непогоды: 6 советов по уходу Как защитить уличную мебель от непогоды: 6 советов по уходу

Как следить за уличной мебелью, чтобы она прослужила долгие годы?

ТехИнсайдер
Почему сносят диковинный Дом Советов в Калининграде Почему сносят диковинный Дом Советов в Калининграде

Печальная история уникального здания, которое похоже на голову робота

Maxim
Почему скорпионы светятся в темноте? Почему скорпионы светятся в темноте?

Скорпионы светятся в темноте и при ультрафиолетовом освещении! Зачем?

ТехИнсайдер
Открыть в приложении