Ученые создали инструмент для редактирования объектов на изображении

N+1Hi-Tech

Нейросеть получила удобный интерфейс редактирования изображений

Он напоминает редактор внешности в видеоиграх

Виктория Земляк

40c394a560f62d417ec8c9208cc0404f.gif
Пример работы DragGAN. Theobalt et al. / arXiv, 2023

Ученые из США и Германии создали инструмент для редактирования объектов на изображении DragGAN. Он основан на нейросети, которая на лету генерирует новые изображения. Пользователь может отмечать мышкой разные элементы на фотографии, и они реалистично перемещаются, поворачиваются, растягиваются и уменьшаются — похожий подход нередко используют в видеоиграх для редактирования внешности персонажа. Препринт доступен на arXiv.org.

В последние пару лет случился бум диффузионных нейросетей для генерации изображений по текстовым запросам — например, Stable Diffusion, DALL-E и Midjourney. Диффузионная модель умеет генерировать реалистичные изображения из случайного шума, а текстовое описание подсказывает модели, что именно должно быть на изображении. Но есть проблема: диффузионные нейросети недостаточно точны и не подходят, если нужно выполнить очень конкретную задачу при редактировании: сдвинуть объект на несколько пикселей в определенную сторону или повернуть его на определенное количество градусов.

Задачу точного редактирования изображений можно решить с помощью других нейросетевых архитектур. Например, до появления диффузионных нейросетей часто использовали GAN — генеративно-состязательные сети. Такая модель состоит из двух нейросетей: генеративной и состязательной. По сути две нейросети соревнуются друг с другом: состязательная сеть учится отличать реальные изображения от сгенерированных, а генеративная, в свою очередь, пытается сгенерировать максимально реалистичные изображения из случайного шума (на этой идее основаны и диффузионные модели). Состязательная сеть посылает сигнал генеративной модели — сообщает ей, насколько реалистичное получилось изображение. И так до тех пор, пока генеративная сеть не научится обманывать состязательную.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

CAR-T-терапия поставила на ноги двух пациентов с тяжелой аутоиммунной нейропатией CAR-T-терапия поставила на ноги двух пациентов с тяжелой аутоиммунной нейропатией

Частично обездвиженные заболеванием люди начали ходить с помощью CAR-T-терапии

N+1
Защитный барьер организма Защитный барьер организма

Надо повышать иммунитет. Но медики поспорили бы с такой формулировкой

Лиза
Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны

Устройства времен холодной войны, которые делали работу шпионов эффективнее

ТехИнсайдер
Окситоцин помог мозгу психопатов распознать испуг на лицах Окситоцин помог мозгу психопатов распознать испуг на лицах

После введения окситоцина мозг психопатов начинает лучше распознавать испуг

N+1
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
«Чувствовала себя не в своей тарелке»: звезда сериала «Клуб» Катя Кабак призналась, почему вернулась из Лондона в Москву «Чувствовала себя не в своей тарелке»: звезда сериала «Клуб» Катя Кабак призналась, почему вернулась из Лондона в Москву

Катя Кабак поняла, что жизнь в стране с другим менталитетом ей не подходит

VOICE
Лучшие лайфхаки для дома и не только: 7 удивительных применений суперклея Лучшие лайфхаки для дома и не только: 7 удивительных применений суперклея

Некоторые лайфхаки могут показаться вам странными, однако они правда работают!

ТехИнсайдер
7 лучших ролей Алексея Серебрякова 7 лучших ролей Алексея Серебрякова

Алексей Серебряков — человек поразительно долгой карьеры

Maxim
«У меня сердце плачет»: Татьяна Веденеева рассказала, почему носила платья от Зайцева, а не от Юдашкина «У меня сердце плачет»: Татьяна Веденеева рассказала, почему носила платья от Зайцева, а не от Юдашкина

Татьяна Веденеева рассказала об опыте сотрудничества с российскими модельерами

VOICE
«Убийца «Священный паук» — леденящий триллер о том, как иранское общество оправдывало маньяка «Убийца «Священный паук» — леденящий триллер о том, как иранское общество оправдывало маньяка

Чего ждать от фильма «Убийца «Священный паук» Али Аббаси

Правила жизни
И кто научил быть звездой? Самые эпатажные российские знаменитости родом из деревни И кто научил быть звездой? Самые эпатажные российские знаменитости родом из деревни

Про этих знаменитостей точно можно сказать — сделали себя сами!

VOICE
«Любой может сдать». За сообщения в ГИБДД о пьяных стали платить «Любой может сдать». За сообщения в ГИБДД о пьяных стали платить

За сообщения о пьяных водителях в ГИБДД начали платить по 2–4 тыс. руб.

РБК
Вот почему город Кито стал первым в списке наследия ЮНЕСКО. Стоит узнать! Вот почему город Кито стал первым в списке наследия ЮНЕСКО. Стоит узнать!

В списке ЮНЕСКО столица Эквадора оказалась не просто так

ТехИнсайдер
Пробить номер телефона: законно ли и что можно узнать? Пробить номер телефона: законно ли и что можно узнать?

По номеру телефона можно узнать много интересной информации

CHIP
ИИ не может отличить текст, написанный человеком, от текста, созданного ИИ ИИ не может отличить текст, написанный человеком, от текста, созданного ИИ

Объем текстов, созданных ИИ, становится слишком большим

ТехИнсайдер
Какая поза для сна «самая полезная» Какая поза для сна «самая полезная»

Ваша поза во сне может повлиять на его качество, а также на ваше самочувствие

ТехИнсайдер
Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать! Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать!

В чем разница между белком из протеиновых добавок и прямых источников?

ТехИнсайдер
Эрнст Тельман: списан в архив Эрнст Тельман: списан в архив

История немецкого коммуниста Эрнста Тельмана

Дилетант
Промах Гитлера: почему создатель атомной бомбы Оппенгеймер критиковал пакт с СССР Промах Гитлера: почему создатель атомной бомбы Оппенгеймер критиковал пакт с СССР

Отрывок из книги «Оппенгеймер. Триумф и трагедия Американского Прометея»

Forbes
$155 млн за драгоценности: как Хайди Хортен побила рекорд Элизабет Тейлор $155 млн за драгоценности: как Хайди Хортен побила рекорд Элизабет Тейлор

Как Хайди Хортен удалось собрать уникальную коллекцию драгоценностей

Forbes
Модель ИИ может стать основой умного слухового аппарата Модель ИИ может стать основой умного слухового аппарата

Эта модель может стать основой интеллектуальных слуховых аппаратов

ТехИнсайдер
Вернуть себе силы Вернуть себе силы

О чем нам стоит знать, чтобы справиться с проживанием печали и страданий?

Psychologies
Родителям на заметку! Разговор с младенцем влияет на силу нервных сигналов в мозге Родителям на заметку! Разговор с младенцем влияет на силу нервных сигналов в мозге

Ученые обнаружили связь между уровнями речи взрослых и младенческим «миелином»

ТехИнсайдер
Варвары-разрушители: 6 действий, которыми вы сами губите свои отношения Варвары-разрушители: 6 действий, которыми вы сами губите свои отношения

Есть 6 действий, которые превращают вас в варваров в отношениях

Psychologies
Планета по имени Инна Планета по имени Инна

Бывают актеры способные, бывают талантливые, а иногда случаются — великие

Караван историй
Для комаров создали Для комаров создали

Комары, по-видимому, предпочитают определенные особенные человеческие запахи

ТехИнсайдер
Парк открыт Парк открыт

Любые сложности стоят роскошных ландшафтов национальных парков России

Новый очаг
«Я стала более открытой» «Я стала более открытой»

Она принадлежит к тому типу актрис, которые «взрослеют» довольно долго

OK!
Бразильские зоологи встретили гигантского муравьеда-альбиноса Бразильские зоологи встретили гигантского муравьеда-альбиноса

Зоологи поделились свежими фотографиями гигантского муравьеда-альбиноса

N+1
Просто лучшая: как Тина Тернер одевалась на сцене и в жизни — и оставалась иконой Просто лучшая: как Тина Тернер одевалась на сцене и в жизни — и оставалась иконой

Тина Тернер была невероятно цельной и могла зарядить всех и каждого.

Правила жизни
Открыть в приложении