Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Культурный код ИИ: 3 совета по созданию чат-ботов для бизнеса Культурный код ИИ: 3 совета по созданию чат-ботов для бизнеса

Как строить более точные, этичные и адаптивные системы искусственного интеллекта

Inc.
Лимеренция живет три года: когда влюбленность становится опасной Лимеренция живет три года: когда влюбленность становится опасной

Как проявляется любовная обсессия и можно ли избавиться от фиксации?

Psychologies
Стремительный разгон и быстрый взлет: самые короткие взлетно-посадочные полосы в мире Стремительный разгон и быстрый взлет: самые короткие взлетно-посадочные полосы в мире

Аэропорты, взлетно-посадочные полосы которых проверяют пилотов на прочность

ТехИнсайдер
5 простых тренировок для поддержания здоровья 5 простых тренировок для поддержания здоровья

Пять активностей, которые приносят пользу физическому и психическому здоровью

Psychologies
Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
Русская сказка. П. Аксенов Русская сказка. П. Аксенов

Ювелир, атлет, алтарник и распорядитель балов Петр Аксенов пережил ребрендинг

Собака.ru
Короткая история «Тринадцати» — творческой группы начала XX века Короткая история «Тринадцати» — творческой группы начала XX века

Группа «13» началась с общего интереса ее участников к документальному рисунку

СНОБ
Шоковая терапия Шоковая терапия

Неожиданное преимущество электромобилей

Автопилот
Любовно-погодные явления Любовно-погодные явления

«5 сантиметров в секунду»: шедевр Макото Синкая

Weekend
В каких странах принято пить с утра В каких странах принято пить с утра

Есть страны, в которых немного выпить за завтраком абсолютно нормально

Maxim
Круто бланшированный детектив Круто бланшированный детектив

«Месье Спейд»: спин-офф «Мальтийского сокола» с Клайвом Оуэном

Weekend
«Отсутствие конфликтов — серьезный симптом»: почему не стоит бояться разногласий в отношениях «Отсутствие конфликтов — серьезный симптом»: почему не стоит бояться разногласий в отношениях

Глава из книги «Мои любимые триггеры: что делать, когда вас задевают за живое»

Psychologies
8 шагов, чтобы высказать претензии другу и не поссориться 8 шагов, чтобы высказать претензии другу и не поссориться

Что делать, «если друг оказался вдруг» не таким надежным, как вы надеялись?

Psychologies
Валя Карнавал: «Это было невероятно!» Валя Карнавал: «Это было невероятно!»

Валя Карнавал — о том, как стала ведущей огромного мероприятия

ЖАРА Magazine
Лянка Грыу: «Важные решения нужно принимать, когда радость от нового шага больше страха перемен» Лянка Грыу: «Важные решения нужно принимать, когда радость от нового шага больше страха перемен»

Лянка Грыу — о пережитой депрессии, медитативной роли уборки и новой любви

Здоровье
«Кто медленно ходит — медленно думает»: так ли это? «Кто медленно ходит — медленно думает»: так ли это?

Между темпом ходьбы и тем, скоростью мозга есть прямая взаимосвязь

Psychologies
Отец медицины: кто такой Гиппократ и почему врачи обязаны давать ему клятву Отец медицины: кто такой Гиппократ и почему врачи обязаны давать ему клятву

Кто такой Гиппократ и действительно ли он писал текст своей клятвы?

ТехИнсайдер
«Земля плоская: Генеалогия ложной идеи» «Земля плоская: Генеалогия ложной идеи»

Как Христофор Колумб стал символом триумфа над средневековьем

N+1
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Литературные жанры подчиняются правилам, которые формируют их границы

Наука и жизнь
Названый брат Названый брат

«Брат 3»: маловразумительный коллаж с продаваемым названием

Weekend
«Не сдаваться!»: как последовательно идти к своей цели «Не сдаваться!»: как последовательно идти к своей цели

Как преодолеть препятствия, встающие на пути к намеченным целям

Psychologies
Богини в огне: как в Индии обожествляли женщин Богини в огне: как в Индии обожествляли женщин

Глава из книги «Случайные боги» Анна Делла Субин — о людях, которых обожествляли

Forbes
Непростая паста Непростая паста

Несколько не очень известных в России, но популярных в Италии видов пасты

Bones
Без сахара Без сахара

Что будет, если перестать есть сахар

Лиза
Как биржевой игрок Давид Амарян стал крупным рантье Как биржевой игрок Давид Амарян стал крупным рантье

Давид Амарян отлично подходил европейским продавцам как покупатель

Forbes
Паукообразные обезьяны повторили мимику сородичей во время игры Паукообразные обезьяны повторили мимику сородичей во время игры

У людей нечеловеческих приматов есть так называемое игровое лицо

N+1
Как добавить поддержку беспроводной зарядки любому смартфону Как добавить поддержку беспроводной зарядки любому смартфону

Как настроить функцию беспроводной зарядки в любом телефоне?

ТехИнсайдер
Инженеры научились вызывать галлюцинации у автомобилей Инженеры научились вызывать галлюцинации у автомобилей

Выяснилось, что «умом» автомобилей могут воспользоваться злоумышленники

Maxim
В мозге и крови при алкоголизме увидели признаки биологического старения В мозге и крови при алкоголизме увидели признаки биологического старения

В работе использовали двое эпигенетических часов и три биомаркера

N+1
Ученый опроверг миф о нежелании миллениалов работать Ученый опроверг миф о нежелании миллениалов работать

«Миллениалы не хотят работать. Они сосредоточены на тостах с авокадо и латте»

ТехИнсайдер
Открыть в приложении