Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 советов, как побороть нерешительность и довести дело до конца 5 советов, как побороть нерешительность и довести дело до конца

Нерешительность — одна из самых разочаровывающих и непродуктивных форм поведения

Inc.
У древних жителей Бахрейна нашли защищающий от малярии вариант гена У древних жителей Бахрейна нашли защищающий от малярии вариант гена

Ученые прочитали ДНК четырех людей периода Тилоса

N+1
Что получится, если скрестить автомобиль с коптером: концепт первой отечественной летающей машины Что получится, если скрестить автомобиль с коптером: концепт первой отечественной летающей машины

Футуристические идеи о летающем транспорте могут обрести материальную форму

ТехИнсайдер
Перед употреблением сварить: 6 продуктов, которые становятся полезнее после термической обработки Перед употреблением сварить: 6 продуктов, которые становятся полезнее после термической обработки

Какие продукты в приготовленном виде еще более полезны для нашего здоровья

ТехИнсайдер
«Река горит!» Как необычный пожар изменил отношение Америки к экологии «Река горит!» Как необычный пожар изменил отношение Америки к экологии

Река Куяхога: пожар, переключивший сознание целой нации

ТехИнсайдер
Зимний сад Зимний сад

Какие живые цветы будут красиво смотреться в вазе зимой

Лиза
Инженеры научились вызывать галлюцинации у автомобилей Инженеры научились вызывать галлюцинации у автомобилей

Выяснилось, что «умом» автомобилей могут воспользоваться злоумышленники

Maxim
Помните СССР? Вот как рождается «коллективный разум»: интересные факты! Помните СССР? Вот как рождается «коллективный разум»: интересные факты!

Хорошо ли, когда в обществе у всех людей один и тот же опыт?

ТехИнсайдер
«Байденомика» против «трампономики» «Байденомика» против «трампономики»

Чья экономическая политика выгоднее для США

Деньги
Чит-коды Скайрим: все самое важное от денег до оружия Чит-коды Скайрим: все самое важное от денег до оружия

В этой статье мы перечислим все основные чит-коды в Скайрим

CHIP
Трудный зимний «хлеб» Трудный зимний «хлеб»

«Крадусь, следуя цепочкам следов диких коз...»

Наука и жизнь
Если случится ядерная зима, человечество спасут от голода плантации водорослей Если случится ядерная зима, человечество спасут от голода плантации водорослей

Альтернативный источник питания, который может спасти огромное количество жизней

ТехИнсайдер
VIP-тюнинг VIP-тюнинг

Эксидовцы расстарались – флагман Exeed VX поехал значительно благороднее

Автопилот
Без сахара Без сахара

Что будет, если перестать есть сахар

Лиза
Правило «2-2-2»: как паре стать счастливее с помощью простых ритуалов Правило «2-2-2»: как паре стать счастливее с помощью простых ритуалов

Отношения с партнером превратились в рутину?

Psychologies
Почти на миллион тонн больше потребности Почти на миллион тонн больше потребности

В России может быть выработано до 7 млн тонн сахара

Агроинвестор
Сегодня в меню: почему кинематограф стал одержим темой еды Сегодня в меню: почему кинематограф стал одержим темой еды

В последние годы кино и телевидение буквально захватили гастрономические проекты

Правила жизни
Восполняем недостаток солнца в зимнее время: что надо знать о витамине D Восполняем недостаток солнца в зимнее время: что надо знать о витамине D

Чувствуете упадок сил, а кожа стала сухой и тусклой?

Psychologies
Чем полезен орех пекан: 4 свойства Чем полезен орех пекан: 4 свойства

Насколько пекан полезен и почему не стоит им увлекаться, выясняем у экспертов

РБК
В мозге и крови при алкоголизме увидели признаки биологического старения В мозге и крови при алкоголизме увидели признаки биологического старения

В работе использовали двое эпигенетических часов и три биомаркера

N+1
И снова здравствуйте И снова здравствуйте

Наступает момент, когда пора перестать стесняться своего тела, желаний, фантазий

Лиза
Идеальный стейк для настоящего мужчины Идеальный стейк для настоящего мужчины

Умение готовить стейк легко освоить. Главное – знать несколько нюансов

Лиза
«Моя Римская империя»: почему в трудных ситуациях наши мысли фокусируются на чем-то странном и как это нам помогает «Моя Римская империя»: почему в трудных ситуациях наши мысли фокусируются на чем-то странном и как это нам помогает

Как зародился феномен «Моя Римская империя» и чем он полезен (или вреден)?

Psychologies
Геологическую активность молодого Марса объяснили вертикальной тектоникой Геологическую активность молодого Марса объяснили вертикальной тектоникой

Марс был гораздо более тектонически активен, чем считали ученые

N+1
Северные плавуны освоили мелководье и научили этому других Северные плавуны освоили мелководье и научили этому других

Освоение северными плавунами мелководья может быть культурной традицией

N+1
Чай Чай

Чай можно не только пить, но и использовать в приготовлении еды

Здоровье
12 фильмов про интровертов 12 фильмов про интровертов

Фильмы разных жанров, которых объединяет присутствие героев-интровертов

Psychologies
Как (не) работают книги по саморазвитию и самопомощи: мнение людей с депрессией Как (не) работают книги по саморазвитию и самопомощи: мнение людей с депрессией

Насколько эффективны книги по самопомощи? Что стоит учитывать при их выборе?

Psychologies
Это наследственное Это наследственное

Разборки с братьями, сыновьями и даже внуками среди Рюриковичей

Дилетант
Связь времен Связь времен

Самое важное в бизнесе – каждый человек в команде должен быть профессионалом

Grazia
Открыть в приложении