Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как продвигать сезонные товары на маркетплейсах: реальный опыт селлеров Как продвигать сезонные товары на маркетплейсах: реальный опыт селлеров

Как ретейлеру работать с сезонными товарами на маркетплейсах?

Inc.
«Стриптиз» Джанет Джексон, неудачные фото Бейонсе и средний палец M.I.A: самые яркие и скандальные выступления в истории Супербоула «Стриптиз» Джанет Джексон, неудачные фото Бейонсе и средний палец M.I.A: самые яркие и скандальные выступления в истории Супербоула

Самые впечатляющие Halftime show в перерыве Супербоула

СНОБ
Тела при нагревании расширяются, но не всегда Тела при нагревании расширяются, но не всегда

Что сдерживает тепловое расширение в уникальном сплаве из четырех элементов

ТехИнсайдер
Если случится ядерная зима, человечество спасут от голода плантации водорослей Если случится ядерная зима, человечество спасут от голода плантации водорослей

Альтернативный источник питания, который может спасти огромное количество жизней

ТехИнсайдер
Это не то,что вы подумали: страпонтен, клитория, епитрахиль — слова, за которые вам не должно быть стыдно Это не то,что вы подумали: страпонтен, клитория, епитрахиль — слова, за которые вам не должно быть стыдно

О словах, за которые вам не должно быть стыдно, пусть и звучат они забавно

ТехИнсайдер
Энергетический баланс: 4 совета для восстановления сил Энергетический баланс: 4 совета для восстановления сил

Что делать, если энергия пропала, а на ее место пришла хроническая усталость?

Psychologies
5 главных признаков того, что мужчина вам изменяет 5 главных признаков того, что мужчина вам изменяет

Лучше держать в голове основные признаки поведения, которые указывают на измену

Psychologies
Кому из автовладельцев придется заплатить налог на роскошь. Ответ ФНС Кому из автовладельцев придется заплатить налог на роскошь. Ответ ФНС

Кому скоро придется платить за свою машину больше, объяснили в ФНС

РБК
Лед и пламя: исследование антарктического вулкана может объяснить, возможна ли жизнь на Марсе Лед и пламя: исследование антарктического вулкана может объяснить, возможна ли жизнь на Марсе

Соединение льда и огня может дать подсказку о том, как выглядит жизнь на Марсе

ТехИнсайдер
Ругайтесь на здоровье: 2 аргумента в пользу ссор в паре Ругайтесь на здоровье: 2 аргумента в пользу ссор в паре

Мужья и жены, которые спорят до хрипоты, живут дольше тех, кто подавляет гнев

Psychologies
Перед употреблением сварить: 6 продуктов, которые становятся полезнее после термической обработки Перед употреблением сварить: 6 продуктов, которые становятся полезнее после термической обработки

Какие продукты в приготовленном виде еще более полезны для нашего здоровья

ТехИнсайдер
«Это проблема моя или моей мокрой рубашки?»: как выйти из неловкой ситуации красиво «Это проблема моя или моей мокрой рубашки?»: как выйти из неловкой ситуации красиво

Неловкости могут показаться унизительными, но исправить их нам вполне по силам

Psychologies
Константин Юшкевич: «Меня должны окружать приятные люди, чтобы не шел на работу как на каторгу» Константин Юшкевич: «Меня должны окружать приятные люди, чтобы не шел на работу как на каторгу»

Подходит мужчина-ровесник и осыпает восторгами: «Вы так нравитесь моей маме!»

Коллекция. Караван историй
Деловой подход Деловой подход

О том, как входить в новый коллектив, быть в нем эффективным и на хорошем счету

Psychologies
Google Deepmind: ИИ обладает способностью к самопознанию, нужно только правильно его спросить Google Deepmind: ИИ обладает способностью к самопознанию, нужно только правильно его спросить

Ученые предложили новую систему промтов, которую назвали «самопознание»

ТехИнсайдер
Солонку в сторону! Продукты, содержащие наибольшее количество скрытой соли Солонку в сторону! Продукты, содержащие наибольшее количество скрытой соли

Сколько соли – это много, как это влияет на здоровье и как ее сократить?

Лиза
ТОП-5 собак, которые часто переедают ТОП-5 собак, которые часто переедают

Есть породы собак, которые склонны переедать постоянно. Кто эти попрошайки?

ТехИнсайдер
Финансовые платформы уже давно не выбор новаторов, а новый образ жизни Финансовые платформы уже давно не выбор новаторов, а новый образ жизни

Как сохранять вовлеченность клиентов в условиях повышенной волатильности

Деньги
Крик-менеджмент вместо эффективной стройки Крик-менеджмент вместо эффективной стройки

В чем особенности российской стройки и какова ее эффективность?

Монокль
MAXIM поговорил с Ришелье из фильма «Три мушкетёра: Миледи» MAXIM поговорил с Ришелье из фильма «Три мушкетёра: Миледи»

Что в французских фильмах о Мушкетерах особенного, объясняет актер Эрик Руф

Maxim
Что происходит с китайскими электрокарами после ДТП. Лайфхак от экспертов Что происходит с китайскими электрокарами после ДТП. Лайфхак от экспертов

При авариях китайские электрокары отключаются, как их чинить?

РБК
История стирки: как в разных странах справлялись с грязной одеждой до появления стиральной машины История стирки: как в разных странах справлялись с грязной одеждой до появления стиральной машины

Раньше для стирки люди использовали камни, мыло из животного жира и керосин

ТехИнсайдер
«От Энигмы до ChatGPT»: почему люди до сих пор боятся искусственного интеллекта «От Энигмы до ChatGPT»: почему люди до сих пор боятся искусственного интеллекта

Как относиться к искусственному разуму? Ищем ответ в «От "Энигмы" до ChatGPT»

ТехИнсайдер
Дойти до конца цепочки Дойти до конца цепочки

Как Россия может достичь технологического суверенитета в сфере производства РЗМ

Монокль
Морские выдры спасают берега от эрозии и обрушения Морские выдры спасают берега от эрозии и обрушения

Как каланы сохраняют состояние берегов заболоченных устьев рек

ТехИнсайдер
100%-ный пациент 100%-ный пациент

Даниил Воробьёв: насколько контрастны и созданные им персонажи, и реальная жизнь

OK!
От Парижа до Бразилии: как 100 лет назад эмигрантки строили международную карьеру От Парижа до Бразилии: как 100 лет назад эмигрантки строили международную карьеру

Истории эмигранток, которым удалось добиться мирового признания

Forbes
5 признаков, что вас «френдзонят» 5 признаков, что вас «френдзонят»

«Френдзона»: как работает этот феномен и что делать, если вы в нем оказались?

Psychologies
«Смерть и другие подробности»: почему новый детективный сериал не впечатляет зрителей «Смерть и другие подробности»: почему новый детективный сериал не впечатляет зрителей

Кинокритик рассказывает про сериал о пожилом сыщике и его неожиданной помощнице

Forbes
Хангерфордская трагедия: первое массовое убийство в истории Британии Хангерфордская трагедия: первое массовое убийство в истории Британии

В 12:30 утра из пистолета Майкла Райана раздался первый выстрел

ТехИнсайдер
Открыть в приложении