Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Продавцы воздуха. Как бизнес экономит на потребителях и при чем тут шринкфляция Продавцы воздуха. Как бизнес экономит на потребителях и при чем тут шринкфляция

Где граница между маркетинговой хитростью и нарушением доверия покупателей?

Inc.
Зачем смартфонам камеры с высоким разрешением Зачем смартфонам камеры с высоким разрешением

Есть ли смысл в камерофонах?

ТехИнсайдер
Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.
Историки установили кто придумал десятичную точку. Это великое открытие случилось в 1440 году, но о нем надолго забыли Историки установили кто придумал десятичную точку. Это великое открытие случилось в 1440 году, но о нем надолго забыли

Открытие Джованни Бьянкини было слишком революционным и было забыто

ТехИнсайдер
Недобрососедские отношения: как зумеры обесценили мечту миллениалов и что из этого получилось Недобрососедские отношения: как зумеры обесценили мечту миллениалов и что из этого получилось

Почему зумерам и миллениалами так сложно взаимодействовать друг с другом?

Правила жизни
Любить нельзя купить Любить нельзя купить

Попытка понять современное искусство

Men Today
18+: 5 самых интересных эротических романов последних лет 18+: 5 самых интересных эротических романов последних лет

Подборка книг, авторы которых не боятся писать об интригующих сторонах отношений

Maxim
Колебания курсов Колебания курсов

Онлайн-образование может стать шансом начать новую жизнь...

VOICE
Подождите выбрасывать: 10 гениальных идей, что можно сделать из старой шторки для душа Подождите выбрасывать: 10 гениальных идей, что можно сделать из старой шторки для душа

Несколько потрясающих идей необычных методов использования душевой занавески

ТехИнсайдер
Словно в кинотеатре: как приготовить вкусный попкорн в домашних условиях Словно в кинотеатре: как приготовить вкусный попкорн в домашних условиях

Как приготовить попкорн в микроволновой печи, духовке и сотейнике

ТехИнсайдер
Приятных сновидений Приятных сновидений

Лучшее время для сна: во сколько лечь спать, чтобы отдохнуть и восстановить силы

Лиза
Рыбам-клоунам не понравились сородичи с таким же количеством полос Рыбам-клоунам не понравились сородичи с таким же количеством полос

Животные способны различать сородичей по голосу, цвету или другим признакам

N+1
«Оценки — не главное»: о чем стоит задуматься родителям школьников «Оценки — не главное»: о чем стоит задуматься родителям школьников

Все ли родители понимают, для чего их дети ходят в школу?

Psychologies
7 правил контроля над эмоциями в конфликте 7 правил контроля над эмоциями в конфликте

Как научиться управлять чувствами, если назревает ссора?

Psychologies
Ты точно его слушаешь: Кто такой MACAN? Ты точно его слушаешь: Кто такой MACAN?

Чем MACAN так нас всех зацепил?

ЖАРА Magazine
«Идеальные дни» Вима Вендерса — фильм, после которого хочется обнять весь мир «Идеальные дни» Вима Вендерса — фильм, после которого хочется обнять весь мир

Почему картина «Идеальные дни» действительно так хороша

Правила жизни
Великий Гусляр и новейшие кинотренды Великий Гусляр и новейшие кинотренды

«Очевидное невероятное»: сатирический цикл Кира Булычева в сериальном формате

Weekend
Что за «Прелесть»: каким получился сериал с Олегом Меньшиковом о криминальной России Что за «Прелесть»: каким получился сериал с Олегом Меньшиковом о криминальной России

Зачем смотреть «Прелесть» — историю о призраках прошлого и демонах настоящего?

Forbes
«Сцены из супружеской жизни» — телеспектакль Ингмара Бергмана и его ремейк с Оскаром Айзеком и Джессикой Честейн «Сцены из супружеской жизни» — телеспектакль Ингмара Бергмана и его ремейк с Оскаром Айзеком и Джессикой Честейн

Психологическая драма Ингмара Бергмана и ее ремейк 2021 года

СНОБ
«Черный вторник»: биржевой крах на Уолл-Стрит 1929 года «Черный вторник»: биржевой крах на Уолл-Стрит 1929 года

Рассказываем о биржевом крахе, произошедшем на Уолл-Стрит 29 октября 1929 года

ТехИнсайдер
«В параллели с Netflix, клиенты платят слишком мало и слишком многое получают бесплатно»: главное из интервью главы Wink «В параллели с Netflix, клиенты платят слишком мало и слишком многое получают бесплатно»: главное из интервью главы Wink

Гендиректор Wink — про оригинальные проекты и стоимость подписок

VC.RU
Продюсер Леонид Бурлаков: У меня до сих пор сохранилась вера в то, что у нашего человека хороший вкус Продюсер Леонид Бурлаков: У меня до сих пор сохранилась вера в то, что у нашего человека хороший вкус

Продюсер Леонид Бурлаков — о современной российской музыке

СНОБ
«Галиматья»: давайте разбираться, откуда растут ноги у этого слова «Галиматья»: давайте разбираться, откуда растут ноги у этого слова

Мы расскажем о происхождении слова «галиматья»

ТехИнсайдер
Красота по-японски Красота по-японски

В чем суть ключевых понятий японской эстетики?

Вокруг света
За что страдало искусство За что страдало искусство

Как политические активисты учились уничтожать картины и скульптуры

Weekend
«Паутинка жизни»: судьба Евгения Замятина «Паутинка жизни»: судьба Евгения Замятина

О важности темы отдельного человека в творчестве Е. И. Замятина

Знание – сила
«Свое перемещение на Запад он никогда не называл эмиграцией — для него это было изгнание» «Свое перемещение на Запад он никогда не называл эмиграцией — для него это было изгнание»

Как Александр Солженицын относился к эмиграции и почему вернулся победителем

Weekend
Последний поход генерала Юденича Последний поход генерала Юденича

Осенью 1919 года гражданская война в России достигла кульминации

Дилетант
О чем говорят машины? О чем говорят машины?

Автомобиль — не только средство передвижения, но и средство самовыражения

Men Today
Как перестать искать в мужчине отца: история клиентки психолога Как перестать искать в мужчине отца: история клиентки психолога

Как женщине изменить негативный сценарий и найти партнера, а не родителя?

Psychologies
Открыть в приложении