Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 советов, как побороть нерешительность и довести дело до конца 5 советов, как побороть нерешительность и довести дело до конца

Нерешительность — одна из самых разочаровывающих и непродуктивных форм поведения

Inc.
Валя Карнавал: «Это было невероятно!» Валя Карнавал: «Это было невероятно!»

Валя Карнавал — о том, как стала ведущей огромного мероприятия

ЖАРА Magazine
Роботы Figure научились сообща сортировать предметы Роботы Figure научились сообща сортировать предметы

Компания Figure разработала универсальный алгоритм управления роботами

N+1
10 советов, которые помогут вернуть вашей жизни смысл 10 советов, которые помогут вернуть вашей жизни смысл

Что можно сделать, чтобы снова увидеть ценность своего существования?

Psychologies
Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья

Страдающие ежи и Средневековье: что ели люди в эпоху рыцарей?

ТехИнсайдер
Болезнь Гоголя? Узнайте, как людей с «каталепсией» хоронили в гробах заживо! Болезнь Гоголя? Узнайте, как людей с «каталепсией» хоронили в гробах заживо!

Когда-то от погребения некоторых людей буквально «спасал звонок в колокол»

ТехИнсайдер
Почему кино про уборщика туалетов «Идеальные дни» хвалят критики по всему миру Почему кино про уборщика туалетов «Идеальные дни» хвалят критики по всему миру

«Идеальные дни» — скрытая гармония Токио влюбленными глазами Вима Вендерса

СНОБ
Лучшие брокерские приложения: как они изменились за последние два года Лучшие брокерские приложения: как они изменились за последние два года

Как брокерские приложения изменились за два года и какое теперь лучшее?

Forbes
No Frost или капельная система: что лучше? No Frost или капельная система: что лучше?

Основных типов разморозки холодильника два: капельная система и No Frost

CHIP
Шлумбергеры в доме: долгая и интересная жизнь Шлумбергеры в доме: долгая и интересная жизнь

Шлумбергеры встречаются там во влажных горных лесах на высоте до 2800 м

Наука и жизнь
«Болезнь медового месяца»: что такое посткоитальный цистит и как его распознать и вылечить «Болезнь медового месяца»: что такое посткоитальный цистит и как его распознать и вылечить

Почему возникает посткоитальный цистит?

VOICE
Александр Семчев: «Толстый — значит, смешной — это заблуждение» Александр Семчев: «Толстый — значит, смешной — это заблуждение»

Александр Семчев — о своей новой актерской работе и об отношениях со зрителями

Монокль
«Бедные-несчастные» Йоргоса Лантимоса: стимпанк-фантазия про эмансипацию, номинированная на 10 «Оскаров» «Бедные-несчастные» Йоргоса Лантимоса: стимпанк-фантазия про эмансипацию, номинированная на 10 «Оскаров»

Почему «Бедных-несчастных» Лантимоса не стоит игнорировать

Правила жизни
Как дизайнер и химик создали заметный российский парфюмерный бренд Fakoshima Как дизайнер и химик создали заметный российский парфюмерный бренд Fakoshima

Как Fakoshima сумел закрепиться на российском рынке

Forbes
Робот двигается по артериям и прокалывает бляшки, спасая от инсульта Робот двигается по артериям и прокалывает бляшки, спасая от инсульта

Робот, который может быть использован для лечения людей после инсульта

ТехИнсайдер
Утром двери, вечером стулья Утром двери, вечером стулья

У Вадима Груничева под одной крышей живут две противоположные модели бизнеса

Монокль
«Добрая дочь Витовта» «Добрая дочь Витовта»

Для средневековой истории ребёнок на престоле — практически гарантия смуты

Дилетант
Зачем здоровый образ жизни пожилому человеку? Зачем здоровый образ жизни пожилому человеку?

Какие корректировки в образ жизни нужно вносить пожилому человеку?

Здоровье
«Шулеры» и дело Таубмана: самые громкие судебные процессы против аукционных домов «Шулеры» и дело Таубмана: самые громкие судебные процессы против аукционных домов

Как закончились самые заметные тяжбы в аукционной истории

Forbes
Еще не все пропало! Еще не все пропало!

Что делать, если потеряла телефон: защищаем данные, восстанавливаем контакты

Лиза
Потустороннее ископаемое Потустороннее ископаемое

«Спуск в бездну»: клаустрофобический ретрохоррор о столкновении с древним злом

Weekend
Чай Чай

Чай можно не только пить, но и использовать в приготовлении еды

Здоровье
Названый брат Названый брат

«Брат 3»: маловразумительный коллаж с продаваемым названием

Weekend
Без паники! Без паники!

Признаки хронического стресса, о которых ты вряд ли догадывалась

Лиза
Что это было? Почему ученый отказалась от карьеры ради воспитания приемных детей Что это было? Почему ученый отказалась от карьеры ради воспитания приемных детей

Почему люди отказываются от карьеры ради воспитания приемных детей

СНОБ
Почему троит двигатель и как это исправить Почему троит двигатель и как это исправить

Троение двигателя — конкретный набор симптомов и причин

РБК
Эксцентрик, англоман, эксгибиционист. Как одевался Даниил Хармс Эксцентрик, англоман, эксгибиционист. Как одевался Даниил Хармс

О пиджаках, гетрах, кепке, трости и трубке Даниила Хармса

СНОБ
РПП и ОКР: от каких психических расстройств могут страдать домашние животные РПП и ОКР: от каких психических расстройств могут страдать домашние животные

Ментальному здоровью вашего четвероногого друга тоже требуется внимание

ТехИнсайдер
Только через мой труд Только через мой труд

Что такое трудоголизм и как от него уберечься без вреда для карьеры?

Men Today
Майнд-фитнес: как оставаться умным, когда другие глупеют? Майнд-фитнес: как оставаться умным, когда другие глупеют?

Как отодвинуть старение мозга на несколько десятилетий?

Psychologies
Открыть в приложении