Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

У берегов Явы обнаружили обломки черепов поздних эректусов У берегов Явы обнаружили обломки черепов поздних эректусов

Впервые были описаны фрагменты черепов архаичных людей, поднятые у острова Ява

N+1
Секси или нет? Что мужчины думают о женских коротких стрижках на самом деле Секси или нет? Что мужчины думают о женских коротких стрижках на самом деле

Что думают о женских коротких стрижках мужчины?

Cosmopolitan
От полезных советов до создания ИИ-жен: как люди используют чат-ботов От полезных советов до создания ИИ-жен: как люди используют чат-ботов

Как люди пользуются персонифицированными чат-ботами?

Inc.
На дворе отрава На дворе отрава

Венгерский фильм «Икота» — кинематографический потомок обэриутов

Weekend
Типы старения лица и кожи: какие бывают и как их определить Типы старения лица и кожи: какие бывают и как их определить

Какие типы старения лица и организма существуют?

РБК
Море спокойствия Море спокойствия

Эмбер Валлетта: путь чувств может привести к грусти, а мысли требуют действия

Vogue
«Я будто все та же юная девушка с огоньком в глазах». Марион Котийяр — о начале карьеры, Каннах и сотрудничестве с Chopard «Я будто все та же юная девушка с огоньком в глазах». Марион Котийяр — о начале карьеры, Каннах и сотрудничестве с Chopard

Марион Котийяр о сотрудничестве с Chopard, любимых украшениях и Каннах

Forbes
9 явлений, которые никогда не увидит глаз, но которые можно сфотографировать 9 явлений, которые никогда не увидит глаз, но которые можно сфотографировать

Собрали в одном месте все то, что не видят наши глупые глаза

Maxim
Гордость и гордыня: в чем между ними разница? Гордость и гордыня: в чем между ними разница?

Как определить, что именно мы испытываем — гордость или гордыню?

Psychologies
Пройдите на просвечивание Пройдите на просвечивание

Что мультиволновая астрономия видит в недрах звезд и галактик

N+1
Один «мидл» — хорошо, а два «джуна» лучше. Как сэкономить на найме разработчиков Один «мидл» — хорошо, а два «джуна» лучше. Как сэкономить на найме разработчиков

Работодатели сильно недооценивают плюсы от найма junior-разработчиков

Inc.
Структура научных революций Структура научных революций

Новаторский анализ научного развития

kiozk originals
(Не) конкурент: в чем нейросеть уступает человеку, а в чем нет (Не) конкурент: в чем нейросеть уступает человеку, а в чем нет

Какие человеческие качества все еще невозможно воспроизвести в нейросетях?

РБК
Интерьер для коллекционеров Интерьер для коллекционеров

Квартира как музей современного искусства

SALON-Interior
Внимание на экран Внимание на экран

Какой ценой далось онлайн-обучение на карантине светским родителям и детям

Tatler
Время динозавров Время динозавров

Новая история древних ящеров

kiozk originals
Потеря матери снизила репродуктивный успех самцов шимпанзе Потеря матери снизила репродуктивный успех самцов шимпанзе

Осиротевшие самцы шимпанзе отличаются пониженной конкуретноспособностью

N+1
Пять трюков, которым можно научить кошку Пять трюков, которым можно научить кошку

Кошек можно дрессировать, если найти к ним правильный подход

Популярная механика
Не помню – значит, не было Не помню – значит, не было

Зачем наш мозг обманывает нас, изменяя память?

Лиза
«Долой Баффета, теперь я ваш папа!»: почему финтех-стартап Robinhood может стать дорогой в никуда для миллионов инвесторов «Долой Баффета, теперь я ваш папа!»: почему финтех-стартап Robinhood может стать дорогой в никуда для миллионов инвесторов

Стартап Robinhood уже привлек на фондовый рынок миллионы непрофессионалов

Forbes
Калифорния: Краткая история суши Калифорния: Краткая история суши

Книга, которая в деталях рассматривает классическое японское блюдо

kiozk originals
Акции, стартапы, недвижимость: куда инвестируют Гарвард, Йель, Стэнфорд и другие зарубежные университеты Акции, стартапы, недвижимость: куда инвестируют Гарвард, Йель, Стэнфорд и другие зарубежные университеты

Среди инвестиций университетов компании вроде Google, Facebook и LinkedIn

VC.RU
Если вы заблудились в лесу: инструкция по выживанию от психолога Если вы заблудились в лесу: инструкция по выживанию от психолога

Руководство по выживанию в лесу

Psychologies
Почему все время грустно? 9 частых причин, которые нельзя игнорировать Почему все время грустно? 9 частых причин, которые нельзя игнорировать

Что провоцирует подавленное настроение?

Playboy
Это моя добыча Это моя добыча

Сторонники «львиной диеты» уверены, что можно питаться одним лишь мясом

Tatler
Новый Шелковый Путь Новый Шелковый Путь

Настоящее и будущее этого мира

kiozk originals
Селфи Селфи

Почему мы зациклены на себе и как это на нас влияет

kiozk originals
Несгибаемая боярыня Несгибаемая боярыня

Боярыня Морозова пыталась бороться с церковной реформой

Дилетант
Как правила и границы помогут справиться с детскими капризами Как правила и границы помогут справиться с детскими капризами

Жизнь без границ и ориентиров делает ребенка очень уязвимым

Psychologies
Глотаемую капсулу с электростимулятором испытали в свином желудке Глотаемую капсулу с электростимулятором испытали в свином желудке

Глотаемая капсула внедряет электроды и помогает мыщцам желудка сокращаться

N+1
Открыть в приложении