Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Капуцины острова Хикарон обзавелись традицией похищать и носить на себе детенышей ревунов Капуцины острова Хикарон обзавелись традицией похищать и носить на себе детенышей ревунов

У капуцинов появилась традиция похищать и носить детенышей ревунов

N+1
Гений места Гений места

Элегантный пентхаус в Южном Китае

SALON-Interior
Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков

Настроить телевизор правильно — проще, чем кажется

ТехИнсайдер
Каменный гвоздь Каменный гвоздь

Стремительное развитие городской среды чрезвычайно обогатило наш язык

Maxim
10 ошибок в аэропорту, которые дорого вам обойдутся 10 ошибок в аэропорту, которые дорого вам обойдутся

Рассказываем о мелочах, которые могут существенно подорвать бюджет поездки

Maxim
Сознание — сила Сознание — сила

Как справиться с выгоранием и эффективно работать в команде. Мнение экспертов

Vogue
Сердце: история Сердце: история

Все тайны работы важнейшего органа нашего тела

kiozk originals
«Гнездо» перевернутых ролей: фильм, где Джуд Лоу живет на содержании у жены, притворяясь миллионером «Гнездо» перевернутых ролей: фильм, где Джуд Лоу живет на содержании у жены, притворяясь миллионером

«Гнездо» — индидрама про смену традиционных гендерных ролей

Forbes
«По умолчанию человек — это мужчина»: почему из-за дискриминации женщины чаще умирают от инфаркта и гибнут в авариях «По умолчанию человек — это мужчина»: почему из-за дискриминации женщины чаще умирают от инфаркта и гибнут в авариях

Интервью с автором бестселлера «Невидимые женщины» Кэролайн Криадо Перес

Forbes
Невероятный ВВА-14: вертикально взлетающая амфибия из СССР Невероятный ВВА-14: вертикально взлетающая амфибия из СССР

Экзотический гидросамолет талантливого конструктора

Популярная механика
Захватить рынок туалетной бумаги и провалиться после 116 лет работы: история Scott Paper Company Захватить рынок туалетной бумаги и провалиться после 116 лет работы: история Scott Paper Company

Изобретатель туалетной бумаги так и не смог на ней разбогатеть

VC.RU
Идем в школу: как улучшить память и внимание Идем в школу: как улучшить память и внимание

Зная, как работает мозг, можно добиться от него удивительных результатов

Популярная механика
6 самых сложных компьютерных игр 6 самых сложных компьютерных игр

Cколько джойстиков, мониторов и мышек было разбито во время прохождения этих игр

Maxim
Историческая достоверность и детали со смыслом: как создавались костюмы в фильмах База Лурмана Историческая достоверность и детали со смыслом: как создавались костюмы в фильмах База Лурмана

Лучшие истории костюмов в картинах База Лурмана

Esquire
Земля. Тайная история красок Земля. Тайная история красок

Почему мир вокруг нас раскрашен в такие яркие цвета

kiozk originals
Геном Геном

Автобиография вида в двадцати трех главах

kiozk originals
Свердловчане не сдаются Свердловчане не сдаются

Сергей Светлаков давно пустился в самостоятельное плавание

OK!
Как микробы управляют нами Как микробы управляют нами

Тайные властители жизни на Земле

kiozk originals
Варвара-краса Варвара-краса

Звезда сериала «Чики» Варвара Шмыкова провела 2020‑й получше многих

Tatler
Самые красивые места Уэльса, которые вам точно стоит увидеть Самые красивые места Уэльса, которые вам точно стоит увидеть

Уэльс – регион диких пляжей, причудливых городков и обширных национальных парков

GQ
Как избавиться от созависимости в отношениях? Как избавиться от созависимости в отношениях?

Главное правило отношений: говорите за себя

GQ
Наши в Голливуде: Козловский, Хабенский и другие звезды, покорившие Запад Наши в Голливуде: Козловский, Хабенский и другие звезды, покорившие Запад

Смотри наш список знаменитых русских актеров и режиссеров в Голливуде

Cosmopolitan
Моторизированный рюкзак облегчил ходьбу с грузом Моторизированный рюкзак облегчил ходьбу с грузом

Ходить с таким рюкзаком на 11 процентов легче, чем с обычным

N+1
Как платить смартфоном вместо карты? Как платить смартфоном вместо карты?

Как использовать свой смартфон для оплаты в магазинах

CHIP
Королев против Королева Королев против Королева

Вадик Королев: зачем драться, если можно петь и танцевать

Собака.ru
Уравнение с переменными. Три мнения о Land Rover Discovery Sport Уравнение с переменными. Три мнения о Land Rover Discovery Sport

Редакторы Autonews — об обновленном Land Rover Discovery Sport

РБК
Как подсознание работает на нас: 4 способа услышать его подсказки Как подсознание работает на нас: 4 способа услышать его подсказки

Что вы представляете, когда вам говорят о подсознании?

Psychologies
Кайли Миноуг, Синтия Никсон и другие знаменитые женщины, победившие рак Кайли Миноуг, Синтия Никсон и другие знаменитые женщины, победившие рак

Примеры знаменитых женщин, которым удалось справиться с раком

Cosmopolitan
Постановка на учет по беременности: сроки, важные документы и правила Постановка на учет по беременности: сроки, важные документы и правила

Каждая женщина, узнав, что скоро станет мамой, задается вопросами

9 месяцев
Солнце — в бутылку! Солнце — в бутылку!

Как люди пытаются освоить термоядерный синтез

N+1
Открыть в приложении