Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Земля плоская: Генеалогия ложной идеи» «Земля плоская: Генеалогия ложной идеи»

Как Христофор Колумб стал символом триумфа над средневековьем

N+1
Долг Долг

Первые 5000 лет истории

kiozk originals
Почему водители и пилоты сидят слева, а машинисты справа Почему водители и пилоты сидят слева, а машинисты справа

Почему в разных видах транспорта руль расположен с разных сторон?

ТехИнсайдер
Мнимая угроза санкций: чего «Газпрому» нужно бояться на самом деле Мнимая угроза санкций: чего «Газпрому» нужно бояться на самом деле

Что угрожает Nord Stream 2 и «Газпрому»

Forbes
Лучшие друзья не подведут: как и зачем женщины инвестируют в бриллианты Лучшие друзья не подведут: как и зачем женщины инвестируют в бриллианты

Как выбрать инвестиционные бриллианты, какая судьба ждет эти камни

Forbes
Майкл Каннингем: «Если миру уже не помочь, кому придет в голову писать книжки?» Майкл Каннингем: «Если миру уже не помочь, кому придет в голову писать книжки?»

Писатель Майкл Каннингем об изоляции, работе, отсутствии хобби и ощущении дома

РБК
Машинки для стрижки волос: рейтинг лучших в 2020 году Машинки для стрижки волос: рейтинг лучших в 2020 году

Как сделать стрижку дома? Несколько оптимальных моделей для разных случаев

CHIP
Радиация уменьшила устойчивость сверхпроводящих кубитов Радиация уменьшила устойчивость сверхпроводящих кубитов

Про необходимость создания радиационной защиты для будущих квантовых компьютеров

N+1
У ВИЧ-инфицированной пациентки заподозрили естественное избавление от вируса У ВИЧ-инфицированной пациентки заподозрили естественное избавление от вируса

Как организм некоторых пациентов удерживает под контролем ВИЧ-инфекцию

N+1
Низко упали: кто придумал джинсы с низкой посадкой Низко упали: кто придумал джинсы с низкой посадкой

Джинсы с низкой посадкой – один из самых спорных предметов гардероба

Cosmopolitan
Физики избавились от объектива в камере светового поля Физики избавились от объектива в камере светового поля

Ученые сформировали изображения светового поля без использования объектива

N+1
Тундра-самобранка Тундра-самобранка

Как якуты веками живут в самом холодном месте на земле

Вокруг света
Не наступи на грабли Не наступи на грабли

Подготавливаем базовый набор инструментов для дачи

Лиза
Русские путешествия - Часть 2 Русские путешествия - Часть 2

Самые примечательные русские травелоги — от Средних веков до наших дней

Полка
Вспоминая Сергея Федоровича Бондарчука Вспоминая Сергея Федоровича Бондарчука

«Он создал планету Бондарчук»

Караван историй
Дмитрий Крутов: «Никакие инструменты не заставят вас захотеть расти и развиваться» Дмитрий Крутов: «Никакие инструменты не заставят вас захотеть расти и развиваться»

Директор Skillbox — о том, как стимулировать себя на постоянную учебу

РБК
Дневник пропавшего туриста. Мистический случай на Лофотенах Дневник пропавшего туриста. Мистический случай на Лофотенах

Эти события реально произошли в августе 2017 года

4x4 Club
Второй после Роналду: как Месси может заработать $1 млрд ничего не делая Второй после Роналду: как Месси может заработать $1 млрд ничего не делая

Суммарный доход за всю карьеру Лионеля Месси приближается к отметке $1 млрд

Forbes
Чем чревата поддержка Лукашенко и есть ли шанс от нее «отвертеться» Чем чревата поддержка Лукашенко и есть ли шанс от нее «отвертеться»

Политический кризис Беларуси стал для России главным событием августа 2020 года

СНОБ
«Это мой конек: Наука запоминания и забывания» «Это мой конек: Наука запоминания и забывания»

На момент зарождения науки психологии было сложно изучать память

N+1
Андрей Мацарин Андрей Мацарин

Андрей Мацарин вместе со своей командой превращает Петербург в столицу форумов

Собака.ru
Военные разработки DARPA, которые стали гражданскими: Tor, Siri, робособаки Boston Dynamics и интернет Военные разработки DARPA, которые стали гражданскими: Tor, Siri, робособаки Boston Dynamics и интернет

Несколько самых заметных технологий, над которыми работало ведомство DARPA

VC.RU
Что нужно знать о здоровье печени? Что нужно знать о здоровье печени?

Как поддержать здоровье печени? Читайте в статье

Домашний Очаг
Грудь вперед и замуж шутки ради: 10 любопытных фактов о Кире Найтли Грудь вперед и замуж шутки ради: 10 любопытных фактов о Кире Найтли

Несколько фактов о Кире Найтли, которые вы, возможно, не слышали раньше

Cosmopolitan
Голодание: гид по практике, которая получает все большую популярность Голодание: гид по практике, которая получает все большую популярность

Что происходит с организмом при голодании

Reminder
Как первый в истории туалет со смывом связан с «Игрой престолов» Как первый в истории туалет со смывом связан с «Игрой престолов»

Не зря Тайвин Ланнистер умер именно так как умер

Maxim
«Непростые люди» в славянских селениях «Непростые люди» в славянских селениях

О ком на Руси говорили «с нечистой силой знается»?

Культура.РФ
Магнитное поле отделило живые клетки от мертвых Магнитное поле отделило живые клетки от мертвых

Ученые предложили сортировать мертвые и живые клетки с помощью магнитного поля

N+1
«Я получала намного больше, чем девочки на Земле»: Zivert о работе стюардессой «Я получала намного больше, чем девочки на Земле»: Zivert о работе стюардессой

Юлия Зиверт рассказала о своем пути к популярности

Cosmopolitan
Каково это — есть только чипсы Каково это — есть только чипсы

Инструктор по фитнесу рассказывает, почему ей не нравится «нормальная» еда

Esquire
Открыть в приложении