Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Выдр уличили в охоте на пингвинов Выдр уличили в охоте на пингвинов

Ученые зафиксировали нападения выдр на пингвинов в ЮАР

N+1
«Никогда не начинайте своего дела с эгоистичных мыслей». История первой японской женщины-миллиардера «Никогда не начинайте своего дела с эгоистичных мыслей». История первой японской женщины-миллиардера

Как Синохара Йошико стала одной из богатейших женщин в Японии

Forbes
Как написать в Ватсап без добавления контакта Как написать в Ватсап без добавления контакта

Разберем, написать в Ватсап без добавления номера в телефонную книгу

CHIP
«Мам, я беременна»: как быть, если подросток поделился с вами тайной «Мам, я беременна»: как быть, если подросток поделился с вами тайной

Научиться спокойно реагировать на откровения и сформировать близкие отношения

Psychologies
Страдания от избытка красоты: что такое синдром Стендаля Страдания от избытка красоты: что такое синдром Стендаля

Что такое синдром Стендаля и в чем он выражается

ТехИнсайдер
«В СНГ нам сказали: фигня и не взлетит»: сооснователь Restream из Украины — о $50 млн инвестиций и деньгах на стримерах «В СНГ нам сказали: фигня и не взлетит»: сооснователь Restream из Украины — о $50 млн инвестиций и деньгах на стримерах

Как развивался Restream — сервис многопотоковых трансляций

VC.RU
Как не раствориться в партнере и сохранить личные границы Как не раствориться в партнере и сохранить личные границы

Какие риски несет такое представление о гармонии в отношениях

Psychologies
Нет интернета — нет машины: выводы из сбоя онлайн-сервисов Tesla Нет интернета — нет машины: выводы из сбоя онлайн-сервисов Tesla

Машины стремительно превращаются в гаджеты

Популярная механика
Ингибитор миостатина помог мышам сохранить кости и мышцы в космосе Ингибитор миостатина помог мышам сохранить кости и мышцы в космосе

В норме миостатин ограничивает рост мышц

N+1
Не сдохни! Не сдохни!

Еда в борьбе за жизнь

kiozk originals
Экстракт из личинок мух эффективен в борьбе с патогенами растений Экстракт из личинок мух эффективен в борьбе с патогенами растений

Метод, позволивший получить экстракт биологически активных веществ из личинок

Популярная механика
Храм — бассейн — храм: 7 фактов о храме Христа Спасителя, которые не стыдно знать и атеисту Храм — бассейн — храм: 7 фактов о храме Христа Спасителя, которые не стыдно знать и атеисту

Удивительная история храма Христа Спасителя

Maxim
Цивилизации Цивилизации

Образы людей и богов в искусстве от Древнего мира до наших дней

kiozk originals
Вернитесь в зону комфорта Вернитесь в зону комфорта

«Сделано в Италии» — очаровательная история и личный проект Лиама Нисона

СНОБ
Темные рыцари Темные рыцари

После двух лет затишья дуэт Hurts выпустил альбом саундтреков к пандемии

GQ
Воды под Берлином Воды под Берлином

«Ундина» — интеллектуальное фэнтези о любви

Weekend
Калифорния: Краткая история суши Калифорния: Краткая история суши

Книга, которая в деталях рассматривает классическое японское блюдо

kiozk originals
Пчелиный яд разрушил клетки агрессивного рака молочной железы Пчелиный яд разрушил клетки агрессивного рака молочной железы

Компонент пчелиного яда мелиттин разрушает опухоли

N+1
За руль в 16. Все «за» и «против» раннего допуска к вождению За руль в 16. Все «за» и «против» раннего допуска к вождению

Что будет, если водительские права в России начнут выдавать с 16 лет?

РБК
Истории внутри нас Истории внутри нас

Истории о женском теле и здоровье от победительниц конкурса #ИсторииVнутриНас

Grazia
Правила жизни Майкла Дугласа Правила жизни Майкла Дугласа

Правила жизни актера Майкла Дугласа

Esquire
10 способов улучшить отношения с девушкой с помощью подсказок из фильмов 10 способов улучшить отношения с девушкой с помощью подсказок из фильмов

Сценарии романтичный подвигов от лучших голливудских режиссеров

Maxim
6 случаев, когда людям пришлось умереть, чтобы добиться своего 6 случаев, когда людям пришлось умереть, чтобы добиться своего

Целеустремленность, которая зашла слишком далеко!

Maxim
Правила жизни Билла Мюррея Правила жизни Билла Мюррея

Правила жизни актера Билла Мюррея

Esquire
Природный – значит дикий Природный – значит дикий

Ревайлдинг как возвращение земной, морской и человеческой жизни к диким корням

kiozk originals
Не мешайте себе жить: 7 типичных моделей саморазрушительного поведения Не мешайте себе жить: 7 типичных моделей саморазрушительного поведения

Как перестать мешать самому обрести любовь или достичь успеха?

Forbes
9 сумасшедших фактов о фильме «Пролетая над гнездом кукушки» 9 сумасшедших фактов о фильме «Пролетая над гнездом кукушки»

Поговорим о фильме про гнездо кукушки

Maxim
А напоследок я намстю: 8 историй про мстительных уволенных работников А напоследок я намстю: 8 историй про мстительных уволенных работников

Порой уволенные кадры очень изощренно мстят

Maxim
Полушария мозга шимпанзе вновь признали асимметричными Полушария мозга шимпанзе вновь признали асимметричными

Чем похожи мозг человека и мозг шимпанзе?

N+1
10 самых глубоких мест на Земле 10 самых глубоких мест на Земле

Насколько близко можно приблизиться к ядру планеты?

Популярная механика
Открыть в приложении