Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В древнем левантийском поселении изготавливали пурпур на протяжении 500 лет В древнем левантийском поселении изготавливали пурпур на протяжении 500 лет

В Тель-Шикмоне примерно 500 лет находился крупный центр по производству пурпура

N+1
Ронан Варвар Ронан Варвар

Откровения Ронана Фэрроу, чья статья разрушила карьеру Харви Вайнштейна

Esquire
Я, мы, робот: как андроиды проникли в наши дома и головы Я, мы, робот: как андроиды проникли в наши дома и головы

О том, как роботы медленно, но верно становятся частью нашей жизни

Forbes
Великая западная схизма: трое пап на один Рим Великая западная схизма: трое пап на один Рим

Великая западная схизма — период раскола в Римско-католической церкви

Weekend
Вместо похода к психологу: 4 домашних дела, которые помогут успокоить нервы Вместо похода к психологу: 4 домашних дела, которые помогут успокоить нервы

Как снизить уровень стресса и снять тревогу в домашних условиях?

ТехИнсайдер
Темные начала: как Кристофер Нолан перевернул с ног на голову вселенную Бэтмена Темные начала: как Кристофер Нолан перевернул с ног на голову вселенную Бэтмена

Вдумчиво рассматриваем трилогию «Темный рыцарь» от Кристофера Нолана

Esquire
Как правила и границы помогут справиться с детскими капризами Как правила и границы помогут справиться с детскими капризами

Жизнь без границ и ориентиров делает ребенка очень уязвимым

Psychologies
Живем как по писаному Живем как по писаному

В каком жанре развивается ваша жизненная история?

Psychologies
Построение бизнес-моделей Построение бизнес-моделей

Настольная книга стратега и новатора

kiozk originals
Не работайте с мудаками Не работайте с мудаками

Что делать, если мудаки вокруг вас?

kiozk originals
Средство от похмелья: научный взгляд на народную проблему Средство от похмелья: научный взгляд на народную проблему

Может ли современная медицина создать средство от похмелья

Популярная механика
Квартирный вопрос: полезные лайфхаки для дома и кухни Квартирный вопрос: полезные лайфхаки для дома и кухни

Хотите облегчить уборку и всегда поддерживать дома порядок?

Cosmopolitan
10 секретов плоского живота 10 секретов плоского живота

Самые эффективные лайфхаки для борьбы с выпирающим животом

Худеем правильно
Мясо Мясо

Eating animals

kiozk originals
Одна вокруг света: рисовые поля и лаосские пионеры Одна вокруг света: рисовые поля и лаосские пионеры

89-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
5 диких способов использования животных на войне 5 диких способов использования животных на войне

Оказывается, животных можно не только есть, гладить и бояться

Maxim
Познакомьтесь с брендом Paria Farzaneh Познакомьтесь с брендом Paria Farzaneh

Дизайнер из Ирана Пария Фарзане, вещи которой уже обожают Фрэнк Оушен и Pusha T

GQ
«Если бы речь шла только об отрицании, пароход современности далеко бы не уплыл» «Если бы речь шла только об отрицании, пароход современности далеко бы не уплыл»

Андрей Хржановский о Шостаковиче, Мейерхольде, Гоголе, «Дау» и других не таких

Weekend
Одна вокруг света. Золотой треугольник, где сходятся границы трех стран — Мьянмы, Тайланда и Лаоса Одна вокруг света. Золотой треугольник, где сходятся границы трех стран — Мьянмы, Тайланда и Лаоса

87-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Как советский футболист забил первый гол в истории кубков и чемпионатов Европы (видео) Как советский футболист забил первый гол в истории кубков и чемпионатов Европы (видео)

28 сентября 1958 года. Помни! Празднуй! Гордись!

Maxim
Мы нашли очень добрый сериал на Apple TV+ Мы нашли очень добрый сериал на Apple TV+

«Тед Лассо» – комедия про футбол, которая научит вас верить в себя

GQ
Впервые выделен геном оригинального источника пенициллина Впервые выделен геном оригинального источника пенициллина

Ученые открыли генетический код плесени, благодаря которой создаются антибиотики

Популярная механика
Интервью с инвестиционным директором РВК Алексеем Басовым Интервью с инвестиционным директором РВК Алексеем Басовым

Интервью с инвестиционным директором РВК Алексеем Басовым

СНОБ
Хочу или должна: 5 честных вопросов себе Хочу или должна: 5 честных вопросов себе

Не потеряла ли ты себя среди бесконечных «надо» и «должна»?

Psychologies
Мелкие ставки Мелкие ставки

Великую идею нельзя выдумать, но можно открыть

kiozk originals
Правила жизни Гая Ричи Правила жизни Гая Ричи

Гай Ричи: «У меня есть кличка. Но я вам ее ни за что не скажу.»

Esquire
Как съехать от партнера и не расстаться Как съехать от партнера и не расстаться

Что делать, если совместное проживание с партнером не идет на пользу

GQ
10 самых безумных грузов, перевезенных по воздуху 10 самых безумных грузов, перевезенных по воздуху

Авиаперевозки, не поддающиеся никакой классификации.

Популярная механика
За урожаем из глубин За урожаем из глубин

На разных верфях страны бум рыбопромыслового судостроения

Популярная механика
Как правильно делать маникюр в домашних условиях Как правильно делать маникюр в домашних условиях

Рассказываем все тонкости домашнего маникюра

Cosmopolitan
Открыть в приложении