Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Листоносы собрали падалицу Листоносы собрали падалицу

Зоологи обнаружили свидетельства, что рукокрылые подбирают пищу с земли

N+1
Голод 1230 года: самый страшный голод на Руси Голод 1230 года: самый страшный голод на Руси

В ночь на 14 сентября от заморозков погиб урожай, это стало началом трагедии

Maxim
Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта

Какие цифровые инструменты используются при измельчении руд

ТехИнсайдер
Южные стрижи не пустили северных к лучшим местам зимовки Южные стрижи не пустили северных к лучшим местам зимовки

Чем севернее гнездятся стрижи, тем севернее расположены их зимовки в Африке

N+1
Из мужского гардероба — в одежду для Барби: как розовый стал женским цветом Из мужского гардероба — в одежду для Барби: как розовый стал женским цветом

Как розовый стал воплощением гендерных стереотипов

Forbes
От слов к действиям: как доводить все дела до конца и не бросать их на полпути От слов к действиям: как доводить все дела до конца и не бросать их на полпути

Полезное руководство, которое поможет прийти к реализации самых смелых идей

Playboy
Почему хочется спать, когда нужно работать: биологические часы человека Почему хочется спать, когда нужно работать: биологические часы человека

Когда лучше есть, когда спать, а когда заниматься спортом?

Cosmopolitan
По понятиям. Словарик эмпатичного мужчины По понятиям. Словарик эмпатичного мужчины

Развиваем эмоциональный интеллект вместе с экспертом-психологом

Playboy
«Чанъэ-4» измерила уровень радиации на поверхности Луны «Чанъэ-4» измерила уровень радиации на поверхности Луны

Благодаря эксперименту впервые измерен уровень радиации в зависимости от времени

N+1
История Airbnb История Airbnb

Как три простых парня создали новую модель бизнеса

kiozk originals
Нейробиолог омолодил свой мозг и рассказал, как сделать так же Нейробиолог омолодил свой мозг и рассказал, как сделать так же

Привычки, которые помогают сохранить молодость мозга

Inc.
9 фактов о Византийской империи, которые вы наверняка не знали 9 фактов о Византийской империи, которые вы наверняка не знали

О наследии великой Византии

Популярная механика
(Не) конкурент: в чем нейросеть уступает человеку, а в чем нет (Не) конкурент: в чем нейросеть уступает человеку, а в чем нет

Какие человеческие качества все еще невозможно воспроизвести в нейросетях?

РБК
Чем закончились эксперименты с безусловным базовым доходом в пяти странах Чем закончились эксперименты с безусловным базовым доходом в пяти странах

Сколько человеку денег не дашь — всё равно потратит!

Maxim
Пчелиный яд разрушил клетки агрессивного рака молочной железы Пчелиный яд разрушил клетки агрессивного рака молочной железы

Компонент пчелиного яда мелиттин разрушает опухоли

N+1
На пиковых перекрёстках Гороховой улицы На пиковых перекрёстках Гороховой улицы

Магическое притяжение Гороховой улицы в Санкт-Петербурге

Наука и жизнь
Важные годы Важные годы

Почему не стоит откладывать жизнь на потом

kiozk originals
Растянется? Покроется катышками? Как купить качественный свитер не на один сезон Растянется? Покроется катышками? Как купить качественный свитер не на один сезон

Как купить действительно качественный, теплый и приятный к телу свитер

Cosmopolitan
10 необычных Opel 10 необычных Opel

Интереснейшие концепт-кары и прототипы Opel

Популярная механика
Как повысить иммунитет: 12 способов, доступных каждой Как повысить иммунитет: 12 способов, доступных каждой

Сомневаешься в своей способности противостоять болезням?

Cosmopolitan
История человеческого тела История человеческого тела

Эволюция, здоровье и болезни

kiozk originals
В сухом остатке В сухом остатке

Чтобы поскорее вернуть форму, адепты сухого голодания отказались даже от воды

Tatler
В честь кого «Мерседес» назвали «Мерседесом»? В честь кого «Мерседес» назвали «Мерседесом»?

История появления названия автомобильной марки Mercedes

Maxim
Ум в движении: почему нам труднее считать крупные суммы денег Ум в движении: почему нам труднее считать крупные суммы денег

Отрывок из книги «Ум в движении. Как действие формирует мысль»

Inc.
Как изменится Небесный град Как изменится Небесный град

Когда мы говорим, что интернет похож на город, мы что имеем в виду?

Weekend
6 вопросов, которые надо задать себе перед пластической операцией 6 вопросов, которые надо задать себе перед пластической операцией

Как определить, действительно ли необходимо делать пластику или нет?

Psychologies
7 главных героев фильмов, которые (скорее всего) умерли, а ты и не заметил 7 главных героев фильмов, которые (скорее всего) умерли, а ты и не заметил

Требуем вернуть наши деньги, заплаченные за хэппи энд!

Maxim
6 фактов об игре «Что? Где? Когда?» 6 фактов об игре «Что? Где? Когда?»

Факты о телеигре «Что? Где? Когда?», которые ты не найдешь даже в черном ящике

Maxim
Сильнейшие Сильнейшие

Бизнес по правилам Netflix

kiozk originals
Лучший костюм на Хэллоуин — страшно красивые идеи от звезд и блогеров Лучший костюм на Хэллоуин — страшно красивые идеи от звезд и блогеров

Отыскать эффектный костюм на Хэллоуин — целое приключение

Cosmopolitan
Открыть в приложении