Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Минус вайб Минус вайб

Чем опасно доверять написание кода нейросетям?

N+1
Богатый папа, бедный папа Богатый папа, бедный папа

Чему учат детей богатые родители – и не учат бедные

kiozk originals
Динамически меняющая внешность маска поможет обмануть систему распознавания лиц Динамически меняющая внешность маска поможет обмануть систему распознавания лиц

Инженеры создали маску, способную изменять форму лица и цвет кожи

N+1
Яд в истории. Чем политические отравления отличаются от «простых» убийств Яд в истории. Чем политические отравления отличаются от «простых» убийств

Яды как оружие в борьбе с противниками — прием, известный с древних времен

СНОБ
Стесняюсь спросить: как распознать болезнь Альцгеймера? Стесняюсь спросить: как распознать болезнь Альцгеймера?

Альцгеймер: как распознать на ранних этапах и встречается ли он у молодых?

Правила жизни
Гормоны стресса — виновники лишнего веса! Как «приручить» кортизол и адреналин? Гормоны стресса — виновники лишнего веса! Как «приручить» кортизол и адреналин?

Как работают гормоны стресса и как сохранить здоровье и красоту?

Cosmopolitan
Правило № 55. Будьте святыней — их не оскорбляют Правило № 55. Будьте святыней — их не оскорбляют

Коуч Алексей Ситников пытается решить проблему семейного насилия

Tatler
12 видов угроз твоему компьютеру и как с ними бороться 12 видов угроз твоему компьютеру и как с ними бороться

Просто записаться на бокс в Интернете не помогает

Maxim
«Секс-игрушка из Парижа»: вибратор стал секретным талисманом принцессы Дианы «Секс-игрушка из Парижа»: вибратор стал секретным талисманом принцессы Дианы

Принцесса Диана брала в заграничные поездки гаджет из секс-шопа

Cosmopolitan
Приручить энергию звезд Приручить энергию звезд

Каким ученые видят решение грядущего энергетического дефицита

N+1
Мир, полный демонов Мир, полный демонов

Наука – как свеча во тьме

kiozk originals
Не болеть: 20 продуктов для повышения иммунитета Не болеть: 20 продуктов для повышения иммунитета

Как помочь иммунной системе бороться с болезнями?

Cosmopolitan
Не ПП, а ППП! 5 «толстых» привычек и 4 «стройных» лайфхака, чтобы их преодолеть Не ПП, а ППП! 5 «толстых» привычек и 4 «стройных» лайфхака, чтобы их преодолеть

Избавляемся от «лишних» пищевых привычек и лишнего веса

Cosmopolitan
10 необычных Opel 10 необычных Opel

Интереснейшие концепт-кары и прототипы Opel

Популярная механика
Секс после 50: возвращаемся к своим желаниям Секс после 50: возвращаемся к своим желаниям

Почему в зрелом возрасте люди испытывают страсть реже и что с этим делать

Psychologies
Богини удачного ракурса: 11 звезд с асимметричными чертами лица Богини удачного ракурса: 11 звезд с асимметричными чертами лица

Лица знаменитых красоток вовсе не так пропорциональны, как кажется

Cosmopolitan
Зачем Жерар Депардье принял православие Зачем Жерар Депардье принял православие

Чем сильнее процесс обрусения Депардье, тем меньшее отношение он имеет к России

СНОБ
«Коля — это кремень»: что мы знаем о повзрослевшем сыне Лукашенко «Коля — это кремень»: что мы знаем о повзрослевшем сыне Лукашенко

Что мы знаем о младшем сыне Лукашенко, которого отец готовил в преемники?

Forbes
Одна вокруг света: рисовые поля и лаосские пионеры Одна вокруг света: рисовые поля и лаосские пионеры

89-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Сердце: история Сердце: история

Все тайны работы важнейшего органа нашего тела

kiozk originals
Что за странную еду мы видим в американских фильмах и как ее готовят Что за странную еду мы видим в американских фильмах и как ее готовят

Когда еда не та, за кого себя выдает

Maxim
Борец с незаконной торговлей рассказал о нападениях, поджоге машины и возвращении 90-х Борец с незаконной торговлей рассказал о нападениях, поджоге машины и возвращении 90-х

Интервью с активистом Александром Виноградовым

СНОБ
Отрекаются, любя: женщины, ради которых монархи отказывались от всех титулов Отрекаются, любя: женщины, ради которых монархи отказывались от всех титулов

Шесть историй о парах, в которых любовь победила стремление занять трон

Cosmopolitan
Животная страсть Животная страсть

Елена Перминова: о муках совершенствования пресса

Vogue
Дышите глубжe Дышите глубжe

Как сказал Будда: «Медитация устраняет страдания, причиняемые неукрощенным умом»

Vogue
Критические будни Критические будни

«Никогда. Редко. Иногда. Всегда» как хроника гендерного неравенства

Weekend
Памела Андерсон, Ольга Шелест, Натали Портман и другие знаменитые вегетарианцы Памела Андерсон, Ольга Шелест, Натали Портман и другие знаменитые вегетарианцы

Самые яркие представители звездного веганского сообщества

Cosmopolitan
Наука сторителлинга Наука сторителлинга

Научные основы для сочинения хорошей истории

kiozk originals
Правила жизни Наоми Уоттс Правила жизни Наоми Уоттс

Наоми Уоттс: «Я не пытаюсь изгонять своих демонов»

Esquire
9 способов использовать носки не по назначению 9 способов использовать носки не по назначению

Подари своим непарным носкам вторую жизнь!

Maxim
Открыть в приложении