Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Распространявшиеся за счет гомфотериев чилийские растения так и не оправились от их вымирания Распространявшиеся за счет гомфотериев чилийские растения так и не оправились от их вымирания

Гомфотерии регулярно поедали плоды и участвовали в распространении семян

N+1
Как объяснить детям, что с деньгами сейчас туго Как объяснить детям, что с деньгами сейчас туго

Надо ли детям знать о том, что финансовые обстоятельства изменились?

Psychologies
Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас

Как рекрутеры используют нейросети — кейсы из России

ТехИнсайдер
Майкл Каннингем: «Если миру уже не помочь, кому придет в голову писать книжки?» Майкл Каннингем: «Если миру уже не помочь, кому придет в голову писать книжки?»

Писатель Майкл Каннингем об изоляции, работе, отсутствии хобби и ощущении дома

РБК
Как повысить самооценку и обрести уверенность? 11 советов психолога Как повысить самооценку и обрести уверенность? 11 советов психолога

Заниженная самооценка мешает нам строить здоровые отношения и карьеру

Psychologies
Бойбэнд Бойбэнд

Феномен кулачных боев – одного из главных трендов российского YouTube этого года

Esquire
Луны Урана оказались похожими на карликовые планеты Луны Урана оказались похожими на карликовые планеты

Некоторые луны Урана напоминают карликовые планеты

Популярная механика
Шанель, Кало и Диана: 13 женщин, которые изменили мир Шанель, Кало и Диана: 13 женщин, которые изменили мир

История знает немало случаев, когда женщины влияли на происходящее в обществе

Cosmopolitan
Наш человек Наш человек

Тео Хатчкрафт из Hurts — о любви к осьминогам и к фильмам с Николасом Кейджем

Glamour
«Полюбила себя, когда похудела: почему бодипозитив мне кажется обманом» «Полюбила себя, когда похудела: почему бодипозитив мне кажется обманом»

Наша читательница поделилась историей о непростых отношениях с собственным телом

Psychologies
Духовный мир животных Духовный мир животных

Как научиться лучше понимать природу и жить в гармонии с ней

kiozk originals
Энергия Энергия

Руководство для начинающих

kiozk originals
Чем заняться в Казани Чем заняться в Казани

Час самолетом от Москвы, красивая архитектура, широкие реки и вкусная еда

GQ
«Она меркантильная!»: почему женские амбиции всех раздражают «Она меркантильная!»: почему женские амбиции всех раздражают

Мы привыкаем заталкивать свои амбиции поглубже и оставаться "хорошими девочками"

Cosmopolitan
«21 урок для XXI века» «21 урок для XXI века»

Как человеку и человечеству выжить в современном мире тревоги?

kiozk originals
Магическая уборка Магическая уборка

Японское искусство наведения порядка дома и в жизни

kiozk originals
Лайфхаки для Windows: создаем идеальную систему Лайфхаки для Windows: создаем идеальную систему

Windows 10 хоть и далека от совершенства, но предлагает много возможностей

CHIP
Интервью с инвестиционным директором РВК Алексеем Басовым Интервью с инвестиционным директором РВК Алексеем Басовым

Интервью с инвестиционным директором РВК Алексеем Басовым

СНОБ
Как к 30 годам заработать под миллион долларов на фитнес-инстаграме Как к 30 годам заработать под миллион долларов на фитнес-инстаграме

Как фитнес-блогер Софья Солдатова монетизирует миллион подписчиков в Instagram

Forbes
«Звери дикого Юга», «Паразиты» и «Питер Пэн»: любимые книги и фильмы миллиардеров «Звери дикого Юга», «Паразиты» и «Питер Пэн»: любимые книги и фильмы миллиардеров

Что миллиардеры готовы рекомендовать к прочтению и просмотру?

Forbes
Считаете ли вы себя патриотом? Считаете ли вы себя патриотом?

Что такое правильный и неправильный патриотизм?

СНОБ
«Бесцветный» «Бесцветный»

История комика Тревора Ноя: ужасы, которые пережил «бесцветный» ребенок в ЮАР

kiozk originals
Апокалипсис, Путин, наркотики, иконы и секс в новом альбоме Хаски Апокалипсис, Путин, наркотики, иконы и секс в новом альбоме Хаски

Хаски, ну за что ты так с нами?

GQ
Работа рулит! Работа рулит!

Почему большинство людей в мире хотят работать именно в Google

kiozk originals
«Полное разочарование»: проблемы с регуляторами, недоверие инвесторов, падение оценки втрое за год и другие беды Juul «Полное разочарование»: проблемы с регуляторами, недоверие инвесторов, падение оценки втрое за год и другие беды Juul

Как лидер рынка электронных сигарет в США продолжает бороться за свой бизнес

VC.RU
Часики тикают Часики тикают

Знакомьтесь: звезда TikTok и Instagram Лиза Анохина

Vogue
«Гнездо» – настоящий фильм ужасов о том, как амбиции и ложь разрушают семью «Гнездо» – настоящий фильм ужасов о том, как амбиции и ложь разрушают семью

Чтобы заставить зрителя испугаться и переосмыслить ценности, не нужны привидения

GQ
Кожа не как у младенца Кожа не как у младенца

Почему некоторые взрослые до сих пор пользуются детским кремом?

Glamour
Вынужденная моногамия: зачем бабочкам “пояс” верности Вынужденная моногамия: зачем бабочкам “пояс” верности

К чему приводит противостояние полов у бабочек?

Популярная механика
«Это сжигает тебя изнутри»: почему инвесторы Tesla готовы даже сменить работу ради Илона Маска «Это сжигает тебя изнутри»: почему инвесторы Tesla готовы даже сменить работу ради Илона Маска

Инвесторы Tesla убеждены, что инвестируют в «будущее»

Forbes
Открыть в приложении