Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Врачи описали два случая передачи опухоли от матери ребенку во время родов Врачи описали два случая передачи опухоли от матери ребенку во время родов

Дети вдохнули материнские раковые клетки, и те поселились в их легких

N+1
Тайные увлечения и громкие романы: неожиданные факты об актрисах Тайные увлечения и громкие романы: неожиданные факты об актрисах

Перед тобой – факты из жизни главных героинь актерского состава «Сумерек»!

Cosmopolitan
«Технологии должны облегчать жизнь человека, но ко многим процессам мы настолько привыкли, что и не думаем, что их можно как-то упростить» «Технологии должны облегчать жизнь человека, но ко многим процессам мы настолько привыкли, что и не думаем, что их можно как-то упростить»

Как работает погодное приложение, которое показывает прогноз погоды без цифр

Inc.
Наука сторителлинга Наука сторителлинга

Научные основы для сочинения хорошей истории

kiozk originals
Игры, в которые играют люди Игры, в которые играют люди

Психология человеческих взаимоотношений

kiozk originals
О суммах квадратов и кубов О суммах квадратов и кубов

История начинается с теоремы Пифагора, а заканчивается математическим открытием

Наука и жизнь
Как объяснить детям, что с деньгами сейчас туго Как объяснить детям, что с деньгами сейчас туго

Надо ли детям знать о том, что финансовые обстоятельства изменились?

Psychologies
Духовный мир животных Духовный мир животных

Как научиться лучше понимать природу и жить в гармонии с ней

kiozk originals
Гастрономическая лагуна Гастрономическая лагуна

Устричный рай на Сахалине

Огонёк
Все по полочкам Все по полочкам

Декантирование — важная составляющая комфорта в доме

Лиза
Иметь или быть? Иметь или быть?

Как современное общество стало материалистическим

kiozk originals
Самая высокопроизводительная камера в мире сделала первые снимки Самая высокопроизводительная камера в мире сделала первые снимки

Камера размером с внедорожник вскоре будет делать снимки галактик

National Geographic
«Я же говорила!»: как распознать мнимую уверенность «Я же говорила!»: как распознать мнимую уверенность

Все мы слышали фразы вроде «А ведь я предупреждал!»

Psychologies
Ты – мне, я – тебе Ты – мне, я – тебе

Секс как валюта и способ манипуляции

Cosmopolitan
Как, где и зачем делать прививку от гриппа Как, где и зачем делать прививку от гриппа

Что такое прививки от гриппа, насколько они эффективны и как их сделать?

Cosmopolitan
11 самых нелепых случаев использования компьютерной графики в кино 11 самых нелепых случаев использования компьютерной графики в кино

Иногда компьютерная графика только портит фильм

Maxim
Интервью с автором подкаста «Закат Империи» Андреем Аксеновым Интервью с автором подкаста «Закат Империи» Андреем Аксеновым

Андрей Аксенов об исторической преемственности и симпатии к неоднозначным героям

СНОБ
«Отдых для слабаков»: почему нам трудно остановиться и расслабиться «Отдых для слабаков»: почему нам трудно остановиться и расслабиться

Зачем мы загружаем себя работой и почему заветный отдых так и не наступает?

Psychologies
Истории альпинистов и путешественников о горах, испытаниях и эйфории Истории альпинистов и путешественников о горах, испытаниях и эйфории

Истории о первых восхождениях и о том, почему стоит ходить в горы

СНОБ
Секреты домашнего мастера: лайфхаки на каждый день Секреты домашнего мастера: лайфхаки на каждый день

Домашний ремонт: нехитрые решения хитрых задач

Популярная механика
Tinder для коллег: расширение NextPage поможет найти общий язык в команде Tinder для коллег: расширение NextPage поможет найти общий язык в команде

Расширение NextPage должно решить проблему с нехваткой неформального общения

РБК
15 плохих фильмов от хороших режиссеров 15 плохих фильмов от хороших режиссеров

Гении имеют право на ошибку

Maxim
Обожает бургеры и ненавидит себя без бороды: неожиданные факты о Джейми Дорнане Обожает бургеры и ненавидит себя без бороды: неожиданные факты о Джейми Дорнане

Джейми Дорнан — успешная модель в прошлом и популярный актер в будущем

Cosmopolitan
Семейный совет Семейный совет

Саша Новикова делится секретами счастливой (и вкусной!) жизни своей семьи

Elle
Как ужиться с неидеальным собой Как ужиться с неидеальным собой

Надо ли любить свои недостатки, особенно если это удается с трудом?

Psychologies
Культурный код Культурный код

Секреты чрезвычайно успешных групп и организаций

kiozk originals
Триумф семян Триумф семян

Как семена покорили растительный мир и повлияли на человеческую цивилизацию

kiozk originals
Стоп многозадачность: включаем «зеленый» настоящему моменту Стоп многозадачность: включаем «зеленый» настоящему моменту

Почему мы отвлекаемся и не можем сконцентрироваться на чем-то одном?

РБК
Шесть полезных фишек, которые не прижились на автомобилях Шесть полезных фишек, которые не прижились на автомобилях

Удобные фишки, которые не прижились в автомобилях

Maxim
Отмойте это немедленно: что в вашем доме гораздо грязнее унитаза Отмойте это немедленно: что в вашем доме гораздо грязнее унитаза

Самые грязные места вашего дома — готовьте санитайзеры

Популярная механика
Открыть в приложении