Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Оригами-робота научили прижимать ноги и ходить по-крабьи Оригами-робота научили прижимать ноги и ходить по-крабьи

Инженер из Германии разработал четвероногого оригами-робота Fold Walker

N+1
10 самых невероятных авиакатастроф в истории 10 самых невероятных авиакатастроф в истории

Мы не будем объяснять, почему именно эти катастрофы феноменальны

Maxim
Не работает тачпад на ноутбуке: причины и способы решения проблемы Не работает тачпад на ноутбуке: причины и способы решения проблемы

Что делать, если перестал работать тачпад на ноутбуке с Windows

CHIP
Реки, кони и еда: что посмотреть и попробовать на Алтае Реки, кони и еда: что посмотреть и попробовать на Алтае

Чем покоряют красоты самого высокого края Сибири

РБК
Лекарство от уныния: как философия помогает бороться с тревогой и внутренней пустотой Лекарство от уныния: как философия помогает бороться с тревогой и внутренней пустотой

Почему в мире бесконечных возможностей мы все чаще чувствуем тревогу, пустоту?

Forbes
Марта Кетро о том, как справляться с чужими страхами, которые тебе навязывают Марта Кетро о том, как справляться с чужими страхами, которые тебе навязывают

Что делать, если тебя запугивают окружающие?

Cosmopolitan
44 года со дня тарана самолетом дома в Новосибирске 44 года со дня тарана самолетом дома в Новосибирске

Столкновение, случившееся в 1976 году, было не случайностью

Maxim
Чем вредны бананы? Чем вредны бананы?

Углеродный след обычных вещей и процессов

kiozk originals
Как правильно хвастаться на работе: уроки от писательницы и PR-специалиста Мередит Файнман Как правильно хвастаться на работе: уроки от писательницы и PR-специалиста Мередит Файнман

Простые стратегии и приемы, которые помогут развить ваш личный бренд

Forbes
Родители хотели мальчика: несчастливое детство принцессы Дианы Родители хотели мальчика: несчастливое детство принцессы Дианы

Детство Дианы Спенсер не отличалось множеством счастливых моментов

Cosmopolitan
Счастливы, потому что смеемся Счастливы, потому что смеемся

Грусть, уныние, упадок сил? Это поправимо!

Psychologies
Часики тикают Часики тикают

Знакомьтесь: звезда TikTok и Instagram Лиза Анохина

Vogue
Гений места Гений места

Элегантный пентхаус в Южном Китае

SALON-Interior
Физики нашли следы темного бозона в спектрах изотопов иттербия Физики нашли следы темного бозона в спектрах изотопов иттербия

Ученые нашли отклонение от Стандартной модели в крайне точном измерении

N+1
Слепая зона и черная зависть. Оскар Хартманн о пяти ситуациях, когда деньги отнимают радость и счастье Слепая зона и черная зависть. Оскар Хартманн о пяти ситуациях, когда деньги отнимают радость и счастье

Зачастую деньги не приносят счастья

Forbes
10 терминов, неуместное использование которых расстраивает ученых 10 терминов, неуместное использование которых расстраивает ученых

Научные термины, которые мы не всегда уместно используем

Популярная механика
Почему важно беречь личные данные Почему важно беречь личные данные

Как защититься от нежелательных контактов?

СНОБ
Как суповая миска спасла миллионы жизней: удивительная история создания военной каски Как суповая миска спасла миллионы жизней: удивительная история создания военной каски

Каска Адриана спасла сотни тысяч в Первую мировую войну

Maxim
Что такое синдром выученной беспомощности и почему им обычно страдают мужчины Что такое синдром выученной беспомощности и почему им обычно страдают мужчины

Как синдром выученной беспомощности мешает жить и как от него избавиться

Maxim
Царское ложе Царское ложе

Как правильно выбрать матрас

Лиза
Хочу или должна: 5 честных вопросов себе Хочу или должна: 5 честных вопросов себе

Не потеряла ли ты себя среди бесконечных «надо» и «должна»?

Psychologies
Лесная поликлиника Лесная поликлиника

Какими способами самолечения пользуются животные?

Вокруг света
Что эффективнее: работать быстрее или дольше? Что эффективнее: работать быстрее или дольше?

Вопрос тайм-менеджмента при нашей активной жизни всегда актуален

Psychologies
Как детский характер становится взрослым Как детский характер становится взрослым

Из чего складывает темперамент человека по мере взросления?

Популярная механика
Сотни съемок и обложка с икрой: что Моника Беллуччи сделала для моды Сотни съемок и обложка с икрой: что Моника Беллуччи сделала для моды

Главные модные достижения одной из самых красивых актрис в истории

Esquire
11 лайфхаков для заботливого автовладельца 11 лайфхаков для заботливого автовладельца

Пусть машина и впрямь служит долго

Maxim
Триумф семян Триумф семян

Как семена покорили растительный мир и повлияли на человеческую цивилизацию

kiozk originals
Маховик времени: как выглядеть моложе своих лет Маховик времени: как выглядеть моложе своих лет

Как выглядеть моложе после 40 лет?

Cosmopolitan
Опять двойка Опять двойка

Как «заставить» ребенка учиться, объясняет психолог Марина Мелия

Tatler
Почему человечество страдает от кариеса и можно ли с этим бороться Почему человечество страдает от кариеса и можно ли с этим бороться

Кариес – это инфекция, которой сегодня заражены практически все жители планеты

Популярная механика
Открыть в приложении