Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Открыт четвертый вид зрачковой реакции — на фазу дыхания Открыт четвертый вид зрачковой реакции — на фазу дыхания

Ученые открыли, что зрачки реагируют на фазу дыхательного цикла

N+1
Всем нужен отдых: 7 способов снять усталость глаз после компьютера Всем нужен отдых: 7 способов снять усталость глаз после компьютера

Несколько очень простых способов, как снять усталость с глаз после экрана

Cosmopolitan
Почему телефон быстро разряжается и как это исправить: 5 простых советов Почему телефон быстро разряжается и как это исправить: 5 простых советов

Как сделать, чтобы телефон не разряжался быстро

CHIP
Как позаботиться о здоровье печени? 5 умных шагов Как позаботиться о здоровье печени? 5 умных шагов

Как снизить риск возникновения проблем с печенью?

Playboy
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Хюэ 1968 Хюэ 1968

Поворотный момент войны во Вьетнаме

kiozk originals
Было легче умереть, чем зайти в лифт: как я избавилась от фобии Было легче умереть, чем зайти в лифт: как я избавилась от фобии

История героини, которая панически боялась ездить в лифте

Cosmopolitan
Реквизит-эффект Реквизит-эффект

Проверенный временем винтаж даёт фору творениям современных дизайнеров

Robb Report
Нос «уедет» и пропадет дыхание — 7 мифов о ринопластике Нос «уедет» и пропадет дыхание — 7 мифов о ринопластике

Хирург объясняет, стоит ли бояться ринопластики и как проходит эта операция

Cosmopolitan
Самое большое в мире хранилище семян на случай апокалипсиса Самое большое в мире хранилище семян на случай апокалипсиса

В семенохранилище на Шпицбергене хранятся более 900 000 семян

Maxim
18 ляпов, попавших на киноафиши 18 ляпов, попавших на киноафиши

Даже на афишах блокбастеров порой достаточно ошибок и ляпов

Maxim
Верите ли вы в магию? Верите ли вы в магию?

Эта книга развенчает многие мифы о народной медицине

kiozk originals
Норильские деревья рассказали о вкладе арктической промышленности в изменение климата Норильские деревья рассказали о вкладе арктической промышленности в изменение климата

Воздух на севере пересыщен аэрозолями и убивает леса

N+1
Израильский Гуантанамо: тайная тюрьма, стертая со всех карт и аэрофотосъемок Израильский Гуантанамо: тайная тюрьма, стертая со всех карт и аэрофотосъемок

Секретная тюрьма «лагерь 1391» в Северном Израиле была обнаружена случайно

Maxim
Как привести дела в порядок Как привести дела в порядок

Искусство продуктивности без стресса

kiozk originals
Мультимиллионеры Мультимиллионеры

25 лет назад студия Pixar выпустила «Историю игрушек»

GQ
Мнимая угроза санкций: чего «Газпрому» нужно бояться на самом деле Мнимая угроза санкций: чего «Газпрому» нужно бояться на самом деле

Что угрожает Nord Stream 2 и «Газпрому»

Forbes
Сайгачьи будни Сайгачьи будни

В России можно наблюдать весь цикл жизни степной антилопы

Наука и жизнь
Любимая дочь Григория Распутина: ссылка, цирк и кабаре Любимая дочь Григория Распутина: ссылка, цирк и кабаре

Жизнь Марии Распутиной ничуть не менее интересна, чем судьба ее знаменитого отца

Cosmopolitan
Игры Абрамовича: как российский стартап без готовых проектов привлек $20 млн от влиятельных инвесторов Игры Абрамовича: как российский стартап без готовых проектов привлек $20 млн от влиятельных инвесторов

Чем примечателен 110 Industries — стартап, который продюсирует видеоигры

Forbes
Как спастись от жары: 19 способов (с кондиционером или без) Как спастись от жары: 19 способов (с кондиционером или без)

Рассказываем, как выжить в жару без кондиционера или вентилятора

Cosmopolitan
Робот собрал кокосы с пальмы Робот собрал кокосы с пальмы

Инженеры разработали телеуправляемого робота для сбора кокосов с пальм

N+1
Симптомы будущей жены Симптомы будущей жены

Какими качествами должна обладать твоя будущая жена?

Maxim
Почему мужчине не хочется секса: список из 13 основных причин Почему мужчине не хочется секса: список из 13 основных причин

Подборка вероятных причин низкого либидо у мужчин или полного отсутствия желания

Playboy
Как изменится Небесный град Как изменится Небесный град

Когда мы говорим, что интернет похож на город, мы что имеем в виду?

Weekend
Василий Алексеев: Что произошло с рынком франчайзинга после пандемии Василий Алексеев: Что произошло с рынком франчайзинга после пандемии

Рынок франчайзинга: за счет чего удалось добиться кратного роста числа партнеров

СНОБ
Женщина-генерал из Китая: Мулан — легенда или исторический персонаж? Женщина-генерал из Китая: Мулан — легенда или исторический персонаж?

Жила ли настоящая Мулан и какие ошибки допустили создатели анимационного фильма

Cosmopolitan
День благодарения День благодарения

Легендарные американские декораторы, сформировавшие интерьерный стиль США

AD
Артизаны не сдаются Артизаны не сдаются

Станет ли нынешнее поколение мастеров последним в истории материальной культуры

Robb Report
Новый Шелковый Путь Новый Шелковый Путь

Настоящее и будущее этого мира

kiozk originals
Открыть в приложении