Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Длительное ожирение вызвало экспрессию биомаркеров старения в молодом возрасте Длительное ожирение вызвало экспрессию биомаркеров старения в молодом возрасте

Как ожирение снижает ожидаемую продолжительность жизни

N+1
3 схожих симптома пограничного расстройства личности и ПТСР 3 схожих симптома пограничного расстройства личности и ПТСР

Как различить пограничное расстройство личности и посттравматический синдром?

Psychologies
Какими бывают виды отверток и бит для шуруповертов Какими бывают виды отверток и бит для шуруповертов

Какие бывают отвертки — виды и названия наконечников, а также их размеры

CHIP
6 новых фотографий глубокого космоса от NASA 6 новых фотографий глубокого космоса от NASA

Эти картинки — не только красивые обои не телефон, но и ценнейшие научные данные

Maxim
Лайфхак, как быстро вернуть вещь, которую вы потеряли Лайфхак, как быстро вернуть вещь, которую вы потеряли

Чек-лист для быстрых и успешных поисков потерянной вещи

Maxim
Было легче умереть, чем зайти в лифт: как я избавилась от фобии Было легче умереть, чем зайти в лифт: как я избавилась от фобии

История героини, которая панически боялась ездить в лифте

Cosmopolitan
Названы компании с самым высоким показателем эмиссии СО2 Названы компании с самым высоким показателем эмиссии СО2

Крупные компании несут ответственность за пятую часть мировых выбросов СО2

Популярная механика
6 вопросов, которые надо задать себе перед пластической операцией 6 вопросов, которые надо задать себе перед пластической операцией

Как определить, действительно ли необходимо делать пластику или нет?

Psychologies
10 самых смертоносных растений мира 10 самых смертоносных растений мира

Растения, от которых не ждешь подвоха

Популярная механика
Земля. Тайная история красок Земля. Тайная история красок

Почему мир вокруг нас раскрашен в такие яркие цвета

kiozk originals
Крым, БАМ и ЦКАД: на какие проекты правительство не жалеет денег в период пандемии Крым, БАМ и ЦКАД: на какие проекты правительство не жалеет денег в период пандемии

Во время кризиса финансирование некоторых проектов сильно выросло

Forbes
Симптомы будущей жены Симптомы будущей жены

Какими качествами должна обладать твоя будущая жена?

Maxim
Звездные суды и приговоры знаменитостям Звездные суды и приговоры знаменитостям

Кто из российских и советских знаменитостей был осужден

СНОБ
Судьбы главных красавиц: что стало с победительницами конкурса Судьбы главных красавиц: что стало с победительницами конкурса

Корона "Мисс России" не гарантирует счастья и успеха

Cosmopolitan
Как Тьюринг предсказал загадочные Как Тьюринг предсказал загадочные

Принцип Тьюринга, по которому растения организовываются в группы

Популярная механика
Чтобы получать меньше писем, надо отправлять меньше писем: лайфхаки по освобождению от почтового рабства и зависимости от соцсетей Чтобы получать меньше писем, надо отправлять меньше писем: лайфхаки по освобождению от почтового рабства и зависимости от соцсетей

Отрывок из книги «Неотвлекаемые. Как управлять своим вниманием и жизнью»

Inc.
Как стать любящим родителем самому себе Как стать любящим родителем самому себе

У нас есть шанс наладить отношения с родителем внутри нас

Psychologies
250 американских собак получили бронежилеты благодаря ребенку 250 американских собак получили бронежилеты благодаря ребенку

Иногда любовь к животным и детская находчивость способны на многое

Популярная механика
Как научиться водить машину с нуля Как научиться водить машину с нуля

Стереотипы о женщинах за рулём отправляем на свалку. Как легко научиться водить

Cosmopolitan
Тонкое искусство пофигизма Тонкое искусство пофигизма

Парадоксальный способ жить счастливо

kiozk originals
Особая зона Особая зона

Как предотвратить возрастные изменения кожи шеи и области декольте?

Худеем правильно
Время действия Время действия

Если ты находишь дело жизни, никакие сложности тебе уже не страшны

Glamour
Что делать стартапам, которые надеялись на привлечение капитала Что делать стартапам, которые надеялись на привлечение капитала

Каждый ли стартап нуждается в инвестициях на ранних стадиях

СНОБ
Осенью и так тяжело, а в 2020 году — особенно. Снижаем уровень стресса — смотрим на собак модных дизайнеров Осенью и так тяжело, а в 2020 году — особенно. Снижаем уровень стресса — смотрим на собак модных дизайнеров

Для снижения уровня стресса мы предлагаем смотреть на звездных питомцев

Esquire
Последние часы: чем занимались Джексон, Диана и другие звезды перед смертью Последние часы: чем занимались Джексон, Диана и другие звезды перед смертью

Последний день этих звезд ничем не отличался от других, ничто не предвещало беды

Cosmopolitan
Точка опоры: как перестать бояться быть собой? Точка опоры: как перестать бояться быть собой?

Означает фраза «Будь собой» с психологической точки зрения?

Cosmopolitan
Продолжение следует Продолжение следует

О том, что помогло группе Hurts побороть депрессию и продолжить свой путь

Grazia
Эдвард Сноуден. Личное дело Эдвард Сноуден. Личное дело

Мемуары Эдварда Сноудена, скандально известного разоблачителя

kiozk originals
Яжемать: боль, гнев и любовь Яжемать: боль, гнев и любовь

Что за женщина скрывается за громким названием "яжемать"

Psychologies
Дом отдыха Дом отдыха

Ольга Мальева воссоздала в подмосковном доме атмосферу американского Хэмптонс

AD
Открыть в приложении