Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В палеолитическом пещерном святилище впервые нашли голубые краски В палеолитическом пещерном святилище впервые нашли голубые краски

Люди эпохи верхнего палеолита пользовались красками голубых оттенков

N+1
Наблюдаемое количество гравитационных линз на порядок превысило прогноз симуляций Наблюдаемое количество гравитационных линз на порядок превысило прогноз симуляций

Общепринятые представления о свойствах темной материи отныне под сомнением

N+1
Японцы сделали роборуку с человеческими мышцами Японцы сделали роборуку с человеческими мышцами

Японские инженеры разработали биогибридную руку с человеческими мышцами

N+1
Долг Долг

Первые 5000 лет истории

kiozk originals
Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят) Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят)

Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят)

Playboy
Талант или упорный труд? Разбираемся, что важнее для твоей карьеры Талант или упорный труд? Разбираемся, что важнее для твоей карьеры

Стоит ли завидовать одаренным людям?

Cosmopolitan
10 правил воспитания детей по Толстому 10 правил воспитания детей по Толстому

Как мы воспримем сегодня принципы воспитания и образования по Толстому?

Культура.РФ
Смотри, что у тебя внутри Смотри, что у тебя внутри

Как микробы, живущие в нашем теле, определяют наше здоровье и нашу личность

kiozk originals
Уличная мода: как герои фильмов Гая Ричи балансируют между гардеробами бандита и джентльмена Уличная мода: как герои фильмов Гая Ричи балансируют между гардеробами бандита и джентльмена

Как костюмы гангстеров из фильмов Гая Ричи дают фору костюмам Джеймса Бонда

Esquire
«Ты сможешь»: 6 шагов, чтобы стать таким, каким мечтаешь «Ты сможешь»: 6 шагов, чтобы стать таким, каким мечтаешь

Как укрепить веру в собственные силы?

Psychologies
Все о личной жизни новых ведущих «Орла и решки»: от Коваль до Родригеза Все о личной жизни новых ведущих «Орла и решки»: от Коваль до Родригеза

«Орёл и Решка» продолжает пополняться новыми выпусками с разных точек планеты

Cosmopolitan
Создатель Oculus Rift Палмер Лаки представил «умные» военные дроны — и пошёл против убеждений Кремниевой долины Создатель Oculus Rift Палмер Лаки представил «умные» военные дроны — и пошёл против убеждений Кремниевой долины

Палмер Лаки хочет объединить авантюрный дух Долины с оборонным бизнесом

VC.RU
Черепахи оказались санитарами австралийских рек Черепахи оказались санитарами австралийских рек

Черепахи питаются падалью, помогая восстановить качество воды после гибели рыб

N+1
Тепловой хаос вернул квантовую систему в неизвестное прошлое Тепловой хаос вернул квантовую систему в неизвестное прошлое

Обращение во времени произвольного, неизвестного квантового состояния

Популярная механика
Особая зона Особая зона

Как предотвратить возрастные изменения кожи шеи и области декольте?

Худеем правильно
Суперпозиция порядка помогла получить информацию из шума Суперпозиция порядка помогла получить информацию из шума

Классические каналы с этой задачей справиться не могут

N+1
Учитель словесности Людмила Великова Учитель словесности Людмила Великова

Разговор с учителем русского языка и литературы Людмилой Великовой

Seasons of life
Потерянный рай: как появился Homo sapiens Потерянный рай: как появился Homo sapiens

Сегодня и школьники знают, что первые люди появились в Африке. Но где именно?

Популярная механика
Толкование сновидений Толкование сновидений

Главная работа отца психоанализа

kiozk originals
«Звери дикого Юга», «Паразиты» и «Питер Пэн»: любимые книги и фильмы миллиардеров «Звери дикого Юга», «Паразиты» и «Питер Пэн»: любимые книги и фильмы миллиардеров

Что миллиардеры готовы рекомендовать к прочтению и просмотру?

Forbes
Мег Уэйт Клейтон: Последний поезд на Лондон Мег Уэйт Клейтон: Последний поезд на Лондон

Отрывок из нового романа Мег Уэйт Клейтон об отправке первого киндертранспорта

СНОБ
Объяснить необъяснимое: кто подпадает под действие британского закона о неочевидных источниках благосостояния Объяснить необъяснимое: кто подпадает под действие британского закона о неочевидных источниках благосостояния

Как доказать британским властям юридическую чистоту источника денежных средств

Forbes
Пройдите на просвечивание Пройдите на просвечивание

Что мультиволновая астрономия видит в недрах звезд и галактик

N+1
Судьба человека Судьба человека

25 сентября Сергею Федоровичу Бондарчуку исполнилось бы сто лет

Tatler
«Если бы речь шла только об отрицании, пароход современности далеко бы не уплыл» «Если бы речь шла только об отрицании, пароход современности далеко бы не уплыл»

Андрей Хржановский о Шостаковиче, Мейерхольде, Гоголе, «Дау» и других не таких

Weekend
Подчинение авторитету Подчинение авторитету

Научный взгляд на власть и мораль

kiozk originals
10 самых странных брачных ритуалов у животных 10 самых странных брачных ритуалов у животных

Брачные ритуалы животных бывают крайне странными для нашего восприятия

Популярная механика
Tinder для коллег: расширение NextPage поможет найти общий язык в команде Tinder для коллег: расширение NextPage поможет найти общий язык в команде

Расширение NextPage должно решить проблему с нехваткой неформального общения

РБК
Назови меня Антуаном Дуанелем Назови меня Антуаном Дуанелем

О сериале главного современного специалиста по молодым и чувствительным

Weekend
Каким получился сериал Романа Волобуева «Просто представь, что мы знаем» Каким получился сериал Романа Волобуева «Просто представь, что мы знаем»

Кинокритик о сериале Романа Волобуева «Просто представь, что мы знаем»

РБК
Открыть в приложении