Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Ночные кошмары: Нарушения сна и как мы с ними живем наяву» «Ночные кошмары: Нарушения сна и как мы с ними живем наяву»

Что науке известно о галлюцинациях, связанных со сном

N+1
Зря разделась! 9 забавных ситуаций, в которые попадали актеры на съемках Зря разделась! 9 забавных ситуаций, в которые попадали актеры на съемках

Актеры нередко попадают в забавные ситуации или подшучивают друг над другом

Cosmopolitan
Февральская революция: как искусственный интеллект может повысить производительность труда Февральская революция: как искусственный интеллект может повысить производительность труда

Русские ученые устроили шестую промышленную революцию!

ТехИнсайдер
Одно спасительное имя Одно спасительное имя

Как называют лекарства?

Популярная механика
Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу

Как сплетни и слухи могут влиять на рабочий процесс и настроения в офисе

Forbes
«Сержант Пеппер» The Beatles больше не самый великий альбом всех времен «Сержант Пеппер» The Beatles больше не самый великий альбом всех времен

А также: Pink Floyd на десятки позиций ниже Beyonce, а Radiohead — в топ-20

Maxim
Эффект Люцифера Эффект Люцифера

Почему хорошие люди превращаются в злодеев

kiozk originals
6 фактов об игре «Что? Где? Когда?» 6 фактов об игре «Что? Где? Когда?»

Факты о телеигре «Что? Где? Когда?», которые ты не найдешь даже в черном ящике

Maxim
5 легендарных мечей, которые до сих пор целы 5 легендарных мечей, которые до сих пор целы

Эти легендарные мечи можно увидеть собственными глазами!

Maxim
Месть Оруэлла Месть Оруэлла

Палимпсест романа «1984»

kiozk originals
Правила успешного питчинга Правила успешного питчинга

Что такое питчинг, для чего он нужен и как презентовать свою идею спонсору

СНОБ
Тест-драйв Porsche Panamera GTS Sport Turismo Тест-драйв Porsche Panamera GTS Sport Turismo

Этот автомобиль — фактически первый «универсал» от Porsche

СНОБ
«Идите навстречу боли, а не избегайте ее»: жизненные принципы миллиардера Рэя Далио «Идите навстречу боли, а не избегайте ее»: жизненные принципы миллиардера Рэя Далио

Фрагмент из книги «Принципы. Жизнь и работа» миллиардера Рэя Далио

Forbes
Тогда, сейчас и в «Инстаграме»: как поменялись голливудские звезды Тогда, сейчас и в «Инстаграме»: как поменялись голливудские звезды

Сравниваем фото звезд в разное время с их фотографиями в «Инстаграме»

Cosmopolitan
Завезенные на Огненную Землю бобры ускорили рост кумжи Завезенные на Огненную Землю бобры ускорили рост кумжи

Построенные бобрами запруды создали условия, в которых лососи растут быстрее

N+1
Василий Алексеев: Что произошло с рынком франчайзинга после пандемии Василий Алексеев: Что произошло с рынком франчайзинга после пандемии

Рынок франчайзинга: за счет чего удалось добиться кратного роста числа партнеров

СНОБ
Как правильно гладить брюки со стрелками: пошаговая инструкция Как правильно гладить брюки со стрелками: пошаговая инструкция

Руководство по созданию стрелок утюгом и парогенератором на мужских брюках

Playboy
Причины терпимости к вербальной агрессии следует искать в детстве Причины терпимости к вербальной агрессии следует искать в детстве

Почему некоторые из нас легко позволяют себя оскорблять?

Psychologies
9 экстремальных способов, которыми люди добираются на работу 9 экстремальных способов, которыми люди добираются на работу

Дорога на работу — особый жанр

Maxim
Растянется? Покроется катышками? Как купить качественный свитер не на один сезон Растянется? Покроется катышками? Как купить качественный свитер не на один сезон

Как купить действительно качественный, теплый и приятный к телу свитер

Cosmopolitan
Загадочные знаки посреди пустыни Гоби, найденные в 2011 году Загадочные знаки посреди пустыни Гоби, найденные в 2011 году

Знаки в пустыне Гоби — часть засекреченной космической программы Китая?

Maxim
Как снять гель-лак: все способы и лайфхаки от мастеров маникюра Как снять гель-лак: все способы и лайфхаки от мастеров маникюра

Домашние способы снять гель-лак, которые несложно освоить

Cosmopolitan
Отрицание, замещение, проекция: как психика нас защищает Отрицание, замещение, проекция: как психика нас защищает

Три защитных механизма психики, описанные Зигмундом Фрейдом

Psychologies
“Старт”: уникальный автомобиль из СССР с тяжелой судьбой “Старт”: уникальный автомобиль из СССР с тяжелой судьбой

Микроавтобус made in USSR

Популярная механика
Каменный гвоздь Каменный гвоздь

Стремительное развитие городской среды чрезвычайно обогатило наш язык

Maxim
Покинутый советский остров-полигон, на котором захоронено биологическое оружие Покинутый советский остров-полигон, на котором захоронено биологическое оружие

В советское время на острове Возрождения располагался полигон «Бархан»

Maxim
Вошли в моду Вошли в моду

Можно ли начать карьеру в фешен-бизнесе с нуля?

Cosmopolitan
В защиту эгоизма В защиту эгоизма

Почему не стоит жертвовать собой ради других

kiozk originals
Химерный белок ускорил переработку бутылочного пластика Химерный белок ускорил переработку бутылочного пластика

Белок-химера поможет уменьшить влияние микропластика на окружающую среду

N+1
Что смотреть: пять фильмов о современном искусстве Что смотреть: пять фильмов о современном искусстве

Современное искусство — увлекательно, эксцентрично и полное новых идей

Seasons of life
Открыть в приложении