Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android

Способы защиты переписок для пользователей Android-устройств

ТехИнсайдер
Секс в 90-е и сейчас: 12 кардинальных различий Секс в 90-е и сейчас: 12 кардинальных различий

Каким был секс в 90-е?

Maxim
Что такое «зима искусственного интеллекта» и когда ее ждать Что такое «зима искусственного интеллекта» и когда ее ждать

Что происходит во время «зимы искусственного интеллекта»?

ТехИнсайдер
Работа со станком Работа со станком

Как проходило разоружение германской промышленности

Автопилот
5 советов, как побороть нерешительность и довести дело до конца 5 советов, как побороть нерешительность и довести дело до конца

Нерешительность — одна из самых разочаровывающих и непродуктивных форм поведения

Inc.
Виктор Горячев: «Я пришел в фотографию из-за Булата Окуджавы» Виктор Горячев: «Я пришел в фотографию из-за Булата Окуджавы»

На счету Виктора Горячева огромное количество профессиональных портретов

Караван историй
«Травма свидетеля. Почему мне плохо от того, что я вижу, и как с этим справиться» — отрывок из книги Галины Петраковой «Травма свидетеля. Почему мне плохо от того, что я вижу, и как с этим справиться» — отрывок из книги Галины Петраковой

Что такое ПТСР и как справиться с тревогой — отрывок из книги «Травма свидетеля»

СНОБ
Режиссер Александр Прошкин. Счастливый случай Режиссер Александр Прошкин. Счастливый случай

Режиссер Александр Прошкин — о творческом пути и о работе над своими фильмами

Коллекция. Караван историй
Татьяна Баранова: «Позвольте существовать людям и с другим мнением» Татьяна Баранова: «Позвольте существовать людям и с другим мнением»

Сегодня вопросы этики в бизнес-среде стали намного важнее тонкостей этикета

РБК
Роскошные средства передвижения: 10 самых дорогих автомобилей Роскошные средства передвижения: 10 самых дорогих автомобилей

Топ-10 самых дорогих автомобилей в мире по состоянию на 2022 год

Вокруг света
Апельсины могут улучшить зрение - факт или миф? Вся правда об этом удивительно полезном фрукте Апельсины могут улучшить зрение - факт или миф? Вся правда об этом удивительно полезном фрукте

Факты об апельсинах, после которых вам непременно захочется сходить в магазин

ТехИнсайдер
Нож в печень, никто не вечен. О «Ностальгии», номинанте на премию «Оскар» от Италии Нож в печень, никто не вечен. О «Ностальгии», номинанте на премию «Оскар» от Италии

О каких проблемах современной Италии рассказывает «Ностальгия»

СНОБ
Признанная иноагентом Юлия Цветкова: «Воплощаю все, что не любит государство» Признанная иноагентом Юлия Цветкова: «Воплощаю все, что не любит государство»

Юлия Цветкова — как судебное дело повлияло на её жизнь?

Forbes
7 знаковых моментов Gucci под руководством Алессандро Микеле, которые мы запомним 7 знаковых моментов Gucci под руководством Алессандро Микеле, которые мы запомним

Gucci под руководством Алессандро Микеле: модная эпоха, которую мы запомним

Правила жизни
Что мешает вам обрести спокойствие? Что мешает вам обрести спокойствие?

Определите ваши навязчивые установки и найдите способ избавиться от них

Psychologies
Ах, как кружится голова Ах, как кружится голова

У вас бывало, что самочувствие неожиданно ухудшается, а ноги становятся ватными?

Лиза
«Через море Русской Революции» «Через море Русской Революции»

Как сложилась судьба известных пассажиров «философских пароходов» и поездов?

Дилетант
Черная икра и еда корейских рабочих: из чего состоит сибирская кухня Черная икра и еда корейских рабочих: из чего состоит сибирская кухня

Какие щи прилипают к тарелке и почему черную икру нельзя запивать шампанским

СНОБ
Как не купить б/у машину со скрученным пробегом. Инструкция от экспертов Как не купить б/у машину со скрученным пробегом. Инструкция от экспертов

Как проверить, не скручен ли пробег, и какие модели в зоне риска

РБК
«В театре не должно быть запретов»: Юрий Бутусов — о свободе и профессии режиссера «В театре не должно быть запретов»: Юрий Бутусов — о свободе и профессии режиссера

Почему театр — это идеологическое поле и почему во главе должен стоять режиссер

Forbes
10 самых распространенных имен в Советском Cоюзе 10 самых распространенных имен в Советском Cоюзе

Как же выглядела десятка самых распространенных имен в СССР?

Maxim
Всему свое место: как алфавит упорядочил мир вокруг нас Всему свое место: как алфавит упорядочил мир вокруг нас

Отрывок из книги «Всему свое место: Необыкновенная история алфавитного порядка»

Forbes
Груз прошлого: что следует понимать под имперским и колониальным мышлением Груз прошлого: что следует понимать под имперским и колониальным мышлением

Что такое имперское и колониальное мышление? Как оно проявляется?

Forbes
Ошибки на местах: что мешает российским модным брендам развиваться Ошибки на местах: что мешает российским модным брендам развиваться

Какие ошибки совершают российские марки?

Forbes
Почему слоятся ногти: 8 причин, которые должны заставить вас побеспокоиться о своем здоровье Почему слоятся ногти: 8 причин, которые должны заставить вас побеспокоиться о своем здоровье

Рассказываем о 8 неочевидных причинах расслаивания ногтей

ТехИнсайдер
Тракты — это не только «Игра престолов»: чем Екатеринбург удивил девушку из Владивостока Тракты — это не только «Игра престолов»: чем Екатеринбург удивил девушку из Владивостока

Неожиданные параллели у городов, которые разделяет 5000 километров

Вокруг света
От кефира до шиповника От кефира до шиповника

10 доступных суперфудов для укрепления иммунитета

Лиза
Сумах — красный, коварный, пряный Сумах — красный, коварный, пряный

В переводе с арамейского слово «сумах» (или «сумак») означает «красный»

Наука и жизнь
Как говорить тосты: 6 универсальных правил — потренируйтесь дома Как говорить тосты: 6 универсальных правил — потренируйтесь дома

Как преодолеть этот мучительный психологический зажим и сказать тост?

Psychologies
Топ-3 советских фильмов, герои которых могут побудить вас встать с дивана Топ-3 советских фильмов, герои которых могут побудить вас встать с дивана

Мотивирующие советские картины

Psychologies
Открыть в приложении