Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое «зима искусственного интеллекта» и когда ее ждать Что такое «зима искусственного интеллекта» и когда ее ждать

Что происходит во время «зимы искусственного интеллекта»?

ТехИнсайдер
От чего стоит отказаться при повышенном сахаре в крови: 7 запрещенных продуктов От чего стоит отказаться при повышенном сахаре в крови: 7 запрещенных продуктов

Какие продукты нужно исключить, чтобы снизить сахар в крови

ТехИнсайдер
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
Морской путь Морской путь

Что собой представляют круизные лайнеры последнего поколения

Robb Report
Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят) Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят)

Какие позы любят девушки? 9 самых-самых (бонус: позиции, которые их бесят)

Playboy
Нормальные герои Нормальные герои

Картина «Строители Братска» Виктора Попкова

Вокруг света
В поисках убитого прошлого В поисках убитого прошлого

Как Алексей Герман вернул в советское кино 1930‑е годы

Weekend
«Кино задавало вопросы, а зрители ждали ответов» «Кино задавало вопросы, а зрители ждали ответов»

Наум Клейман — о белых пятнах в истории нашего кино

Weekend
Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей

К чему приводит путаница детских и родительских ролей?

Psychologies
Мать-маньячка заперла родную дочь в комнате на 25 лет: ужасная история Мать-маньячка заперла родную дочь в комнате на 25 лет: ужасная история

Вот какой губительной бывает любовь родителей — история Бланш Монье

ТехИнсайдер
Танцевальная чума: как танец убивал людей и поднимал демографию Танцевальная чума: как танец убивал людей и поднимал демографию

Танцевальная чума 1518 года

ТехИнсайдер
Плата за дружбу Плата за дружбу

Как путешествовать с домашними питомцами

Деньги
Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы

Театр, традиционно считавшийся детским, вдруг стал модным и актуальным

Forbes
Все обожают Пита: кто такой Пит Дэвидсон и почему его любят успешные женщины Все обожают Пита: кто такой Пит Дэвидсон и почему его любят успешные женщины

Разбираем особенности образа Пита Дэвидсона

Правила жизни
Лабиринт: запутанная история Лабиринт: запутанная история

Самые необычные лабиринты мира – история и тайны

Вокруг света
Остров смерти, куклы, поморы: путешествие по необычным местам Архангельской области Остров смерти, куклы, поморы: путешествие по необычным местам Архангельской области

Отправляемся в путь по малоизвестным местам Архангельской области

Вокруг света
«У нас пока стесняются» «У нас пока стесняются»

Дина Годер о том, как документальная анимация говорит о катастрофе

Weekend
«Хочу поиграть в англоязычной команде»: Бумыч о планах на будущее, своей карьере и бывшей жене «Хочу поиграть в англоязычной команде»: Бумыч о планах на будущее, своей карьере и бывшей жене

Киберспортсмен Кирилл «Boombl4» Михайлов — о репутации и команде мечты

Maxim
Испытания в полете: как США запустили к Луне первый за полвека пилотируемый корабль Испытания в полете: как США запустили к Луне первый за полвека пилотируемый корабль

Запуск «Артемиды I» ознаменовал возвращение Соединенных Штатов к освоению Луны

Forbes
«Мне нужен масштаб!» «Мне нужен масштаб!»

Как Amirchik ворвался в мировой Shazam

OK!
Мне сверху видно все: 10 самых высоких колес обозрения в мире Мне сверху видно все: 10 самых высоких колес обозрения в мире

За 130 лет своего существования подобные аттракционы заметно прибавили в «росте»

Вокруг света
Ждет ли нас массовое вымирание и что станет с планетой после него? Ждет ли нас массовое вымирание и что станет с планетой после него?

Грозит ли человечеству вымирание?

ТехИнсайдер
Правило левой руки Правило левой руки

Армения — машина времени с затонированным лобовым стеклом

Автопилот
«Травма свидетеля. Почему мне плохо от того, что я вижу, и как с этим справиться» — отрывок из книги Галины Петраковой «Травма свидетеля. Почему мне плохо от того, что я вижу, и как с этим справиться» — отрывок из книги Галины Петраковой

Что такое ПТСР и как справиться с тревогой — отрывок из книги «Травма свидетеля»

СНОБ
Реквием по бумажным картам Реквием по бумажным картам

Любителям морских раритетов предложено пополнение

Y Magazine
Действительно ли «не в деньгах счастье»? Ученые нашли ответ на этот вопрос Действительно ли «не в деньгах счастье»? Ученые нашли ответ на этот вопрос

Достаточно пятизначной суммы в твердой валюте, чтобы жизнь заиграла красками

Psychologies
Свидания после развода: 4 главных правила — узнайте, как построить новые отношения Свидания после развода: 4 главных правила — узнайте, как построить новые отношения

Как найти силы снова отправиться на поиск подходящего партнера?

Psychologies
Codecasa 43 Boji Codecasa 43 Boji

Каждая яхта Codecasa уникальна, как произведение искусства и как ее владелец

Y Magazine
Свой человек Свой человек

Сергей Корсаков — о невероятном опыте съемок, яхтинге и фильме «Вызов»

OK!
Не быть жертвой Не быть жертвой

Я приняла решение не страдать

Psychologies
Открыть в приложении