Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Эти ошибки допускают все, и только 35% людей пользуются беспроводными наушниками правильно Эти ошибки допускают все, и только 35% людей пользуются беспроводными наушниками правильно

Ошибки, которые ухудшают качество звука и срок службы наушников

ТехИнсайдер
5 закусок, которые помогут сохранить остроту ума 5 закусок, которые помогут сохранить остроту ума

Что стоит есть, чтобы помочь своему мозгу лучше работать?

ТехИнсайдер
Крымский мост: сколько строили и когда открыли самый длинный мост Европы Крымский мост: сколько строили и когда открыли самый длинный мост Европы

Факты, которые вы не знали о Крымском мосте

РБК
Секреты старых мастеров Секреты старых мастеров

Новая жизнь советов советским автовладельцам

Автопилот
Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
Как Sportradar помогает ФИФА бороться с договорными матчами на ЧМ-2022 Как Sportradar помогает ФИФА бороться с договорными матчами на ЧМ-2022

Как Sportradar помогает бороться с коррупцией на чемпионате мира

Forbes
Полосатые озорники: 4 факта о бурундуках Полосатые озорники: 4 факта о бурундуках

Жизнь бурундука вовсе не похожа на приключения экранных героев

Вокруг света
Болезнь Альцгеймера поражает женщин больше, чем мужчин: почему? Болезнь Альцгеймера поражает женщин больше, чем мужчин: почему?

Женщины больше, чем мужчины, рискуют умереть от болезни Альцгеймера

Psychologies
Как воспринимать перемены: методика стрессоустойчивости Как воспринимать перемены: методика стрессоустойчивости

Советы, которые помогут успешно преодолеть переходный период

Psychologies
«Или мы с дочерью, или она»: история одного ультиматума «Или мы с дочерью, или она»: история одного ультиматума

В жизни нашего героя присутствует женщина, отношения с которой скрывает

Psychologies
Основатель MDK Роберто Панчвидзе о работе с блогерами, алгоритмах социальных сетей и востребованном контенте Основатель MDK Роберто Панчвидзе о работе с блогерами, алгоритмах социальных сетей и востребованном контенте

Роберто Панчвидзе о том, как блокировки интернет-площадок сказались на блогинге

СНОБ
Откуда в пиве женские гормоны: факты против вымысла и народных баек Откуда в пиве женские гормоны: факты против вымысла и народных баек

Пиво – возможно, один из самых ранних напитков, созданных руками человека

ТехИнсайдер
Александр Ведяхин: «Сегодня рынок акций отражает геополитические риски» Александр Ведяхин: «Сегодня рынок акций отражает геополитические риски»

Александр Ведяхин о том, как новые условия влияют на частные инвестиции

РБК
Покупаете кофе навынос? Ученые рассказали, почему это опасно для здоровья Покупаете кофе навынос? Ученые рассказали, почему это опасно для здоровья

Кофе навынос с утра пораньше дарит человеку не только заряд бодрости

Psychologies
Добро пожаловать в темные бездны мужского мозга! Добро пожаловать в темные бездны мужского мозга!

Что стоит за принятием решений представителями «сильного» пола?

Psychologies
«Пора заводить собаку!»: что нужно знать до появления питомца — взвесьте за и против «Пора заводить собаку!»: что нужно знать до появления питомца — взвесьте за и против

Как понять, что пора завести щенка? И когда этого делать категорически не нужно?

Psychologies
Пелевину 60. Что мы знаем о самом молчаливом российском писателе Пелевину 60. Что мы знаем о самом молчаливом российском писателе

Вспоминаем факты и мифы из жизни Виктора Пелевина

СНОБ
Вас не догонят: 12 самых быстрых машин в мире Вас не догонят: 12 самых быстрых машин в мире

Как выглядит современная дюжина самых быстрых в мире машин

Вокруг света
Плата за дружбу Плата за дружбу

Как путешествовать с домашними питомцами

Деньги
5 самых смертоносных видов оружия за всю историю: от напалма до атомной бомбы 5 самых смертоносных видов оружия за всю историю: от напалма до атомной бомбы

Виды вооружений, соперничать с которыми на всей Земле не мог никто

ТехИнсайдер
Слишком свободный. История Джулиана Ассанжа Слишком свободный. История Джулиана Ассанжа

Как Джулиан Ассанж вошел в историю журналистики

СНОБ
Не подавляй, а управляй: как умение распознавать свои эмоции делает жизнь лучше Не подавляй, а управляй: как умение распознавать свои эмоции делает жизнь лучше

Чего мы лишаемся, когда отказываемся чувствовать?

Psychologies
«God укажет нам путь»: отрывок из новой книги Наринэ Абгарян «God укажет нам путь»: отрывок из новой книги Наринэ Абгарян

Отрывок из книги «Молчание цвета» — история разных людей

Forbes
Киберпанкреализм Киберпанкреализм

Создатели «Мира Дикого Запада» экранизируют Уильяма Гибсона

Weekend
Юрий Грымов: Юрий Грымов:

Я считаю, что никакой преемственности в искусстве нет и быть не может

Коллекция. Караван историй
Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности

Если просто, это книга о надежде — надежде на тепло и понимание

Правила жизни
«Беги»: роман о домашнем насилии и освобождении от него «Беги»: роман о домашнем насилии и освобождении от него

Отрывок из романа о домашнем насилии «Беги» Лидии Давыдовой

Forbes
Летающие коровы — не выдумка! Вот для чего и как это возможно Летающие коровы — не выдумка! Вот для чего и как это возможно

Забота человека о своих братьях меньших может приобрести непривычные формы

ТехИнсайдер
Кто владеет самыми прибыльными компаниями России Кто владеет самыми прибыльными компаниями России

Forbes впервые представил рейтинг самых прибыльных российских компаний

Forbes
Светлана Камынина: «Надеюсь, и через 10 лет я буду радоваться жизни, какой бы она ни была» Светлана Камынина: «Надеюсь, и через 10 лет я буду радоваться жизни, какой бы она ни была»

Светлана Камынина — о новой профессии, отношении к диетам и привычках

Здоровье
Открыть в приложении