Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое DDoS-атака и как она работает Что такое DDoS-атака и как она работает

Объясняем, что такое DDoS и как оно работает

ТехИнсайдер
Читаем между строк Читаем между строк

Как себя вести с новым онлайн-знакомым?

Лиза
Минус вайб Минус вайб

Чем опасно доверять написание кода нейросетям?

N+1
5 причин, почему быстрая зарядка может разочаровать 5 причин, почему быстрая зарядка может разочаровать

Быстрая зарядка: какие проблемы могут вас ждать

CHIP
Какое пиво лучше с оливье, борщом, окрошкой: ответ специалиста Какое пиво лучше с оливье, борщом, окрошкой: ответ специалиста

Крайне необычный варианты гастрономической пары к пиву

Maxim
Украшение коллектива: чем опасны сексистские комплименты и как на них реагировать Украшение коллектива: чем опасны сексистские комплименты и как на них реагировать

Как комплимент превращается в проявление сексизма?

Forbes
Международный мужской день: что важно знать мужчинам, чтобы сохранить силу и здоровье Международный мужской день: что важно знать мужчинам, чтобы сохранить силу и здоровье

Что такое снижение тестостерона и как его можно замедлить?

Psychologies
Зачем обоняние лёгким Зачем обоняние лёгким

Обоняние в лёгких? Это что, шутка? Вовсе нет!

Наука и жизнь
Что выбрать: пауэрбанк или портативную зарядную станцию Что выбрать: пауэрбанк или портативную зарядную станцию

Правильно ли сравнивать пауэрбанки и портативные зарядные станции?

ТехИнсайдер
6 повседневных привычек, повышающих риск развития рака незаметно для вас 6 повседневных привычек, повышающих риск развития рака незаметно для вас

Сладкое, горячие напитки и сидячий образ жизни повышают риск развития онкологии

ТехИнсайдер
Летающие коровы — не выдумка! Вот для чего и как это возможно Летающие коровы — не выдумка! Вот для чего и как это возможно

Забота человека о своих братьях меньших может приобрести непривычные формы

ТехИнсайдер
Родитель года: почему вставать на сторону ребенка нужно не всегда Родитель года: почему вставать на сторону ребенка нужно не всегда

Все родители любят своих детей. Хорошо, почти все. Очень и очень многие

Maxim
Величайший треидер Уолл-стрит Величайший треидер Уолл-стрит

Как Майкл Стейнхардт зарабатывал и терял миллиарды

Деньги
Одна вокруг света: парк Чапада-дас-Месас и поля, засеянные злаком-выживальщиком Одна вокруг света: парк Чапада-дас-Месас и поля, засеянные злаком-выживальщиком

195-я серия о кругосветном путешествии москвички Ирины Сидоренко: Бразилия

Forbes
Ценить пороки Ценить пороки

Цените свои пороки. Меня на волну подняла алчность

Psychologies
«Через море Русской Революции» «Через море Русской Революции»

Как сложилась судьба известных пассажиров «философских пароходов» и поездов?

Дилетант
Упрямый характер: история и современность автомобильной марки Audi Упрямый характер: история и современность автомобильной марки Audi

Непростая история взлетов и падений Audi

Вокруг света
Гид для мясоеда Гид для мясоеда

Как выбрать свежий и качественный фарш?

Лиза
«Быть в состоянии спокойствия, когда вокруг хаос»: как психологи работают в кризисных ситуациях «Быть в состоянии спокойствия, когда вокруг хаос»: как психологи работают в кризисных ситуациях

Какие виды помощи может оказать психолог в кризисной ситуации?

Psychologies
Как угоняют автомобили в России. 7 видео Как угоняют автомобили в России. 7 видео

Изучаем хитрые схемы автоугонщиков, которые попали на видео

РБК
Анастасия Сапожникова: «Когда живешь в комфорте, легко быть гуманным» Анастасия Сапожникова: «Когда живешь в комфорте, легко быть гуманным»

Анастасия Сапожникова — о съемках и борьбе со стрессом

Psychologies
Все сама: как нехватка мужчин влияет на браки, рождаемость и социальную напряженность Все сама: как нехватка мужчин влияет на браки, рождаемость и социальную напряженность

Как гендерная диспропорция в обществах влияет на женщин?

Forbes
8 фильмов о путешествиях, которые меняют жизнь 8 фильмов о путешествиях, которые меняют жизнь

Герои этой киноподборки отправляются в походы и полеты

Psychologies
7 русских писателей страшнее Стивена Кинга 7 русских писателей страшнее Стивена Кинга

Книги на тот случай, если устал от западных хорроров

Maxim
Дитя ночи: история Евы Ионеско, которая снимает фильмы о сексуальной эксплуатации Дитя ночи: история Евы Ионеско, которая снимает фильмы о сексуальной эксплуатации

Ева Ионеско в 11 снялась для Playboy и дебютировала в фильме для взрослых

Forbes
От «компьютера будущего» до «убыточной ямы»: почему провалилась разработка «умной» колонки от Amazon От «компьютера будущего» до «убыточной ямы»: почему провалилась разработка «умной» колонки от Amazon

Почему колонка от Amazon стала не революционным продуктом, а убытком?

VC.RU
«В театре не должно быть запретов»: Юрий Бутусов — о свободе и профессии режиссера «В театре не должно быть запретов»: Юрий Бутусов — о свободе и профессии режиссера

Почему театр — это идеологическое поле и почему во главе должен стоять режиссер

Forbes
Почему мы не видим свой нос постоянно Почему мы не видим свой нос постоянно

Почему мозг игнорирует сам вид носа?

ТехИнсайдер
Брить или не брить: 17 вех из истории бороды Брить или не брить: 17 вех из истории бороды

Как жители разных уголков мира относились к растительности на лице

Вокруг света
Как строить карьеру в VUCA-мире Как строить карьеру в VUCA-мире

Продолжать профессиональный и служебный рост можно даже в условиях хаоса

РБК
Открыть в приложении