Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Два месяца под землей без света и общения с людьми: эксперимент Мишеля Сифра Два месяца под землей без света и общения с людьми: эксперимент Мишеля Сифра

Как проходил эксперимент Мишеля Сифра и к каким он пришел выводам

ТехИнсайдер
Физики построили модель идеального писсуара. Брызг не будет Физики построили модель идеального писсуара. Брызг не будет

Каким должен быть идеальный писсуар

ТехИнсайдер
Русская течь: как быть с защитой персональных данных Русская течь: как быть с защитой персональных данных

Не поздно ли плакать по утекшим данным и есть ли шансы перекрыть кран утечкам

Forbes
Население Южной Америки разделилось на две группы не менее десяти тысяч лет назад Население Южной Америки разделилось на две группы не менее десяти тысяч лет назад

Население Южной Америки разделилось на группы в андском регионе

N+1
Соскочить с крючка вины: как распознать манипуляцию с первой секунды Соскочить с крючка вины: как распознать манипуляцию с первой секунды

Что такое навязанная вина и как она связана с манипуляцией?

VOICE
9 книг, которые российские предприниматели советуют прочитать для поиска «внутренней опоры» 9 книг, которые российские предприниматели советуют прочитать для поиска «внутренней опоры»

Какие книги помогают предпринимателям «собраться» в трудные времена?

Inc.
«Мы подходим друг другу по темпераменту» «Мы подходим друг другу по темпераменту»

Кристина Кретова и Игорь Цвирко тонко чувствуют друг друга на сцене

OK!
Час расплаты: как мир пропустил тревожные звоночки в истории криптобиржи FTX Час расплаты: как мир пропустил тревожные звоночки в истории криптобиржи FTX

Владелец криптобиржи FTX сумел очаровать многих игроков криптомира

Forbes
Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней

Новая авторская колода метафорических карт «Сад царевны»

Psychologies
Киноиндустрия Южной Кореи от А до Я. Что такое дорамы, почему актеры переигрывают и зачем в кадре столько насилия Киноиндустрия Южной Кореи от А до Я. Что такое дорамы, почему актеры переигрывают и зачем в кадре столько насилия

Что такое дорамы, почему актеры переигрывают и зачем в кадре столько насилия

Правила жизни
Куклы, сделанные из мертвых детей: история Анатолия Москвина, окружившего себя телами подростков Куклы, сделанные из мертвых детей: история Анатолия Москвина, окружившего себя телами подростков

Куклы из детей: нервы сдавали даже у следователей, которые видели многое

VOICE
Серая орешковая соня Серая орешковая соня

Кем умилялись читатели в 1861 году

Вокруг света
Серафима Гурова: «Почему бренды стали главной движущей силой перемен» Серафима Гурова: «Почему бренды стали главной движущей силой перемен»

Как коммуникации и реклама влияют на потребителя

РБК
40 лет Stone Island: как появился и чем знаменит любимый бренд футбольных фанатов и рэперов 40 лет Stone Island: как появился и чем знаменит любимый бренд футбольных фанатов и рэперов

Рассказывает историю нишевого бренда Stone Island

Правила жизни
Космическая прогулка Космическая прогулка

Боровск и Калуга: где жил и работал Константин Циолковский

Отдых в России
Перестаньте за все извиняться на работе. Почему это вредно и какие фразы лучше использовать — советы эксперта Перестаньте за все извиняться на работе. Почему это вредно и какие фразы лучше использовать — советы эксперта

Для многих говорить «извините» стало вредной привычкой

Inc.
Царь-вещи России: от книги в 10 тысяч листов до килограммовой монеты Царь-вещи России: от книги в 10 тысяч листов до килограммовой монеты

Книга из десяти тысяч листов, многотонный колокол и другие царь-предметы

Культура.РФ
Чужие деньги Трампа: как экс-президент США привлекает спонсоров на свои нужды Чужие деньги Трампа: как экс-президент США привлекает спонсоров на свои нужды

Как миллиардеру стать американским политиком, не расставаясь с деньгами?

Forbes
Цветы на кухне Цветы на кухне

7 неприхотливых комнатных растений, которые можно поставить на кухне

Лиза
Джулия Робертс и три ее самых заветных желания Джулия Робертс и три ее самых заветных желания

Второй Джулии Робертс все еще нет как нет

Караван историй
Как франшиза шаурмы вошла в рейтинг самых выгодных в России Как франшиза шаурмы вошла в рейтинг самых выгодных в России

Что в «Лаваше» привлекает предпринимателей?

Forbes
Тест Omoda C5: китайцы взломали код Тест Omoda C5: китайцы взломали код

Omoda C5: несмотря на мелкие недочеты, модель показывает класс

Maxim
Ценить пороки Ценить пороки

Цените свои пороки. Меня на волну подняла алчность

Psychologies
В центре города В центре города

Элегантный современный интерьер с элементами классики

SALON-Interior
Разумовские Разумовские

История восхождения рода Разумовских похожа на сказку

Дилетант
«Я — инфантильный человек»: 3 шага, чтобы повзрослеть «Я — инфантильный человек»: 3 шага, чтобы повзрослеть

Как проявляется инфантилизм и что делать, если вы обнаружили его признаки у себя

Psychologies
Математики решили задачу, предложенную Леонардом Эйлером в середине XVIII века Математики решили задачу, предложенную Леонардом Эйлером в середине XVIII века

Математики сделали важный шаг к решению уравнений Навье-Стокса

ТехИнсайдер
«Истории нужен добрый сторонний взгляд» «Истории нужен добрый сторонний взгляд»

Алексей Федорченко о возвращении имен и своем взгляде на историю

Weekend
Бестселлер о женщине-химике, которая превратила кухню в лабораторию Бестселлер о женщине-химике, которая превратила кухню в лабораторию

Отрывок из книги Бонни Гармус «Уроки химии»

Forbes
10 знаковых вещей Raf Simons, вошедших в историю моды 10 знаковых вещей Raf Simons, вошедших в историю моды

Десять предметов и коллекций Raf Simons, которые точно можно назвать культовыми

Правила жизни
Открыть в приложении