Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые выяснили, какие продукты могут помочь лучше выглядеть с возрастом Ученые выяснили, какие продукты могут помочь лучше выглядеть с возрастом

Всего одно яблоко в день может замедлить старение нашего организма

ТехИнсайдер
К себе нежно: как даже в тяжелый жизненный период продолжать заботиться о себе К себе нежно: как даже в тяжелый жизненный период продолжать заботиться о себе

Ольга Примаченко — как сохранить ментальное здоровье в кризис

Forbes
Кофе и нейросети: какую роль играет ИИ в привлечении зумеров при кадровом дефиците Кофе и нейросети: какую роль играет ИИ в привлечении зумеров при кадровом дефиците

Как в борьбе за таланты генеративный ИИ становится ключевым инструментом

Forbes
Ревность, подозрительность и гиперопека: 8 признаков паранойи — проверьте себя Ревность, подозрительность и гиперопека: 8 признаков паранойи — проверьте себя

По каким признакам определить параноидальное расстройство личности?

Psychologies
50 лет исследований показали: эти 4 ошибки разрушают брак 50 лет исследований показали: эти 4 ошибки разрушают брак

Четыре стратегии общения, которые могут привести к расставаниям и разводам

Inc.
3 способа сохранить отношения на расстоянии 3 способа сохранить отношения на расстоянии

Расстояние между любящими людьми не всегда приводит к расставанию

Psychologies
«Я всю жизнь сторонюсь радикализма»: Евгений Чебатков — о том, что он любит в истории, не любит в юморе, и о злости «Я всю жизнь сторонюсь радикализма»: Евгений Чебатков — о том, что он любит в истории, не любит в юморе, и о злости

Евгений Чебатков — комик, который успевает озвучивать аудиокниги и писать рэп

Правила жизни
Зачем обоняние лёгким Зачем обоняние лёгким

Обоняние в лёгких? Это что, шутка? Вовсе нет!

Наука и жизнь
Последний царь: о чем забыли создатели документального фильма о Петре I Последний царь: о чем забыли создатели документального фильма о Петре I

Факты, которым не нашлось места в документальном фильме о Петре I

Forbes
«Корпорация самозванцев» «Корпорация самозванцев»

Теневая экономика и коррупция в сталинском СССР — отрывок из книги

N+1
Золотая клетка: как живут наложницы в современных гаремах Золотая клетка: как живут наложницы в современных гаремах

Джиллиан Лорен полтора года была наложницей министра финансов Брунея

VOICE
Коучинг и психотерапия: 5 основных различий Коучинг и психотерапия: 5 основных различий

В каких ситуациях будет полезнее психотерапия, а в каких — коучинг?

Psychologies
Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы

Театр, традиционно считавшийся детским, вдруг стал модным и актуальным

Forbes
Лёгкость бытия Лёгкость бытия

Микс северной сдержанности и южного темперамента в московской квартире

Идеи Вашего Дома
Искушение манящей красотой Искушение манящей красотой

В Ингушетии так много красивых мест, что можно потерять счет дням, изучая их

Отдых в России
«Не допрос, а исповедь» «Не допрос, а исповедь»

Кульминация операции в отношении «антисоветской интеллигенции»

Дилетант
6 книг современных азиатских авторов 6 книг современных азиатских авторов

Необычные и современные произведения авторов из стан Азии

Правила жизни
Идем в рост Идем в рост

Где черпать силы и как вдохновлять сотрудников, когда сам нуждаешься в поддержке

Psychologies
«Я живу в отрицании себя»: почему жертвам сложно рассказать об изнасиловании «Я живу в отрицании себя»: почему жертвам сложно рассказать об изнасиловании

Что фильм «Самая везучая девушка в мире» может рассказать о жертвах насилия

Forbes
10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки 10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки

Добавьте 9% уксус в список необходимых средств для стирки!

ТехИнсайдер
«Татьяна поняла, что она во френдзоне»: как воспринимают женщин в русской литературе «Татьяна поняла, что она во френдзоне»: как воспринимают женщин в русской литературе

Что стоит перечитать и как переосмыслить знакомые женские персонажи?

Forbes
Чай, со слоном Чай, со слоном

Что и зачем нужно знать об индийских автомобилях

Автопилот
В режиме наблюдателя: как квантовое мышление помогает отказаться от предубеждений В режиме наблюдателя: как квантовое мышление помогает отказаться от предубеждений

Как квантовое мышление помогает избежать категоричности и туннельного зрения

Forbes
«Обещать и сделать — это два разных слова» «Обещать и сделать — это два разных слова»

РБК получил ответы на шесть неудобных вопросов про бизнес в ОЭЗ

РБК
Посмотри мне в глаза Посмотри мне в глаза

Как убрать нависшее веко: методы, которые помогут справиться с проблемой

Лиза
Точный подсчет Точный подсчет

Какие тренировки лучше всего помогают избавиться от накопленных калорий?

Лиза
“Честное пионерское!” Этот старый способ оплаты за проезд сейчас кажется странным “Честное пионерское!” Этот старый способ оплаты за проезд сейчас кажется странным

В СССР тоже был общественный транспорт без кондуктора

ТехИнсайдер
Почему в последние мгновения жизни люди видят одни и те же образы Почему в последние мгновения жизни люди видят одни и те же образы

Что же видят люди перед концом этого своего "фильма-жизни"?

ТехИнсайдер
Человек + машина Человек + машина

Как сегодня ИИ помогает там, где человек может пострадать

N+1
Почему акула выплевывает свой желудок и не умирает? Почему акула выплевывает свой желудок и не умирает?

Когда акулы подвергаются стрессу, они иногда «выплевывают» желудок

ТехИнсайдер
Открыть в приложении