Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как нейросети помогают (или мешают) искать работу: мнение экспертов Как нейросети помогают (или мешают) искать работу: мнение экспертов

Какие риски могут возникнуть при собеседовании с ИИ?

ТехИнсайдер
От яслей до тимуровцев: почему на Западе восторгаются советским воспитанием От яслей до тимуровцев: почему на Западе восторгаются советским воспитанием

Методика воспитания детей в социалистической стране: что в ней было такого?

Maxim
Зарядки, SIM-карты и кнопки: какие технологии в гаджетах могут исчезнуть уже через пару лет Зарядки, SIM-карты и кнопки: какие технологии в гаджетах могут исчезнуть уже через пару лет

О том, какие технологии в гаджетах имеют тенденцию к полному исчезновению

ТехИнсайдер
Лидия Сандгрен: «Собрание сочинений». Отрывок из дебютного романа, мгновенно ставшего бестселлером Лидия Сандгрен: «Собрание сочинений». Отрывок из дебютного романа, мгновенно ставшего бестселлером

Отрывок из большого романа Лидии Сандгрен

СНОБ
Вся правда о холестерине Вся правда о холестерине

Что на самом деле вызывает заболевания сердца и сосудов

kiozk originals
После вечеринки. Сколько алкоголь выводится из организма? После вечеринки. Сколько алкоголь выводится из организма?

Сколько нужно ждать трезвости после выпитого

VOICE
«Советский ковчег» «Советский ковчег»

Высылали «нежелательных элементов» не только из Советской России

Дилетант
«Идеи о справедливости» «Идеи о справедливости»

Шариат и культурные изменения в русском Туркестане: отрывок из книги

N+1
Основательница бренда Sans Merci — об интеллектуальной сексуальности Основательница бренда Sans Merci — об интеллектуальной сексуальности

Что помогает держаться на плаву бренду Sans Merci

РБК
Новые герои секса: любитель обнимашек и самурайский дух Новые герои секса: любитель обнимашек и самурайский дух

Вытаскиваем из механизма мейоза отдельные детальки и любуемся ими

СНОБ
Фронтмен INXS Майкл Хатченс писал великие песни, а еще прекрасно одевался. Изучаем по его фотографиям образ рок-звезды Фронтмен INXS Майкл Хатченс писал великие песни, а еще прекрасно одевался. Изучаем по его фотографиям образ рок-звезды

Вспоминаем Майкла Хатченса, изучаем его стиль и осваиваем некоторые приемы

Правила жизни
Как два сибиряка придумали робота-репетитора по английскому языку и привлекли $5 млн Как два сибиряка придумали робота-репетитора по английскому языку и привлекли $5 млн

Как два друга создали виртуального репетитора и справились с кризисом?

Forbes
Пелевину — 60. Литераторы и режиссеры — о том, почему его проза так актуальна Пелевину — 60. Литераторы и режиссеры — о том, почему его проза так актуальна

Что Пелевин значит для России?

Правила жизни
Что будет, если всегда пересаливать еду? Рассказывают нейробиологи Что будет, если всегда пересаливать еду? Рассказывают нейробиологи

Названы последствия употребления большого количества соли

Вокруг света
Часы по имени Арнольд: как семья Бельвилей продавала точное время своим клиентам Часы по имени Арнольд: как семья Бельвилей продавала точное время своим клиентам

Отрывок из книги «Алхимия и жизнь: Как люди и материалы меняли друг друга»

Forbes
Выпускники и земляки: зачем компаниям сохранять отношения с бывшими сотрудниками Выпускники и земляки: зачем компаниям сохранять отношения с бывшими сотрудниками

Создание сообщества бывших сотрудников может помочь развитию бренда компании

Forbes
Как говорить тосты: 6 универсальных правил — потренируйтесь дома Как говорить тосты: 6 универсальных правил — потренируйтесь дома

Как преодолеть этот мучительный психологический зажим и сказать тост?

Psychologies
Чем американская водка отличается от русской Чем американская водка отличается от русской

Американцы извратили даже нашу национальную скрепу — великую и ужасную водку

Maxim
5 заблуждений о серьезности мужских намерений: женские истории комментируют эксперты 5 заблуждений о серьезности мужских намерений: женские истории комментируют эксперты

Можно ли узнать намерения другого человека в начале отношений?

Psychologies
«С любимыми не расставайтесь» «С любимыми не расставайтесь»

Наталия Вдовина и Игорь Гордин рассказали о спектакле «Саша, привет!»

OK!
Пока не поздно Пока не поздно

Как вести себя сейчас, чтобы не было обидно в старости

Лиза
9 самых популярных видов маникюра: уход, лечение и нейл-арт 9 самых популярных видов маникюра: уход, лечение и нейл-арт

Рассказываем об основных профессиональных видах ухода за ногтями

РБК
Страхи и перфекционизм: что заставляет нас прокрастинировать и как с этим бороться Страхи и перфекционизм: что заставляет нас прокрастинировать и как с этим бороться

Для того, чтобы перестать прокрастинировать, надо перестать ждать вдохновения

Forbes
«Монастырь»: как сериал с Настей Ивлеевой понятным языком говорит о вере и церкви «Монастырь»: как сериал с Настей Ивлеевой понятным языком говорит о вере и церкви

Почему РПЦ оказалась недовольна сериалом «Монастырь»?

Forbes
Что возбуждает мужчину больше всего: слова, запахи, тело Что возбуждает мужчину больше всего: слова, запахи, тело

О секретах мужской сексуальности рассказала врач-сексолог

Psychologies
В мире молекул: власть и очарование органического синтеза В мире молекул: власть и очарование органического синтеза

Академик Борис Трофимов рассказывает, как стал химиком

Наука и жизнь
Джон Макгрегор: «Споткнуться, упасть, подняться». Драма о силе и уязвимости Джон Макгрегор: «Споткнуться, упасть, подняться». Драма о силе и уязвимости

Отрывок из романа «Споткнуться, упасть, подняться» Джона Макгрегора

СНОБ
«Зачем покупать новое белье, если его вижу только я?»: как жить со скупым мужчиной «Зачем покупать новое белье, если его вижу только я?»: как жить со скупым мужчиной

Возможно ли избежать взаимных упреков в финансовых вопросах?

Psychologies
Маленький, да удаленький: как «Жук» стал автомобильным символом целой эпохи и пережил ее Маленький, да удаленький: как «Жук» стал автомобильным символом целой эпохи и пережил ее

У этой крошечной машинки со смешным дизайном много регалий

Вокруг света
Александра Флоринская. Неправильная актриса Александра Флоринская. Неправильная актриса

Думаю, в моем случае судьбы артистки трудно было избежать

Караван историй
Открыть в приложении