Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе

Как работает автофокус: подробно и со схемами

ТехИнсайдер
5 книг, которые спасут от осенней хандры 5 книг, которые спасут от осенней хандры

Подборка книг, которые помогут быть счастливыми даже в самую печальную пору

Psychologies
От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России

Зачем нужна биометрия и как ее использовать в России

ТехИнсайдер
В СССР дома перевозили вместе с жильцами, пока те спали! Вот как это было В СССР дома перевозили вместе с жильцами, пока те спали! Вот как это было

Советские инженеры порой удивляли своими способностями

ТехИнсайдер
Я вижу, о чем вы думаете Я вижу, о чем вы думаете

Как агенты ФБР читают людей

kiozk originals
Исповедь содержанки, или как я мечтала стать слабой и зависимой женщиной Исповедь содержанки, или как я мечтала стать слабой и зависимой женщиной

Как наша героиня согласилась стать содержанкой и что из этого вышло

VOICE
Всему свое место: как алфавит упорядочил мир вокруг нас Всему свое место: как алфавит упорядочил мир вокруг нас

Отрывок из книги «Всему свое место: Необыкновенная история алфавитного порядка»

Forbes
Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней

Новая авторская колода метафорических карт «Сад царевны»

Psychologies
Любовь зла: что погубило вторую жену Сталина Надежду Аллилуеву Любовь зла: что погубило вторую жену Сталина Надежду Аллилуеву

Обстоятельства насильственной смерти второй жены Сталина до сих пор не раскрыты

ТехИнсайдер
Археологи нашли древнюю баню на римской вилле в Англии. Вам туда захочется! Археологи нашли древнюю баню на римской вилле в Англии. Вам туда захочется!

Новые свидетельства роскошного образа жизни британцев обнаружены в Ратленде

ТехИнсайдер
Бестселлер о женщине-химике, которая превратила кухню в лабораторию Бестселлер о женщине-химике, которая превратила кухню в лабораторию

Отрывок из книги Бонни Гармус «Уроки химии»

Forbes
Слишком свободный. История Джулиана Ассанжа Слишком свободный. История Джулиана Ассанжа

Как Джулиан Ассанж вошел в историю журналистики

СНОБ
Громко кричат и красиво умирают: как хорроры изображают женщин Громко кричат и красиво умирают: как хорроры изображают женщин

Что изображение женщин в фильмах ужасов говорит о социальных установках?

Forbes
Собаки в Новой Зеландии научились водить машину. Будущее уже рядом! Собаки в Новой Зеландии научились водить машину. Будущее уже рядом!

Животных можно научить буквально всему

ТехИнсайдер
Болезнь Альцгеймера поражает женщин больше, чем мужчин: почему? Болезнь Альцгеймера поражает женщин больше, чем мужчин: почему?

Женщины больше, чем мужчины, рискуют умереть от болезни Альцгеймера

Psychologies
Восстановить тело и справедливость Восстановить тело и справедливость

Как пластические хирурги могут помочь восстановить ваше тело

Собака.ru
Нож в печень, никто не вечен. О «Ностальгии», номинанте на премию «Оскар» от Италии Нож в печень, никто не вечен. О «Ностальгии», номинанте на премию «Оскар» от Италии

О каких проблемах современной Италии рассказывает «Ностальгия»

СНОБ
Как узнать жёсткость воды в домашних условиях Как узнать жёсткость воды в домашних условиях

Каждому будет полезно узнать, какая жесткость воды в вашей квартире

CHIP
Как франшиза шаурмы вошла в рейтинг самых выгодных в России Как франшиза шаурмы вошла в рейтинг самых выгодных в России

Что в «Лаваше» привлекает предпринимателей?

Forbes
Лед и бьюти-подушка: 9 лайфхаков по уходу, которые заменят тебе походы к косметологу Лед и бьюти-подушка: 9 лайфхаков по уходу, которые заменят тебе походы к косметологу

Хочешь научиться справляться с морщинами без помощи косметолога?

VOICE
Морской путь Морской путь

Что собой представляют круизные лайнеры последнего поколения

Robb Report
Идем в рост Идем в рост

Где черпать силы и как вдохновлять сотрудников, когда сам нуждаешься в поддержке

Psychologies
Правда ли, что выражение «Если у них нет хлеба, пусть едят пирожные!» принадлежит Марии-Антуанетте? Правда ли, что выражение «Если у них нет хлеба, пусть едят пирожные!» принадлежит Марии-Антуанетте?

Мария-Антуанетта была просто создана для того, чтобы о ней сплетничать

Maxim
Иран паркуется в России Иран паркуется в России

Как выбрать автомобиль с восточными фишками

Деньги
Посмотри мне в глаза Посмотри мне в глаза

Как убрать нависшее веко: методы, которые помогут справиться с проблемой

Лиза
Кидалты: почему взрослым так важно впадать в детство Кидалты: почему взрослым так важно впадать в детство

Устраивать детский сад, штаны на лямках» полезно: это помогает снять стресс

Psychologies
5 закусок, которые помогут сохранить остроту ума 5 закусок, которые помогут сохранить остроту ума

Что стоит есть, чтобы помочь своему мозгу лучше работать?

ТехИнсайдер
Араму 60! Араму 60!

Латук недолговечен, воспоминания великого человека — бесценны!

Собака.ru
Авария Пола Уокера: что случилось со звездой «Форсажа» 9 лет назад Авария Пола Уокера: что случилось со звездой «Форсажа» 9 лет назад

Вспоминаем знаменитого актера Пола Уокера и как он ушел из жизни

РБК
Любовь к иностранцам и тонны документов: нужно ли открывать бизнес во Вьетнаме Любовь к иностранцам и тонны документов: нужно ли открывать бизнес во Вьетнаме

О чем нужно помнить, чтобы открыть бизнес во Вьетнами и не прогореть?

Forbes
Открыть в приложении