Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему оливковое масло считается полезным Почему оливковое масло считается полезным

8 главных преимуществ оливкового масла для здоровья

ТехИнсайдер
Ложная близорукость: что это и как лечится Ложная близорукость: что это и как лечится

Что такое временное падение зрения?

Psychologies
Обновления нарочно ломают наши телефоны и еще 9 мифов о гаджетах Обновления нарочно ломают наши телефоны и еще 9 мифов о гаджетах

10 самых распространенных мифов об электронных устройствах

Maxim
6 вопросов успешных людей, которые стоит себе задать 6 вопросов успешных людей, которые стоит себе задать

Чтобы добиться высот, важно получать удовольствие от процесса

Inc.
Эмоциональный интеллект Эмоциональный интеллект

Новое представление о том, что значит быть «умным»

kiozk originals
Компенсация за негатив: 5 историй о людях, которых спасают деревья Компенсация за негатив: 5 историй о людях, которых спасают деревья

Зачем люди сажают деревья?

Psychologies
Северная формула счастья Северная формула счастья

Как в Исландии, Дании и Швеции научились радоваться простым вещам?

Лиза
Думать – правильно Думать – правильно

Психотерапевт, гуру ТВ и один из топов Сбера о себе и правилах, по которым живет

Psychologies
Кануан: третья попытка Кануан: третья попытка

Новый кандидат на звание самого роскошного карибского острова

Robb Report
Население Южной Америки разделилось на две группы не менее десяти тысяч лет назад Население Южной Америки разделилось на две группы не менее десяти тысяч лет назад

Население Южной Америки разделилось на группы в андском регионе

N+1
Древний ужас и непостижимость космоса: 3 мистических парка в Европе, где хочется думать о вечном Древний ужас и непостижимость космоса: 3 мистических парка в Европе, где хочется думать о вечном

Посмотрите, как выглядят самые необычные примеры садово-паркового искусства

Вокруг света
Нормальные герои Нормальные герои

Картина «Строители Братска» Виктора Попкова

Вокруг света
Восстановить тело и справедливость Восстановить тело и справедливость

Как пластические хирурги могут помочь восстановить ваше тело

Собака.ru
Как угоняют автомобили в России. 7 видео Как угоняют автомобили в России. 7 видео

Изучаем хитрые схемы автоугонщиков, которые попали на видео

РБК
Ицхак Адизес — Forbes: «В истории России никогда не было демократии» Ицхак Адизес — Forbes: «В истории России никогда не было демократии»

Бизнес-консультант Ицхак Адизес — о возможностях демократии в России

Forbes
Как сделать кожу светлее: домашние средства, научные факты и советы врача Как сделать кожу светлее: домашние средства, научные факты и советы врача

За счет чего работают средства по осветлению кожи и как не навредить себе

РБК
Дитя ночи: история Евы Ионеско, которая снимает фильмы о сексуальной эксплуатации Дитя ночи: история Евы Ионеско, которая снимает фильмы о сексуальной эксплуатации

Ева Ионеско в 11 снялась для Playboy и дебютировала в фильме для взрослых

Forbes
«Сплю в середине рабочего дня ради второго «Сплю в середине рабочего дня ради второго

Издание dev.by поговорило с разработчиками о нестандартных графиках

VC.RU
Громко кричат и красиво умирают: как хорроры изображают женщин Громко кричат и красиво умирают: как хорроры изображают женщин

Что изображение женщин в фильмах ужасов говорит о социальных установках?

Forbes
«Личность — это память»: Евгений Водолазкин о своем новом романе и мифологии человека «Личность — это память»: Евгений Водолазкин о своем новом романе и мифологии человека

Писатель Евгений Водолазкин — почему важно за каждым текстом видеть человека

Forbes
Ледяной кулак: как СССР спрятал сверхсекретную военную базу в настоящем айсберге Ледяной кулак: как СССР спрятал сверхсекретную военную базу в настоящем айсберге

Советские инженеры вели строительство «неубиваемой» морской базы внутри айсберга

ТехИнсайдер
In & out In & out

Город устал!

Собака.ru
«Ты же староста. Ты же должна»: отрывок из романа Аси Володиной «Протагонист» «Ты же староста. Ты же должна»: отрывок из романа Аси Володиной «Протагонист»

Глава из «Протагониста» Аси Володиной — трагедии о покончившем с собой студенте

Forbes
Фармацевтика держит удар Фармацевтика держит удар

У отечественной фармацевтической отрасли есть потенциал для развития

РБК
Нам не оставили Выборга Нам не оставили Выборга

Suzuki Jimny как надежная связь между прошлым и будущим

Автопилот
Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы

Театр, традиционно считавшийся детским, вдруг стал модным и актуальным

Forbes
Нет предела совершенству Нет предела совершенству

Как перфекционистам перестать все преобразовывать?

Лиза
В СССР дома перевозили вместе с жильцами, пока те спали! Вот как это было В СССР дома перевозили вместе с жильцами, пока те спали! Вот как это было

Советские инженеры порой удивляли своими способностями

ТехИнсайдер
Что будет, если добавить куркуму в свой рацион: все о пользе приправы Что будет, если добавить куркуму в свой рацион: все о пользе приправы

Стоит ли есть куркуму постоянно?

ТехИнсайдер
Павел Бесчастнов: «Тревога – это базовая функция выживания, испытывать которую могут только люди» Павел Бесчастнов: «Тревога – это базовая функция выживания, испытывать которую могут только люди»

Что такое тревога и почему некоторые люди тревожатся больше, чем остальные

Здоровье
Открыть в приложении