Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Перепрошивка памяти: новая модель памяти, которая работает как мозг Перепрошивка памяти: новая модель памяти, которая работает как мозг

Ученые создали модель памяти, устойчивую к шуму и забыванию

ТехИнсайдер
Мидас из мира моды: как Том Форд заработал миллиарды Мидас из мира моды: как Том Форд заработал миллиарды

Как Том Форд создал свой люксовый бренд и почему оставил его

Forbes
Почему нельзя сдавать пауэрбанк в багаж Почему нельзя сдавать пауэрбанк в багаж

Что может случиться, если сдать power bank в багаж самолета?

CHIP
Летающие коровы — не выдумка! Вот для чего и как это возможно Летающие коровы — не выдумка! Вот для чего и как это возможно

Забота человека о своих братьях меньших может приобрести непривычные формы

ТехИнсайдер
Тревожное исследование: ChatGPT убивает наше критическое мышление Тревожное исследование: ChatGPT убивает наше критическое мышление

Чем чрезмерное использование нейросетей крайне вредно для нашего мозга

ТехИнсайдер
Бабушка воспитывает ребенка по-своему: 4 причины и одно решение Бабушка воспитывает ребенка по-своему: 4 причины и одно решение

Почему бабушки то и дело норовят перехватить инициативу в воспитании детей?

Psychologies
Собаки в Новой Зеландии научились водить машину. Будущее уже рядом! Собаки в Новой Зеландии научились водить машину. Будущее уже рядом!

Животных можно научить буквально всему

ТехИнсайдер
Нам не оставили Выборга Нам не оставили Выборга

Suzuki Jimny как надежная связь между прошлым и будущим

Автопилот
Как в СССР копировали автомобили капиталистического автопрома: не хуже оригинала Как в СССР копировали автомобили капиталистического автопрома: не хуже оригинала

Автопром в Советском Союзе всегда был как хромая лошадь

ТехИнсайдер
Конец русского Рокамболя Конец русского Рокамболя

До сих пор нет ни одной научной биографии этого человека

Дилетант
Ицхак Адизес — Forbes: «В истории России никогда не было демократии» Ицхак Адизес — Forbes: «В истории России никогда не было демократии»

Бизнес-консультант Ицхак Адизес — о возможностях демократии в России

Forbes
Секреты старых мастеров Секреты старых мастеров

Новая жизнь советов советским автовладельцам

Автопилот
«Кэтрин по прозвищу Птичка»: азы феминизма для подростков от Лины Данэм «Кэтрин по прозвищу Птичка»: азы феминизма для подростков от Лины Данэм

«Кэтрин по прозвищу Птичка» — киноучебник по социальной справедливости

Forbes
Жизнь после 30 лет: 8 открытий — подготовьтесь к ним Жизнь после 30 лет: 8 открытий — подготовьтесь к ним

Что вас ждет в возрасте 30 лет? Как перейти рубеж достойно?

Psychologies
«Что же из них дальше получится»: история маньяка Владимира Третьякова, который убивал только пьющих женщин «Что же из них дальше получится»: история маньяка Владимира Третьякова, который убивал только пьющих женщин

В квартире Третьякова так воняло кровью, что сосед-понятой упал в обморок

VOICE
Тест Omoda C5: китайцы взломали код Тест Omoda C5: китайцы взломали код

Omoda C5: несмотря на мелкие недочеты, модель показывает класс

Maxim
Добиться наказания насильника нелегко, но реально: адвокат о том, как защитить себя Добиться наказания насильника нелегко, но реально: адвокат о том, как защитить себя

Почему насилие в отношении женщин часто остается безнаказанным?

VOICE
Как узнать жёсткость воды в домашних условиях Как узнать жёсткость воды в домашних условиях

Каждому будет полезно узнать, какая жесткость воды в вашей квартире

CHIP
20 признаков «односторонних» отношений: как выбраться из ловушки невзаимной любви 20 признаков «односторонних» отношений: как выбраться из ловушки невзаимной любви

Как выйти из односторонних отношений?

Psychologies
Неосторожный пост в соцсетях может погубить вашу репутацию. Вот несколько правил безопасности Неосторожный пост в соцсетях может погубить вашу репутацию. Вот несколько правил безопасности

Соцсети размывают границу между нашей личной и профессиональной жизнью

Psychologies
Свой человек Свой человек

Сергей Корсаков — о невероятном опыте съемок, яхтинге и фильме «Вызов»

OK!
Как пережить апокалипсис: топ-5 самых полезных гаджетов Как пережить апокалипсис: топ-5 самых полезных гаджетов

Как сохранить себе жизнь с помощью технологий

Maxim
Квантово-запутанная премия. От невероятного эффекта до технологии Квантово-запутанная премия. От невероятного эффекта до технологии

Установление нарушения неравенств Белла и новаторство в квантовой информатике

Наука и жизнь
Зеленый город мечты Зеленый город мечты

В Красноярске новые впечатления найдут для себя и урбанисты, и любители тишины

Отдых в России
Неожиданные факты об ирландском виски Неожиданные факты об ирландском виски

История виски полна тайн

Maxim
Запоры: почему и что делать? Запоры: почему и что делать?

Проблемы с кишечником: как с ними справиться?

Здоровье
In & out In & out

Город устал!

Собака.ru
Искушение манящей красотой Искушение манящей красотой

В Ингушетии так много красивых мест, что можно потерять счет дням, изучая их

Отдых в России
Жизнь в стиле хюгге Жизнь в стиле хюгге

10 золотых правил в интерьере для создания уюта

Лиза
Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей

К чему приводит путаница детских и родительских ролей?

Psychologies
Открыть в приложении