Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Покажи свой бюджет»: к чему ведет молодежный тренд на публичную экономию «Покажи свой бюджет»: к чему ведет молодежный тренд на публичную экономию

Что нового узнали зумеры об экономии и к чему ведут их потребительские привычки

Forbes
5 увлекательных книг о культуре разных народов 5 увлекательных книг о культуре разных народов

Пять книг, которые рассказывают о культуре разных стран

СНОБ
ИИ-система создает модели для сборки из кирпичиков Лего ИИ-система создает модели для сборки из кирпичиков Лего

Как создали AI-систему, которая может по промпту собирать физические объекты

ТехИнсайдер
Почему астрономы не могут найти в Солнечной системе таинственную «Девятую планету»? Почему астрономы не могут найти в Солнечной системе таинственную «Девятую планету»?

И с каждым годом мы обнаруживаем все больше и больше объектов Солнечной системы

ТехИнсайдер
«Рапунцель» и «Румпельштильцхен»: как сказочницы сочиняли совсем не детские истории «Рапунцель» и «Румпельштильцхен»: как сказочницы сочиняли совсем не детские истории

О шести сказочницах, которые говорили о женской судьбе

Forbes
Чем отличается ревность от любовной зависимости Чем отличается ревность от любовной зависимости

Ревность и любовная зависимость: что это за чувства?

Psychologies
«Яркий, сильный, смелый»: чем запомнился основатель «ИКС Холдинга» Антон Черепенников «Яркий, сильный, смелый»: чем запомнился основатель «ИКС Холдинга» Антон Черепенников

Что за бизнес Черепенников успел построить и чем он запомнился отрасли?

Forbes
Бегство в одиночество. Как современные подростки строят отношения со сверстниками Бегство в одиночество. Как современные подростки строят отношения со сверстниками

Почему подростки с трудом выстраивают здоровую коммуникацию друг с другом?

СНОБ
Рабочей копии гена оказалось недостаточно для устранения врожденной цветовой слепоты Рабочей копии гена оказалось недостаточно для устранения врожденной цветовой слепоты

Рабочая копия гена CNGA3 не восстанавливает цветовое зрение

N+1
Почему работать и читать, лежа в кровати, вредно для здоровья — избавьтесь от этой привычки! Почему работать и читать, лежа в кровати, вредно для здоровья — избавьтесь от этой привычки!

Превращение кровати в рабочее место может вызвать целый ряд проблем со здоровьем

ТехИнсайдер
Брюсы Брюсы

Эти незаурядные иностранцы оставили заметный след в истории России

Дилетант
60 лет в огне: как подземные пожары превратили Сентрейлию в «город-призрак» 60 лет в огне: как подземные пожары превратили Сентрейлию в «город-призрак»

История «город-призрака», который подземные пожары превратили в «Сайлент Хилл»

Forbes
Ксения с пиццей, шесть монет, пять жертв Ксения с пиццей, шесть монет, пять жертв

Юлли Улетова — о свежих находках из Помпей

N+1
Пазл Кристофера Нолана. Из чего состоит кино режиссера-визионера Пазл Кристофера Нолана. Из чего состоит кино режиссера-визионера

Как устроено кино Кристофера Нолана

СНОБ
Театр, который начинается с человека | A Theater that Begins with a Human Театр, который начинается с человека | A Theater that Begins with a Human

Комьюнити-театр как новый вид искусства

Позитивные изменения
Спящая красавица: как стать моложе за одну ночь — 12 рекомендаций Спящая красавица: как стать моложе за одну ночь — 12 рекомендаций

Как использовать ночное время с максимальной пользой для внешности?

Psychologies
Кто и зачем придумал губную помаду: интересные факты! Кто и зачем придумал губную помаду: интересные факты!

С какой же целью мы начали использовать такой макияж, как губная помада?

ТехИнсайдер
Восемь звезд, которые обожают возиться с грядками Восемь звезд, которые обожают возиться с грядками

Иметь собственный огород не только полезно для здоровья и кошелька, но и модно

РБК
«Дышите носом: Что нужно знать о современных методах лечения болезней носа» «Дышите носом: Что нужно знать о современных методах лечения болезней носа»

Как исследуют обоняние

N+1
Как предотвратить потерю мышц при похудении Как предотвратить потерю мышц при похудении

Увы, но наш организм не может просто терять жир

ТехИнсайдер
Актрисы, модели, балерины — главные женщины в жизни Мика Джаггера Актрисы, модели, балерины — главные женщины в жизни Мика Джаггера

Самые яркие романы Мика Джаггера

Maxim
Нелюбимые дети и патриархат: как в Ясной Поляне переосмысляют «Анну Каренину» Нелюбимые дети и патриархат: как в Ясной Поляне переосмысляют «Анну Каренину»

Как роман «Анна Каренина» пытаются критически переосмыслить сегодня?

Forbes
Цветочная пыльца рассказала историю падения Римской империи Цветочная пыльца рассказала историю падения Римской империи

Керны со дна залива Святой Евфимии восстановила картину падения Римской империи

ТехИнсайдер
Самый большой вулкан в Солнечной системе когда-то был островом Самый большой вулкан в Солнечной системе когда-то был островом

Самый большой вулкан в Солнечной системе когда-то мог быть островом в море

ТехИнсайдер
Иван Фролухин. Frantsuza Bistrot, С.-Петербург Иван Фролухин. Frantsuza Bistrot, С.-Петербург

Шеф-повар из Duo Band запустил ренессанс французской кухни по всей России

Собака.ru
Как быстро и легко собирать большие пазлы: 6 стратегий Как быстро и легко собирать большие пазлы: 6 стратегий

Собрать пазл из 2000 деталей? Легко!

ТехИнсайдер
«Девушки здесь все такие милые»: литературный триллер про токсичную компанию подруг «Девушки здесь все такие милые»: литературный триллер про токсичную компанию подруг

Отрывок из романа «Девушки здесь все такие милые» — истории о соперничестве

Forbes
«Простоквашино», поехали! «Простоквашино», поехали!

Центры власти и стратегии выживания в одной нарисованной российской деревне

Weekend
Поразительные паразиты: как одни многоклеточные организмы живут за счет других Поразительные паразиты: как одни многоклеточные организмы живут за счет других

Пугающая красота паразитов

ТехИнсайдер
Характер такой: пятиминутный путеводитель по основным психотипам Характер такой: пятиминутный путеводитель по основным психотипам

Психотипы: основные особенности и моменты, на которые нужно обратить внимание

Правила жизни
Открыть в приложении