Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психологический портрет: что такое сейфтизм Психологический портрет: что такое сейфтизм

Сейфтизм: что это такое и чего в нем больше — пользы или вреда?

Forbes
Люди и бюджет: что ждет в будущем гражданские финансы? | People and the Budget: What Does the Future Hold for Civil Finance? Люди и бюджет: что ждет в будущем гражданские финансы? | People and the Budget: What Does the Future Hold for Civil Finance?

Что такое «гражданские финансы»?

Позитивные изменения
Почему беспроводные наушники быстро разряжаются Почему беспроводные наушники быстро разряжаются

Причины, по которым беспроводные наушники быстро разряжаются

CHIP
Физические нагрузки не улучшили когнитивный статус у пожилых с коротким сном Физические нагрузки не улучшили когнитивный статус у пожилых с коротким сном

Как связаны сон, физическая активность и когнитивный статус у пожилых людей?

N+1
Груминг: что это такое и как авторитет и статус становятся инструментами насилия Груминг: что это такое и как авторитет и статус становятся инструментами насилия

Чем груминг отличается от растления или домогательства?

Psychologies
Семейные ссоры: как остаться вместе — 4 правила Семейные ссоры: как остаться вместе — 4 правила

Что нужно сказать, когда ситуация во время ссоры становится критической?

Psychologies
Стесняюсь спросить: опасно ли есть сырую рыбу Стесняюсь спросить: опасно ли есть сырую рыбу

Опасно ли есть сырую рыбу, где это лучше делать и как снизить риск отравления?

Правила жизни
Биполярное судно Биполярное судно

«Иван Фролов»: самое большое в мире научно-экспедиционное судно ледового класса

ТехИнсайдер
Любовная переписка: зачем нам это — преимущества и недостатки Любовная переписка: зачем нам это — преимущества и недостатки

Выиграли ли мы от технологической революции в столь тонкой сфере, как любовь?

Psychologies
Дальнего следования Дальнего следования

Опыты с гибридом Skywell HT-I

Автопилот
Поразительная Поразительная

Как с помощью зеркала обмануть мозг и ускорить выздоровление после инсульта?

ТехИнсайдер
Россия наращивает производство и экспорт удобрений несмотря на препятствия Россия наращивает производство и экспорт удобрений несмотря на препятствия

Производство удобрений растет, а экспорт приближается к рекордным показателям

Forbes
Как он это делает: 17 лучших ролей Киллиана Мёрфи (в порядке возрастания восторга) Как он это делает: 17 лучших ролей Киллиана Мёрфи (в порядке возрастания восторга)

Собрали 17 лучших проектов с Киллианом Мёрфи, в которых раскрывается его талант

Правила жизни
4 кризиса брака: когда ждать и как преодолеть — мнение психолога 4 кризиса брака: когда ждать и как преодолеть — мнение психолога

Когда в семьях чаще всего случаются кризисы?

Psychologies
Распутать берега Распутать берега

Кроссовер Omoda С5 на бездорожье Кольского полуострова

Автопилот
Трогательная история. Она потеряла слух после 60 лет, но нашла силы жить Трогательная история. Она потеряла слух после 60 лет, но нашла силы жить

Язык жестов и глухонемые коллеги показали женщине новый путь в жизни

ТехИнсайдер
Палеогенетики выявили семь поколений родственников эпохи неолита Палеогенетики выявили семь поколений родственников эпохи неолита

Палеогенетики отсеквенировали ДНК 99 человек, живших в эпоху неолита

N+1
10 вопросов, которые мужья не должны задавать своим женам 10 вопросов, которые мужья не должны задавать своим женам

Те самые случаи, когда лучше молчать, чем говорить

Maxim
7 вещей, которые нельзя делать перед наращиванием ресниц: ты о них пожалеешь! 7 вещей, которые нельзя делать перед наращиванием ресниц: ты о них пожалеешь!

О чем нужно помнить перед наращиванием ресниц?

VOICE
История о приемных детях и важной миссии для подростка История о приемных детях и важной миссии для подростка

Как примирить подростка с присутствием в семье приемного ребенка с особенностями

СНОБ
7 желаний, которые можно исполнить в одном месте 7 желаний, которые можно исполнить в одном месте

Подборка необычных занятий для тех, у кого мало времени на отпуск

СНОБ
Дрожь Вселенной: как астрономы открыли сотрясение пространства черными дырами Дрожь Вселенной: как астрономы открыли сотрясение пространства черными дырами

Как сверхмассивные черные дыры меняют пространство и время

Forbes
Klauzura Klauzura

Основательницы бюро Klauzura открыли первый в России архитектурный коворкинг

Собака.ru
Содержание формы: как устроены отношения экипировщиков с клубами и сборными Содержание формы: как устроены отношения экипировщиков с клубами и сборными

Как устроен бизнес экипировщиков и кто больше всех зарабатывает на футболках?

Forbes
В мозге есть группа нейронов, которая останавливает любое движение. Даже дыхание В мозге есть группа нейронов, которая останавливает любое движение. Даже дыхание

Ученые нашли группу клеток, активация которых полностью останавливает движение

ТехИнсайдер
Место в мире Место в мире

Чтобы найти свою планету в огромной Вселенной, нужно знать точный адрес

ТехИнсайдер
5-аминолевулиновая кислота помогла дрозофилам с дефектом дыхательной цепи выработать АТФ 5-аминолевулиновая кислота помогла дрозофилам с дефектом дыхательной цепи выработать АТФ

Открытие, которое может помочь в лечении митохондриальных нарушений

N+1
Соцсети, которые взорвали Интернет и так же быстро сдулись Соцсети, которые взорвали Интернет и так же быстро сдулись

Рассказываем, куда и почему пропали MySpace, Google+, Periscope и Clubhouse

Maxim
Сетевой маркетинг: как спортсмены NCAA зарабатывают миллионы, оставаясь любителями Сетевой маркетинг: как спортсмены NCAA зарабатывают миллионы, оставаясь любителями

Как студенты-спортсмены зарабатывают миллионы

Forbes
Видимо-невидимо: как женщины на работе прячут эмоции, усталость и собственное мнение Видимо-невидимо: как женщины на работе прячут эмоции, усталость и собственное мнение

Как устроен невидимый эмоциональный труд женщин

Forbes
Открыть в приложении