OpenAI назвал топ-5 мошеннических схем во всем мире. А на основе ChatGPT сделали бота Crafty Emails, который генерирует скам
Функции ChatGPT позволяют пользователям создавать на основе ИИ собственных ботов, которые могут стать инструментом кибер-преступников или, наоборот, кибербезопасности. Месяц назад OpenAI запустил сервис, генерирующий индивидуальные версии ChatGPT буквально для любых задач и доступный по ежемесячной подписке.
Так был создан скам-чат-бот. За несколько секунд бот под названием Crafty Emails создает тексты, электронные письма, а также посты в социальных сетях с использованием технологий распространенных видов интернет-мошенничества на разных языках.
Бесплатная версия ChatGPT не может генерировать подобный контент, тогда как Crafty Emails удалось выполнить почти все поставленные задачи, ссылаясь на неэтичность методов мошенничества. При этом представители OpenAI отказались от комментариев.
На конференции разработчиков, проходившей в ноябре этого года компания объявила о запуске аналога магазина приложений, где пользователи смогут продавать созданных ими ботов.
Несмотря на обещания OpenAI пресекать использование в противоправных целях, эксперты уверены, что механизм модерации уступает в эффективности открытой версии ChatGPT, и велика вероятность, что разработка станет инструментом мошенников. В качестве эксперимента бот создал тексты с использованием пяти самых известных мошеннических схем. Приводим примеры ниже.