Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением

Как решения используют в России по уборке нефтепродуктов?

Inc.
Им наверху виднее Им наверху виднее

10 причин установить на свой автомобиль спутниковый охранный комплекс

Автопилот
Искусственный коллега: как российские нейросети трансформировали бизнес и заменят ли людей алгоритмы Искусственный коллега: как российские нейросети трансформировали бизнес и заменят ли людей алгоритмы

ИИ-экспансия в бизнесе: чего ждать дальше и как подобрать для себя нужный сервис

Inc.
Россия в многополярной глобальной экономике Россия в многополярной глобальной экономике

Мы вновь слышим о восстановлении барьеров в торговле

Ведомости
Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья

Страдающие ежи и Средневековье: что ели люди в эпоху рыцарей?

ТехИнсайдер
Андреа Кими Антонелли: биография гонщика, побившего рекорд Феттеля Андреа Кими Антонелли: биография гонщика, побившего рекорд Феттеля

Андреа Кими Антонелли — самый юный обладатель поул-позиции в истории «Формулы-1»

РБК
Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо» Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо»

Ирина Старшенбаум — о трудностях перевоплощения в инфантильного персонажа

Ведомости
Ученые обнаружили древнего хищника с тремя глазами и зубастым ртом! Он жил 506 млн лет назад Ученые обнаружили древнего хищника с тремя глазами и зубастым ртом! Он жил 506 млн лет назад

В Берджесс нашли окаменелость необычного существа, жившего 506 млн лет назад

ТехИнсайдер
Проводник к звездам Проводник к звездам

Когда появятся гиды для космических туристов и где получить эту профессию

РБК
Опальная молекула: почему высокий уровень холестерина считают угрозой для здоровья Опальная молекула: почему высокий уровень холестерина считают угрозой для здоровья

Холестерин: какую роль он играет в организме и почему вокруг него одни скандалы?

Forbes
Спаржа Спаржа

Спаржа: простой способ добавить больше пользы в рацион

Здоровье
7 неверных установок 7 неверных установок

Они накрепко засели у нас голове еще с детства – и сильно отравляют жизнь

Лиза
Полис на взлет Полис на взлет

Как восстанавливается рынок туристического страхования

Деньги
По пушкинским местам По пушкинским местам

Если бы во времена Пушкина были соцсети, какие места он бы советовал посетить?

Лиза
«Мои фильмы всегда выпускались с надеждой, что они провалятся» «Мои фильмы всегда выпускались с надеждой, что они провалятся»

Андрей Тарковский об отношениях с родиной, зрителями и творчеством

Weekend
Как научить учиться Как научить учиться

Плохие оценки в школе: ищем ошибки в методе обучения, а не в ребенке

Здоровье
Как на телефоне отсканировать QR-код: пошаговая инструкция для Android и iPhone Как на телефоне отсканировать QR-код: пошаговая инструкция для Android и iPhone

Инструкция, как отсканировать QR-код на экране телефона на Android и iPhone

CHIP
Турецкий словарь Турецкий словарь

Гид по турецкому этикету — словарь для диалога с деловыми партнёрами

RR Люкс.Личности.Бизнес.
Ядерная война приведет к потере 80 процентов урожая кукурузы Ядерная война приведет к потере 80 процентов урожая кукурузы

Ядерная война уронит годовое производство кукурузы на планете на 80 процентов

N+1
Романтика в большом городе Романтика в большом городе

Психология любви в условиях вечной спешки

Лиза
От синтеза клетки до зрелого цветка От синтеза клетки до зрелого цветка

Как выращиваются орхидеи рода фаленопсис на базе тепличного комбината

Агроинвестор
Как выбрать кроссовки для спорта Как выбрать кроссовки для спорта

8 советов, которые помогут подобрать правильную обувь для тренировок

Лиза
Привычка худеть Привычка худеть

Думаешь, как сбросить вес без изнурительных тренировок и жестких диет?

Лиза
Сталинский конструктор: почему в московском метро появился новый памятник Сталинский конструктор: почему в московском метро появился новый памятник

Спорная фигура: почему вокруг нового барельефа Сталина столько мнений?

Forbes
«Женитьба»: женское несчастье «Женитьба»: женское несчастье

Евгений Марчелли поставил в Театре Моссовета знаменитую пьесу Гоголя

Ведомости
Вам и не снилось… Вам и не снилось…

Почему тин-драмы это не просто поджанр кино и сериалов

Men Today
Увидеть Армагеддон и выжить Увидеть Армагеддон и выжить

Израиль находит, чем удивить путешественника, помимо библейских древностей

Вокруг света
Нереальная любовь Нереальная любовь

Как и почему «эмоциональные» чат-боты стали заменять настоящих партнеров

РБК
Французское влияние в мягком подбрюшье России Французское влияние в мягком подбрюшье России

Как Париж выстраивает стратегическое партнерство с государствами Средней Азии

Монокль
Как побороть тягу к еде: новое мнение ученых Как побороть тягу к еде: новое мнение ученых

Секрет победы над куском торта может заключаться в следующем… съесть этот кусок!

ТехИнсайдер
Открыть в приложении