Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Хотеть пять звезд, спа и три ресторана — это не стратегия». Президент Cosmos Hotel Group — об ошибках начинающих отельеров «Хотеть пять звезд, спа и три ресторана — это не стратегия». Президент Cosmos Hotel Group — об ошибках начинающих отельеров

Каких ошибок следует избегать отельеру и почему за малыми городами будущее?

Inc.
Поговорим после Поговорим после

Как уйти от неприятного разговора и не чувствовать себя виноватой

Лиза
Последнее думающее поколение. Кто на самом деле воспитывает наших детей Последнее думающее поколение. Кто на самом деле воспитывает наших детей

Как ИИ становится цифровым воспитателем

Inc.
«Путеводитель по Средневековью: Мир глазами ученых, шпионов, купцов и паломников» «Путеводитель по Средневековью: Мир глазами ученых, шпионов, купцов и паломников»

Каково было совершать паломничество на борту галеи

N+1
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
«Король гремучих змей»: как Кларк Стэнли сколотил состояние на лекарстве, которое оказалось пустышкой «Король гремучих змей»: как Кларк Стэнли сколотил состояние на лекарстве, которое оказалось пустышкой

Масло от всех болезней — история громкой аферы Кларка Стэнли

ТехИнсайдер
Новое чувство космоса Новое чувство космоса

Теперь телескопы могут отслеживать колебания пространства-времени

ТехИнсайдер
Разделяй и властвуй Разделяй и властвуй

7 необычных идей для зонирования в маленькой квартире

Лиза
Решение уйти: массивный, но элегантный блокбастер, которому не хватило духу поставить точку в истории Итана Ханта Решение уйти: массивный, но элегантный блокбастер, которому не хватило духу поставить точку в истории Итана Ханта

Неужели сказка о невыполнимой миссии Итана Ханта близка к концу?

Правила жизни
Напитки с плюсом Напитки с плюсом

Почему растет рынок функциональных продуктов

Агроинвестор
Как избежать срывов во время диеты Как избежать срывов во время диеты

Ты с энтузиазмом начала диету, но сорвалась! Как не повторять подобное дальше?

Лиза
28, Пётр и ослик 28, Пётр и ослик

Рассказ Григория Служителя — про путешествие в прошлое на троллейбусе

Afternoon Seasons of life
Сев в условиях нехватки влаги Сев в условиях нехватки влаги

Почему сокращаются посевы зерновых культур

Агроинвестор
Плюсы и минусы Плюсы и минусы

Рассмотрим шансы электромобилей завоевать дороги всего мира

РБК
Здравствуй и прощай Здравствуй и прощай

В свои первые приезды на дачу весной стоит сделать только самое необходимое

КАНТРИ Русская азбука
Правила цветочного короля Правила цветочного короля

Цветочный король Борис Горкунов — о правилах ведения бизнеса

Монокль
Отдых в стиле прованс Отдых в стиле прованс

Загородная дача в авторском прочтении французской классики

SALON-Interior
Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет

Как появились наши чувствительные зубы изначально из «бронежилета» вымерших рыб

ТехИнсайдер
Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами

Почему запустить бренд обуви в России сложнее, чем локальную марку одежды?

Inc.
Как на телефоне отсканировать QR-код: пошаговая инструкция для Android и iPhone Как на телефоне отсканировать QR-код: пошаговая инструкция для Android и iPhone

Инструкция, как отсканировать QR-код на экране телефона на Android и iPhone

CHIP
Слава: «Я всегда мечтаю о том, что может сбыться» Слава: «Я всегда мечтаю о том, что может сбыться»

25 лет на сцене — певица Слава по праву может гордиться этим достижением

Добрые советы
Россия в многополярной глобальной экономике Россия в многополярной глобальной экономике

Мы вновь слышим о восстановлении барьеров в торговле

Ведомости
Инженеры довольны своими доходами, а дизайнеры — нет. Почему, и что это значит для бизнеса Инженеры довольны своими доходами, а дизайнеры — нет. Почему, и что это значит для бизнеса

Удовлетворенность зарплатами — надежный барометр

Inc.
Янская стоянка. Палеолитический человек за полярным кругом Янская стоянка. Палеолитический человек за полярным кругом

Янская стоянка — самые северные следы Homo sapiens в Арктике

Наука и техника
Чем круче джип Чем круче джип

Семь машин и девять дней в штате Юта

Автопилот
Узнать за 60 секунд Узнать за 60 секунд

Почему мы стремимся ускорить все процессы и как это влияет на наш мозг

Men Today
Действующие лица Действующие лица

6 молодых актеров и актрис, заявивших о себе в сезоне

Weekend
Эти могут Эти могут

Тест-драйв четырех моделей KGM: Tivoli, Korando, Torres и Rexton

Автопилот
Маурицио Каттелан Маурицио Каттелан

Правила жизни художника Маурицио Каттелана

Правила жизни
Еще раз про банальность зла: в Каннах показали фильм Серебренникова о докторе Менгеле Еще раз про банальность зла: в Каннах показали фильм Серебренникова о докторе Менгеле

Что Серебренников хотел сказать зрителю в красивом фильме о докторе Менгеле?

Forbes
Открыть в приложении