Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Антисмартфоны и цифровые детокс-устройства: как tech-индустрия зарабатывает на нашей усталости от экранов Антисмартфоны и цифровые детокс-устройства: как tech-индустрия зарабатывает на нашей усталости от экранов

Гаджеты, которые помогут вернуть контроль над своим временем

Inc.
Электрическое движение Электрическое движение

Электродвижение в яхтинге: путь к экологичной навигации

Y Magazine
Изогнутый экран смартфона — это удобно? Изогнутый экран смартфона — это удобно?

Стоит ли покупать смартфоны с изогнутыми экранами?

CHIP
Агата Кристи, вооруженные каскадеры и мощные моторы: как работала сирийская «дорога Нэрнов» Агата Кристи, вооруженные каскадеры и мощные моторы: как работала сирийская «дорога Нэрнов»

История создания автобусного маршрута от Бейрута до Багдада братьями Нэрнами

ТехИнсайдер
«Дикое» государство: 7 фактов о жизни на Аляске «Дикое» государство: 7 фактов о жизни на Аляске

Вечная мерзлота, действующие вулканы, множество диких животных — все это Аляска

ТехИнсайдер
Прямо с куста Прямо с куста

Ягоды — это радость для глаз и праздничный взрыв вкуса. Как за ними ухаживать?

КАНТРИ Русская азбука
Наши соседи: солдатик, пожарник, кобылка и другие Наши соседи: солдатик, пожарник, кобылка и другие

Весной одними из первых появляются насекомые, которые зимуют взрослыми

Наука и жизнь
Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения

Влияет ли пол на музыкальные предпочтения?

Forbes
Садовая диета Садовая диета

Как правильно обрабатывать отходы, чтобы пустить их на удобрения

КАНТРИ Русская азбука
Новая жизнь Новая жизнь

Как сделать косметический ремонт своими руками

Лиза
Дачное преображение Дачное преображение

Как можно преобразить дачное пространство своими руками

Здоровье
Цветок для смелых Цветок для смелых

Проект суперъяхты Lily разработали для верфи Oceanco в дизайн-бюро Vripack

Y Magazine
Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит? Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит?

Для чего человеку нужны ресницы и что будет, если их сбрить?

Inc.
Рейтинг публикационной активности университетов Рейтинг публикационной активности университетов

Исследование публикационной активности университетов

Эксперт
Что случилось с семьей Гитлера и где живут потомки фашиста? Интересные факты Что случилось с семьей Гитлера и где живут потомки фашиста? Интересные факты

Почему родственники Гитлера решили навсегда прервать зловещую фамилию?

ТехИнсайдер
Спокоен как самурай: как японская философия помогает выжить в трудные времена Спокоен как самурай: как японская философия помогает выжить в трудные времена

Что помогает японцам принимать неопределенность?

Forbes
Налоговый вычет за автомобиль: как выгодно купить и продать машину Налоговый вычет за автомобиль: как выгодно купить и продать машину

Как эффективно заключить сделку по автомобилю

РБК
Встреча в лифте Встреча в лифте

О движении навстречу друг другу и о движении от себя-ребенка к себе-родителю

Afternoon Seasons of life
Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку

Как проявляется мизогиния в нашей жизни и как правильно с ней бороться?

Лиза
«Джинсовая лихорадка»: как джинсы в СССР были культом, символом и объектом желания «Джинсовая лихорадка»: как джинсы в СССР были культом, символом и объектом желания

Что положило начало так называемой джинсовой лихорадке в СССР?

Правила жизни
Почему не стоит оставлять открытыми алюминиевые банки в холодильнике Почему не стоит оставлять открытыми алюминиевые банки в холодильнике

Безопасно ли есть из железных банок, которые были оставлены открытыми?

ТехИнсайдер
Любовь под пальмами Любовь под пальмами

Как отдохнуть, набраться сил и укрепить отношения в совместном отпуске

Добрые советы
Как работает Межвселенский насос – удивительный источник энергии, придуманный Айзеком Азимовым Как работает Межвселенский насос – удивительный источник энергии, придуманный Айзеком Азимовым

Как работает насос между вселенными и как Азимов изобрел его

ТехИнсайдер
Дивный Воронеж Дивный Воронеж

Город-открытие, который ты пропускаешь по пути на море

Лиза
Сбросить карты: как прожить рабочую неделю, забыв о пластике Сбросить карты: как прожить рабочую неделю, забыв о пластике

Альтернативные способы оплаты, которые могут потеснить банковские карты

Правила жизни
Анна Глаубэ: «У меня просто другой путь» Анна Глаубэ: «У меня просто другой путь»

Я все еще доказываю себе и другим, что достойна, что могу. Это профессия такая

Коллекция. Караван историй
«Речь про свободолюбие, озорство какое-то»: художник Саша Браулов — о работе над обложкой «Правил жизни», вышивке как методе и здоровом хулиганстве «Речь про свободолюбие, озорство какое-то»: художник Саша Браулов — о работе над обложкой «Правил жизни», вышивке как методе и здоровом хулиганстве

Художник Саша Браулов о вышивке как методе и силе доброты

Правила жизни
Раннее взросление Раннее взросление

История одной семьи, переданная в письмах

Знание – сила
Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами

Почему запустить бренд обуви в России сложнее, чем локальную марку одежды?

Inc.
Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе

Почему женщины зацикливаются на тревожных мыслях? Ищем ответы в книге психолога

Forbes
Открыть в приложении