Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как избежать ошибок на переговорах Как избежать ошибок на переговорах

Распространенные просчеты в оффлайн- и онлайн-переговорах и как их избежать

Inc.
Решение уйти: массивный, но элегантный блокбастер, которому не хватило духу поставить точку в истории Итана Ханта Решение уйти: массивный, но элегантный блокбастер, которому не хватило духу поставить точку в истории Итана Ханта

Неужели сказка о невыполнимой миссии Итана Ханта близка к концу?

Правила жизни
Эта компания построит грандиозное сооружение прямо на орбите — до сих пор никто такого не делал даже близко Эта компания построит грандиозное сооружение прямо на орбите — до сих пор никто такого не делал даже близко

Space Solar построит орбитальную электростанцию с использованием роботов

Inc.
Французское влияние в мягком подбрюшье России Французское влияние в мягком подбрюшье России

Как Париж выстраивает стратегическое партнерство с государствами Средней Азии

Монокль
5 фраз, которые мгновенно выдают неуверенного в себе человека — и как научиться звучать уверенно 5 фраз, которые мгновенно выдают неуверенного в себе человека — и как научиться звучать уверенно

Каких именно слов и выражений стоит избегать, чтобы речь звучала тверже

VOICE
Как американский ИИ-стартап помогает ресторанам процветать среди корпораций Как американский ИИ-стартап помогает ресторанам процветать среди корпораций

Как языковые модели помогают малым ресторанам конкурировать

Forbes
Сталь & честь Сталь & честь

Рыцарство не умерло, оно просто ждало своего часа

ТехИнсайдер
Формула мечты Формула мечты

Каким должен быть идеальный болид?

ТехИнсайдер
Трофейный ресурс Трофейный ресурс

Что получил СССР в качестве компенсации от Германии по итогам войны

Эксперт
На российских авиалиниях растет доля пассажиров без багажа На российских авиалиниях растет доля пассажиров без багажа

Все больше пассажиров российских авиакомпаний выбирают перелеты без багажа

Inc.
Особый взгляд: 10 культовых фильмов, которые нам подарил Каннский кинофестиваль Особый взгляд: 10 культовых фильмов, которые нам подарил Каннский кинофестиваль

По случаю открытия 78-го смотра — десятка лучших фильмов в истории Канн

Правила жизни
Ходить, плавать замедляться Ходить, плавать замедляться

15 путешествий, для которых не нужны визы

Afternoon Seasons of life
Путешествие как бизнес Путешествие как бизнес

Истории тех, для кого путешествия стали не только хобби, но и бизнесом

Новый очаг
Астрономы заметили в космосе таинственную идеальную сферу Астрономы заметили в космосе таинственную идеальную сферу

Объект Телиос: совершенная сфера неизвестного происхождения

ТехИнсайдер
«Нам пора сформулировать закон сохранения цивилизации» «Нам пора сформулировать закон сохранения цивилизации»

Можно ли подружиться с умной машиной? Не может ли она вытеснить человека?

Знание – сила
«Мы жили в кино»: Эйдельштейн и другие актеры о фильмах Романа Михайлова «Мы жили в кино»: Эйдельштейн и другие актеры о фильмах Романа Михайлова

О съемках, о методе Михайлова и о том, как актеров трансформировал этот опыт

РБК
«Эффективность ЭКО можно увеличить вдвое, если мужчина не останется в стороне» «Эффективность ЭКО можно увеличить вдвое, если мужчина не останется в стороне»

Как можно снизить количество попыток ЭКО при имеющихся ресурсах

Ведомости
Семь секретов красивого голоса Семь секретов красивого голоса

Простые хитрости, которые помогут сохранить звучание голоса в любом возрасте

Здоровье
Красота у аппарата Красота у аппарата

Что стало драйвером развития рынка косметологических услуг

Ведомости
Откуда берутся деньги Откуда берутся деньги

Как доллар превратился в глобальное оружие

Деньги
Битва промптов Битва промптов

Баттл «промпт-инженер против обычного человека с нейросетью»

ТехИнсайдер
От Тегерана до Потсдама: большая дипломатия в конце Второй мировой войны От Тегерана до Потсдама: большая дипломатия в конце Второй мировой войны

Как Сталин, Рузвельт и Черчилль преодолевали взаимное недоверие

Монокль
Чечня. Четверть века боли и боя Чечня. Четверть века боли и боя

Краткая история причин, хода и результатов двух чеченских кампаний

Монокль
«Яды: между жизнью и смертью» «Яды: между жизнью и смертью»

Как появился первый пероральный антикоагулянт

N+1
Ловушка стереотипов: пять страхов, которые мешают зумерам строить карьеру Ловушка стереотипов: пять страхов, которые мешают зумерам строить карьеру

Как зумерам справиться с пятью страхами, связанными с трудоустройством

Forbes
Заменили отцов на заводах Заменили отцов на заводах

Юные герои тыла: как дети работали на заводах во время Великой Отечественной

Ведомости
«Мои фильмы всегда выпускались с надеждой, что они провалятся» «Мои фильмы всегда выпускались с надеждой, что они провалятся»

Андрей Тарковский об отношениях с родиной, зрителями и творчеством

Weekend
Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо» Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо»

Ирина Старшенбаум — о трудностях перевоплощения в инфантильного персонажа

Ведомости
«Осторожно, двери закрываются»: 90 лет эволюции поездов Московского метро «Осторожно, двери закрываются»: 90 лет эволюции поездов Московского метро

Как поезда столичного метро из утилитарных машин превратились в символ прогресса

ТехИнсайдер
10 ошибок в аэропорту, которые дорого вам обойдутся 10 ошибок в аэропорту, которые дорого вам обойдутся

Рассказываем о мелочах, которые могут существенно подорвать бюджет поездки

Maxim
Открыть в приложении