Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В центре нашей Галактики обнаружены загадочные обьекты. Они могут раскрыть главную тайну Вселенной В центре нашей Галактики обнаружены загадочные обьекты. Они могут раскрыть главную тайну Вселенной

Новый способ пролить свет на загадку темной материи

Inc.
Если кто-то подавился Если кто-то подавился

Как помочь человеку, если он подавился?

Здоровье
«Профессиональные бездельники»: кто такие NEET-сотрудники и как заставить их работать «Профессиональные бездельники»: кто такие NEET-сотрудники и как заставить их работать

Чем NEET-поведение опасно для бизнеса и как включить таких сотрудников в работу

Forbes
«История богатства на Западе. Как боги среди людей» «История богатства на Западе. Как боги среди людей»

Как технические инновации приводили к богатству и высокому статусу

N+1
Исследование: мозг пользователей TikTok работает иначе в рискованных ситуациях Исследование: мозг пользователей TikTok работает иначе в рискованных ситуациях

У пользователей TikTok и Reels возрастает склонность к импульсивным решениям

Inc.
Юрий Никулин. Немножко больше, чем артист Юрий Никулин. Немножко больше, чем артист

Клоун — человек, который живет тем, что делает в манеже

Коллекция. Караван историй
9 причин есть авокадо постоянно 9 причин есть авокадо постоянно

Преимущества регулярного употребления авокадо для здоровья

ТехИнсайдер
Шоу продолжается Шоу продолжается

Эра Бернара Тапи в «Марселе»: взлёт, скандал и резкое падение клуба

Ведомости
Умный напарник Умный напарник

Фитнес-браслет проследит за здоровьем персонала на промышленных предприятиях

Санкт-Петербургский университет
Быстрый платеж Быстрый платеж

Оплата покупок по QR-коду: в чем выгода и в чем подвох

Лиза
Между фугой и фуззом Между фугой и фуззом

Современные композиторы, ломающие жанровые барьеры

Weekend
Ученые определили, какой тип людей быстрее находит себе пару Ученые определили, какой тип людей быстрее находит себе пару

Как определенные мотивы человека влияют на вероятность вступить в отношения

ТехИнсайдер
Гадюка попыталась проглотить зайчонка в десять раз тяжелее себя Гадюка попыталась проглотить зайчонка в десять раз тяжелее себя

Некоторые змеи способны целиком проглатывать добычу, которая очень велика

N+1
Как можно укрепить колени, уменьшить их скованность и ломоту с возрастом Как можно укрепить колени, уменьшить их скованность и ломоту с возрастом

Атрофия особенно сильно сказывается на коленях. Почему?

ТехИнсайдер
Светлое темное будущее Светлое темное будущее

Электроземледелие — технология, которая обещает обеспечить пищей человечество

ТехИнсайдер
Палеобиологи прочитали протеом жившего больше 20 миллионов лет назад носорога Палеобиологи прочитали протеом жившего больше 20 миллионов лет назад носорога

Ученые выделили фрагменты древних белков из зубной эмали миоценового носорога

N+1
«Если рисунок смотрит, значит, он жив»: как художники иллюстрируют книжную классику по-новому «Если рисунок смотрит, значит, он жив»: как художники иллюстрируют книжную классику по-новому

Каково это — иллюстрировать произведения, которые издавались уже десятки раз

Правила жизни
Весна императора Весна императора

Цезарь — политик-хищник, с чьим именем неотрывно связана Римская империя

Знание – сила
Принц Тьмы и посол Земли: как Оззи Осборн стал одним из главных символов рок-музыки Принц Тьмы и посол Земли: как Оззи Осборн стал одним из главных символов рок-музыки

Что за личностью был Оззи Осборн и кем он останется в истории музыки

Forbes
Летают ли авиалайнеры над Северным полюсом: да, и это стоит сделать хотя бы раз в жизни Летают ли авиалайнеры над Северным полюсом: да, и это стоит сделать хотя бы раз в жизни

Почему летать через Северный полюс до сих пор рискованно

ТехИнсайдер
Знать без царя в голове Знать без царя в голове

Мини-сериал о сестрах Митфорд, которые искали любовь, а нашли политику

Weekend
Дейнотерий – слон с берегов Дона Дейнотерий – слон с берегов Дона

Слоны – одни из самых стабильных в эволюционном плане животных...

Наука и техника
Блокировка расчетного счета: что это и почему так происходит Блокировка расчетного счета: что это и почему так происходит

Блокировка расчетного счета: как быстро решить проблему и снять блокировку?

Inc.
Главное – остаться незамеченным Главное – остаться незамеченным

В чем состоит военная (а возможно, и не только) хитрость стелс-технологии?

Наука и техника
«Профессия научила отстаивать свое мнение»: как женщины работают сварщицами «Профессия научила отстаивать свое мнение»: как женщины работают сварщицами

Как сварщицы борются со стереотипами и за что любят свою работу

Forbes
Как выбрать фотопленку? Вот почему Portra 400 для портретов, а Ektar 100 — для пейзажей! Как выбрать фотопленку? Вот почему Portra 400 для портретов, а Ektar 100 — для пейзажей!

Проверенные варианты фотопленок, которые работают в разных условиях

ТехИнсайдер
Пластмассовый мир (не) победил Пластмассовый мир (не) победил

Насколько глубоко гаджеты проникли в нашу жизнь?

Правила жизни
Фальшивый минимум Фальшивый минимум

Причины снижения количества фальшивых денег и способы распознавания подделок

Ведомости
Как Сатурну удается сохранять такие ровные кольца Как Сатурну удается сохранять такие ровные кольца

Сатурн: откуда у него кольца и почему они всегда на своем месте

Maxim
Что будет в небе после МКС Что будет в небе после МКС

Через пять лет над Землёй будут работать станции разных стран, а не одна МКС

Монокль
Открыть в приложении