Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 советов, как побороть нерешительность и довести дело до конца 5 советов, как побороть нерешительность и довести дело до конца

Нерешительность — одна из самых разочаровывающих и непродуктивных форм поведения

Inc.
Почему важно вовремя менять модель управления Почему важно вовремя менять модель управления

Как уметь в нужный момент менять управленческую модель

Forbes
Вот как добиться повышения — и усердная работа тут не при чем Вот как добиться повышения — и усердная работа тут не при чем

Что, если, несмотря на все усилия, продвижение по службе обходит вас стороной?

Inc.
Маленькие шаги к переменам Маленькие шаги к переменам

Интервью с создателем инклюзивных раскрасок и игрушек Натальей Пониной

Лиза
Развод и утрата: как справиться с последствиями Развод и утрата: как справиться с последствиями

Как утрата влияет на наше психологическое состояние?

VOICE
Музей как увлечение Музей как увлечение

Единственный в своем роде: музей при Институте космических исследований РАН

Знание – сила
Есть ли у Европы армия Есть ли у Европы армия

О потенциале собственной армии Евросоюза и перспективах ее участия вне НАТО

Монокль
Сити-брейк Сити-брейк

Идеальные города России для семейного уик-энда

Лиза
Ткать узор дальше Ткать узор дальше

Почему последствия ссоры с Россией окажутся болезненными для Азербайджана?

Монокль
Про пропан Про пропан

Если газ сжиженный, то он всё-таки ещё газ или уже жидкость?

Наука и жизнь
Архив богини Фауны Архив богини Фауны

Зоологический музей Московского университета – «отражение самой природы»

Знание – сила
Гелий Гелий

Известно, что каждый элемент имеет свой, только ему одному принадлежащий спектр

Наука и жизнь
Скелетные мышцы самолета – система управления Скелетные мышцы самолета – система управления

Зачем самолетам демпферы, гидроусилители, закрылки и предкрылки?

Наука и техника
Посвящено Беатриче Посвящено Беатриче

Данте обнаружил, осознал, как мало он знает

Наука и жизнь
55 и вперед: как «серебряное поколение» адаптируется под новые карьерные треки 55 и вперед: как «серебряное поколение» адаптируется под новые карьерные треки

Как «серебряное поколение» адаптируется к новым карьерным реалиям

Forbes
Ольга Варцева: «Далеко не каждая книга выдерживает перечитывание» Ольга Варцева: «Далеко не каждая книга выдерживает перечитывание»

«Прежде чем идти к психологу, почитайте чью-нибудь автобиографию»

Ведомости
Как Ленин дэвов побеждал Как Ленин дэвов побеждал

Какие отпечатки оставили на народах России события на рубеже XIX и XX веков

Дилетант
«Профессия научила отстаивать свое мнение»: как женщины работают сварщицами «Профессия научила отстаивать свое мнение»: как женщины работают сварщицами

Как сварщицы борются со стереотипами и за что любят свою работу

Forbes
Россия на Ближнем Востоке играет в Realpolitik Россия на Ближнем Востоке играет в Realpolitik

Есть ли у России своя стратегия на Ближнем Востоке?

Монокль
Мир экзопланет: самые странные экзопланеты Мир экзопланет: самые странные экзопланеты

Как появляются пульсарные планеты, планеты-зомби и бланеты

Наука и техника
Вяземские Вяземские

Происходивший от Рюрика княжеский род Вяземских известен ещё со Средневековья

Дилетант
Как откручивать шкив коленвала и в какую сторону Как откручивать шкив коленвала и в какую сторону

Все о снятии шкива коленвала: инструменты, последовательность, как крепится

РБК
ФГИС вам в помощь ФГИС вам в помощь

Как работают внедренные в агроотрасль информсистемы

Агроинвестор
Японский десант на Великих озерах Японский десант на Великих озерах

Большое поглощение в мировой металлургии все-таки состоится

Монокль
Сделать посетителя немного исследователем Сделать посетителя немного исследователем

Что отличает современные музеи? Открытость и исследовательский подход

Знание – сила
Как накормить искусственный интеллект Как накормить искусственный интеллект

Как обеспечить непрерывную работу ИИ и центров обработки данных?

Ведомости
История в фасадах История в фасадах

Число объектов культурного наследия в столице растет

Ведомости
О колокольчиках в саду О колокольчиках в саду

Оказывается, не все колокольчики голубые и не у всех венчики похожи на колокола

Наука и жизнь
Стимулы вместо принуждения Стимулы вместо принуждения

Чем биржевая торговля сельхозпродукцией может быть интересна бизнесу

Агроинвестор
Тюрьма народов Тюрьма народов

Как побег из Алькатраса лишь укрепил имидж легендарной тюрьмы

Дилетант
Открыть в приложении