Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Безопасно ли использовать технологии искусственного интеллекта: риски и выгоды для бизнеса Безопасно ли использовать технологии искусственного интеллекта: риски и выгоды для бизнеса

Какие выгоды дают компании технологии искусственного интеллекта?

Inc.
«Важно запасть в душу потребителю» «Важно запасть в душу потребителю»

Как государство поддерживает экспортеров

Эксперт
«Не ждите сразу москвичей с деньгами». Как оценить рынок для открытия турагентства «Не ждите сразу москвичей с деньгами». Как оценить рынок для открытия турагентства

Как оценить рынок внутреннего туризма и открыть собственный бизнес

Inc.
На египетской картине нашли библейский синий На египетской картине нашли библейский синий

Из чего древние египтяне делали редкую краску — библейский синий

N+1
Что такое «сухой запой» и что не так с решением жить в трезвости Что такое «сухой запой» и что не так с решением жить в трезвости

Что такое «сухой запой», почему так происходит и как спастись

Maxim
Обман памяти Обман памяти

Как формируются ложные воспоминания?

Санкт-Петербургский университет
Птолемеево царство Птолемеево царство

Птолемей не верил в империю своего отца, он хотел построить свое великое царство

Дилетант
Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить

Можно ли покинуть место ДТП, оставив записку с телефонным номером?

ТехИнсайдер
Земля на стыке гипотез Земля на стыке гипотез

Земля в процессе своего развития расширялась или сжималась?

Знание – сила
Тропические болота нивелировали успехи арктических в поглощении углерода Тропические болота нивелировали успехи арктических в поглощении углерода

Почему снижается продуктивность болот, поглощающих углерод

N+1
Казань набила казну Казань набила казну

Почему вузы Татарстана популярны у иностранных студентов?

Ведомости
Традиционная стабильность Традиционная стабильность

Какое место в энергетике будущего будут занимать уголь, нефть и газ

Ведомости
Олег Фомин: «Абдулов говорил коллегам: «Да ладно, расслабьтесь, Фома все придумает» Олег Фомин: «Абдулов говорил коллегам: «Да ладно, расслабьтесь, Фома все придумает»

Я понимал, что надо рыть носом землю, пока есть силы и здоровье

Коллекция. Караван историй
Жидкий свет сымитировал черную дыру Жидкий свет сымитировал черную дыру

Как ученые заставили поток поляритонов вести себя подобно черной дыре

N+1
Как правильно тормозить на механике: пошаговая инструкция для начинающих Как правильно тормозить на механике: пошаговая инструкция для начинающих

Как правильно тормозить на машинах с механической коробкой передач?

РБК
Вьетнамский вклад в импортозамещение Вьетнамский вклад в импортозамещение

Концерн TH Group открыл завод по переработке молока в Калужской области

Агроинвестор
Работа с мотивацией Работа с мотивацией

Может ли ПДМ стать эффективным механизмом повышения капитализации госкомпаний?

Ведомости
Как отличить борщевик от дудника и других зонтичных растений Как отличить борщевик от дудника и других зонтичных растений

Как не спутать борщевик его с безобидными товарищами

Maxim
Hастроение – прованс Hастроение – прованс

Создаем в квартире уютный деревенский стиль

Лиза
Боевые слоны Боевые слоны

Почему боевые слоны считались идеальным оружием древности?

Дилетант
Жажда красоты Жажда красоты

Какие компоненты должны входить в состав крема, чтобы принести пользу

Лиза
Неандертальцы изготовили артефакты из добытого в сотнях километров от стоянок обсидиана Неандертальцы изготовили артефакты из добытого в сотнях километров от стоянок обсидиана

Какой обсидиан использовали неандертальцы для изготовления каменных орудий

N+1
Альберт Филозов: «Такого мужа, как я, своим девочкам не пожелал бы» Альберт Филозов: «Такого мужа, как я, своим девочкам не пожелал бы»

Альберт Филозов — о том, как любовь продлила ему жизнь

Коллекция. Караван историй
Ваши внутренние часы устанавливают время приема пищи, которое снижает риск ожирения и диабета Ваши внутренние часы устанавливают время приема пищи, которое снижает риск ожирения и диабета

Зачем синхронизировать количество потребляемых калорий с циркадным ритмом?

ТехИнсайдер
Пример заразителен Пример заразителен

Как гаджеты могут стать наркотиком и почему их не стоит обвинять во всех бедах

Правила жизни
Мозг просыпается постепенно, и волна активация идет ото лба к затылку Мозг просыпается постепенно, и волна активация идет ото лба к затылку

Чем процесс пробуждения отличается от процесса засыпания?

ТехИнсайдер
Художник Татьяна Андреева: «Меня интересует волновая природа всего» Художник Татьяна Андреева: «Меня интересует волновая природа всего»

Татьяна Андреева о том, как поймать неуловимое и о новом большом проекте

РБК
Накопительную часть пенсии «молчунов» могут перевести в ПДС автоматически Накопительную часть пенсии «молчунов» могут перевести в ПДС автоматически

О существенных изменениях для инвесторов и клиентов банков и финансовых компаний

Деньги
Электростимуляция заставила жука-киборга лезть на стену Электростимуляция заставила жука-киборга лезть на стену

Как электрическая стимуляция заставляет двигаться жука-киборга

N+1
Денис Власенко: «Все-таки мир не черно-белый» Денис Власенко: «Все-таки мир не черно-белый»

Денис Власенко о «супергеройских» ролях и о том, каково это в возрастном гриме

Ведомости
Открыть в приложении