ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как американский ИИ-стартап помогает ресторанам процветать среди корпораций Как американский ИИ-стартап помогает ресторанам процветать среди корпораций

Как языковые модели помогают малым ресторанам конкурировать

Forbes
«Открывается какой-то портал, и я абсолютно неуязвима и абсолютно счастлива»: интервью с Дианой Арбениной «Открывается какой-то портал, и я абсолютно неуязвима и абсолютно счастлива»: интервью с Дианой Арбениной

Диана Арбенина рассказала о непреодолимой силе сцены

Правила жизни
Горе от интеллекта: как хайп вокруг ИИ вредит IT-продуктам Горе от интеллекта: как хайп вокруг ИИ вредит IT-продуктам

В каких случаях ИИ навредит продукту, а в каких — поможет

Forbes
Как работает Межвселенский насос – удивительный источник энергии, придуманный Айзеком Азимовым Как работает Межвселенский насос – удивительный источник энергии, придуманный Айзеком Азимовым

Как работает насос между вселенными и как Азимов изобрел его

ТехИнсайдер
Типы старения лица и кожи: какие бывают и как их определить Типы старения лица и кожи: какие бывают и как их определить

Какие типы старения лица и организма существуют?

РБК
Те еще овощи! Те еще овощи!

Кое-что о поведении овощей в открытом грунте

КАНТРИ Русская азбука
Битва промптов Битва промптов

Баттл «промпт-инженер против обычного человека с нейросетью»

ТехИнсайдер
Немоляевы и Лазаревы Немоляевы и Лазаревы

Немоляевы и Лазаревы: вся семья — как целая киностудия

Караван историй
Как благотворительность помешала Биллу Гейтсу стать первым в мире триллионером Как благотворительность помешала Биллу Гейтсу стать первым в мире триллионером

Почему Билл Гейтс мог стать богаче Маска втрое?

Forbes
Летняя косметичка: что убавить, что прибавить Летняя косметичка: что убавить, что прибавить

Как пережить жару и сохранить красоту? Золотые правила ухода

Добрые советы
«Речь про свободолюбие, озорство какое-то»: художник Саша Браулов — о работе над обложкой «Правил жизни», вышивке как методе и здоровом хулиганстве «Речь про свободолюбие, озорство какое-то»: художник Саша Браулов — о работе над обложкой «Правил жизни», вышивке как методе и здоровом хулиганстве

Художник Саша Браулов о вышивке как методе и силе доброты

Правила жизни
Слава: «Я всегда мечтаю о том, что может сбыться» Слава: «Я всегда мечтаю о том, что может сбыться»

25 лет на сцене — певица Слава по праву может гордиться этим достижением

Добрые советы
Компания в кризисе: как не утонуть, когда все вокруг рушится? Компания в кризисе: как не утонуть, когда все вокруг рушится?

Как сохранить самообладание и профессионализм, когда компания в кризисе?

Inc.
Галина Киндинова: «Жизненная сила била из них ключом» Галина Киндинова: «Жизненная сила била из них ключом»

Мы были окружены почти родительскими заботой и вниманием

Коллекция. Караван историй
Не пытайся это повторить Не пытайся это повторить

Cтранные привычки наших предков, которые сегодня шокируют

Лиза
Билет туда-обратно Билет туда-обратно

1200 км без дозаправки — гибридный кроссовер Exlantix ET удивляет

Автопилот
Почему в жару отекают ноги и как снять отек Почему в жару отекают ноги и как снять отек

В чем причины отеков лодыжек и стоп в жару

РБК
Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов Бактерии совершают самоубийство, чтобы спасти свою колонию от вирусов

Кишечная палочка использует ранее неизвестную противовирусную систему

ТехИнсайдер
Не работает тачпад на ноутбуке: причины и способы решения проблемы Не работает тачпад на ноутбуке: причины и способы решения проблемы

Что делать, если перестал работать тачпад на ноутбуке с Windows

CHIP
Шаг к здоровью питомца: как подобрать правильный корм для домашнего животного Шаг к здоровью питомца: как подобрать правильный корм для домашнего животного

О том, как надо кормить кошек и собак в соответствии с их видовыми особенностями

ТехИнсайдер
Палеонтологи восстановили перья археоптерикса, и объяснили как он летал Палеонтологи восстановили перья археоптерикса, и объяснили как он летал

Как ученые по оставшимся костям могут реконструировать облик археоптерикса?

ТехИнсайдер
Флирт по сезону Флирт по сезону

Самые летние способы обольщения и флирта

Лиза
Всем построиться! Всем построиться!

Сергей Кузнецов охотно делится взглядом на архитектуру и урбанистику

Men Today
А вокруг тишина А вокруг тишина

Как превратить путешествие в одиночку в успешную сессию самокоучинга

Новый очаг
Этноконфессиональные особенности мясного потребления Этноконфессиональные особенности мясного потребления

Под влиянием каких факторов меняется ассортимент мясной продукции

Агроинвестор
Почему течет масло в машине: причины и способы устранения проблемы Почему течет масло в машине: причины и способы устранения проблемы

Все про течь масла: откуда течет, как найти, опасно ли

РБК
Возможно, вы взвешиваетесь неверно: несколько правил от ученых Возможно, вы взвешиваетесь неверно: несколько правил от ученых

Как понять свой истинный вес и взвеситься правильно?

ТехИнсайдер
Режиссер Леонид Хейфец. Откровенно о Дорониной, Миронове и Борисове Режиссер Леонид Хейфец. Откровенно о Дорониной, Миронове и Борисове

Когда Ефремов пригласил меня, МХАТ как раз «пилился»

Коллекция. Караван историй
Если ты аэрофоб Если ты аэрофоб

Как перестать бояться летать на самолетах

Лиза
Что такое робот? Что такое робот?

Роботы вокруг нас: объясняем, как они работают и зачем нужны

Наука и техника
Открыть в приложении