ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Способ самовыражения: почему зумеры любят культуру Южной Кореи Способ самовыражения: почему зумеры любят культуру Южной Кореи

Как российские зумеры поймали корейскую волну?

Forbes
Переосмыслить Петербург: как архитектура и фотография  помогут увидеть город по-новому Переосмыслить Петербург: как архитектура и фотография  помогут увидеть город по-новому

Архитектура может быть не только функциональной, но и трогательной

VOICE
Почему телемедицина в России пока остается нишевым продуктом Почему телемедицина в России пока остается нишевым продуктом

Телемедицина в России: стоит ли записываться на удаленный прием к врачу?

РБК
Рай на террасе Рай на террасе

Обустраиваем место отдыха на садовом участке

Добрые советы
«Эффект кислого винограда»: как неудачи и страх провала мешают нам исполнять мечты «Эффект кислого винограда»: как неудачи и страх провала мешают нам исполнять мечты

Почему мы бессознательно обесцениваем то, что раньше вдохновляло?

Forbes
5 самых странных (но прикольных) видов велоспорта: вы точно захотите попробовать 5 самых странных (но прикольных) видов велоспорта: вы точно захотите попробовать

Топ-5 самых необычных спортивных дисциплин с велосипедом

ТехИнсайдер
Зарабатываете на пельменях, а просите денег на ПО: 7 причин, почему инвестор может отказать стартапу Зарабатываете на пельменях, а просите денег на ПО: 7 причин, почему инвестор может отказать стартапу

Семь причин, по которым инвестиционные фонды отказывают стартапам

Inc.
Волна у нас дома Волна у нас дома

Что такое сёрфинг на искусственной волне

Новый очаг
Вымереть обратно Вымереть обратно

Пророчество фильма «Парк юрского периода»: можно ли воссоздать вымершие виды

Вокруг света
Медоуказчики привели людей к змеям по ошибке Медоуказчики привели людей к змеям по ошибке

Орнитологи выяснили, почему большие медоуказчики иногда направляют людей к змеям

N+1
Драйверы от Windows или фирменные: что лучше Драйверы от Windows или фирменные: что лучше

Стоит ли устанавливать фирменные драйверы или можно ограничиться встроенными

CHIP
Горный ветер Горный ветер

Вновь украл девушку. Но в этот раз, справедливости ради, с ее разрешения!

Правила жизни
Строго по графику Строго по графику

Чтобы вырастить всё в лучшем виде, многие садоводы опираются на лунный календарь

КАНТРИ Русская азбука
Внук авторитетной бабушки Внук авторитетной бабушки

Дмитрий Журавлев — о том, как он не стал преступником

Правила жизни
Доктор ниндзя Доктор ниндзя

Жимба Данзанов уверен, что дожить до 120 лет реально уже сегодня

Afternoon Seasons of life
Что ни день, то приключение! Что ни день, то приключение!

7 весёлых идей на неделю за городом

КАНТРИ Русская азбука
Вспомнить всех Вспомнить всех

15 лучших ролей в русских сериалах

Men Today
Сезон веранд Сезон веранд

Как организовать пространство аутдор

Новый очаг
Представь, что... Представь, что...

Почему стоит довериться роботу и спланировать путешествие с помощью Chat GPT

Новый очаг
Маршрут построен Маршрут построен

Как экономить на поездках в метро в разных городах России

Лиза
Лечим не то не тем Лечим не то не тем

Почему нормы такси по 580-ФЗ плохи для пассажиров и перевозчиков?

Монокль
Золотые линии кинцуги Золотые линии кинцуги

Моя кульминационная точка «случилась» в день, когда мне исполнилось 50

Afternoon Seasons of life
Что такое робот? Что такое робот?

Роботы вокруг нас: объясняем, как они работают и зачем нужны

Наука и техника
10 продуктов для здоровья волос в пожилом возрасте 10 продуктов для здоровья волос в пожилом возрасте

Как связаны здоровье волос и продукты, которые вы едите?

ТехИнсайдер
Тарифная суматоха Трампа Тарифная суматоха Трампа

Координаты пространства конфликта, разгоревшегося в международной торговле

Монокль
Как выбрать брокера Как выбрать брокера

Как выбрать яхтенного брокера и избежать ошибок?

Y Magazine
Битва промптов Битва промптов

Баттл «промпт-инженер против обычного человека с нейросетью»

ТехИнсайдер
Против взлома есть приемы Против взлома есть приемы

Как защитить свой аккаунт на госуслугах

Лиза
Наш Май Наш Май

Книги с иллюстрациями Мая Петровича Митурича, не сомневаюсь, есть в каждом доме

Наука и жизнь
Cтенка на стенку Cтенка на стенку

Чем стрит-арт отличается от вандализма?

Правила жизни
Открыть в приложении