ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Превратить экранное время в деньги: как поколение альфа зарабатывает в смартфонах Превратить экранное время в деньги: как поколение альфа зарабатывает в смартфонах

Дети и подростки, которым исполняется около 15 лет, уже зарабатывают деньги

Forbes
Можно ли убежать от старости? Можно ли убежать от старости?

Можно ли избежать старения с помощью спорта?

Здоровье
Крупным франшизам запрещают быть эксклюзивными Крупным франшизам запрещают быть эксклюзивными

Суд признал права франчайзи продавать не только товары франчайзера

Forbes
Молодежь рвется наверх Молодежь рвется наверх

Молодежь выбирает стабильную карьеру вместо быстрых, но временных заработков

Ведомости
5 привычек, которые бесят всех врачей 5 привычек, которые бесят всех врачей

Почему врач не может поставить вам правильный диагноз?

Maxim
Уроки оформления Уроки оформления

Оригинальные дизайнерские идеи для дачного опен-эйра

КАНТРИ Русская азбука
Болотинг Болотинг

Зачем люди ходят по болотам и какие красоты там можно увидеть?

Новый очаг
Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже» Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже»

Щитовидка, лишний вес и гормоны: разбираемся в тонкостях с эндокринологом

Здоровье
Больше не колется: 5 способов сделать льняную одежду мягче Больше не колется: 5 способов сделать льняную одежду мягче

Как сделать льняные вещи мягче и избавиться от неприятных ощущений

ТехИнсайдер
Новое направление Новое направление

Знакомимся ближе с полноразмерным гибридным кроссовером EXLANTIX ET

Y Magazine
Образование без серверов: как и зачем использовать облачные технологии вузам Образование без серверов: как и зачем использовать облачные технологии вузам

Использование облачных технологий в процессе образования улучшает успеваемость

Forbes
Зеленый дракон Зеленый дракон

Как Китаю удалось пройти путь от «угольной коптилки» до лидера энергоперехода

ТехИнсайдер
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

После Второй мировой фантастика приобрела авторов, кардинально обновивших жанр

Наука и жизнь
Совсем другой сюжет Совсем другой сюжет

Портрет итальянской верфи Cantiere del Pardo и самые актуальные ее модели

Y Magazine
Мифы и факты: Александр I Мифы и факты: Александр I

Весной на экраны вышел сериал об императоре. Какие факты вызывают споры?

Вокруг света
Энергия вместо долга Энергия вместо долга

Как получилось, что США оказалась на грани дефолта?

Ведомости
«Мы не воюем, мы работаем» «Мы не воюем, мы работаем»

О службе в Афганистане и Чечне, а также о специфике работы советских погранвойск

Монокль
ПИФы навели на цель ПИФы навели на цель

В борьбе за инвесторов компании запускают нишевые и экзотические фонды

Монокль
Время титанов Время титанов

Ма Яньсун — архитектор, который умеет так же хорошо строить, как и мечтать

Weekend
Работа с умом: каков потенциал генеративного ИИ для роста производительности в России Работа с умом: каков потенциал генеративного ИИ для роста производительности в России

Ученые проанализировали влияние генеративного ИИ на задачи и профессии

Forbes
Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе Женщины, которые слишком много думают: почему мы так зацикливаемся на негативе

Почему женщины зацикливаются на тревожных мыслях? Ищем ответы в книге психолога

Forbes
Дивный Воронеж Дивный Воронеж

Город-открытие, который ты пропускаешь по пути на море

Лиза
Встреча в лифте Встреча в лифте

О движении навстречу друг другу и о движении от себя-ребенка к себе-родителю

Afternoon Seasons of life
Интервальное голодание: почему нет эффекта Интервальное голодание: почему нет эффекта

Почему интервальное голодание может не сработать и как избежать ошибок

Лиза
Идем по циклу Идем по циклу

Что в менструальном цикле считается нормой, а когда требуется внимание

Лиза
Help! SOS! Help! SOS!

Отдых на даче показан всем, но некоторым в ряде случаев — особенно. Вот они

КАНТРИ Русская азбука
Наш Май Наш Май

Книги с иллюстрациями Мая Петровича Митурича, не сомневаюсь, есть в каждом доме

Наука и жизнь
NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет

Марсоход NASA обнаружил множество древних камней на краю кратера Езеро

Inc.
История Мадлен Астор, беременной молодой жены богача, которая выжила на «Титанике» История Мадлен Астор, беременной молодой жены богача, которая выжила на «Титанике»

Как беременной Мадлен Астор удалось выжить при крушении «Титаника»?

ТехИнсайдер
Нейробиологи показали, как мозг хранит и редактирует наши воспоминания Нейробиологи показали, как мозг хранит и редактирует наши воспоминания

Механизмы, которые хранят и обновляют воспоминания в мозге

ТехИнсайдер
Открыть в приложении