ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Древнерусские амазонки: как воительницы описывались в былинах и преданиях Древнерусские амазонки: как воительницы описывались в былинах и преданиях

Что фольклористам известно русских воительницах и как они изменились со временем

Forbes
Астрономы отыскали кандидата в очень далекую карликовую планету на крайне широкой орбите Астрономы отыскали кандидата в очень далекую карликовую планету на крайне широкой орбите

Как обнаружили кандидата в экзотичный по свойствам транснептуновый объект

N+1
Блокировка расчетного счета: что это и почему так происходит Блокировка расчетного счета: что это и почему так происходит

Блокировка расчетного счета: как быстро решить проблему и снять блокировку?

Inc.
Индивидуалистка из СССР: как Айн Рэнд боролась с коммунизмом и создавала бестселлеры Индивидуалистка из СССР: как Айн Рэнд боролась с коммунизмом и создавала бестселлеры

Как Айн Рэнд, дочь аптекаря из Петербурга, смогла покорить США

Forbes
«Дикое» государство: 7 фактов о жизни на Аляске «Дикое» государство: 7 фактов о жизни на Аляске

Вечная мерзлота, действующие вулканы, множество диких животных — все это Аляска

ТехИнсайдер
Что такое робот? Что такое робот?

Роботы вокруг нас: объясняем, как они работают и зачем нужны

Наука и техника
Как тебя зовут? Как тебя зовут?

Что такое число имени и как оно влияет на судьбу

Лиза
Перекресток предубеждений Перекресток предубеждений

Пол не определяет ни компетентность, ни лидерский талант

Ведомости
Индейка на взлете Индейка на взлете

Российское производство мяса индейки выросло почти на 4%

Агроинвестор
Земля ратного подвига Земля ратного подвига

Щит России: чем живёт и развивается Белгородская область сегодня

Отдых в России
Гарегин Тосунян: «В силу непонятных нам причин рынок сжимают» Гарегин Тосунян: «В силу непонятных нам причин рынок сжимают»

Как оценивается состояние экономики и банковского сектора

Монокль
3 шага, которые позволят сменить работу без финансовых рисков и потерь 3 шага, которые позволят сменить работу без финансовых рисков и потерь

Решение сменить работу связано с финансовым риском. Как его не допустить?

Inc.
У себя дома У себя дома

Современный европейский интерьер с арт-объектами

SALON-Interior
Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android

Способы защиты переписок для пользователей Android-устройств

ТехИнсайдер
У нас секса нет? У нас секса нет?

Из-за чего мужчины комплексуют в постели?

Лиза
Вечерний спорт влияет на продолжительность сна Вечерний спорт влияет на продолжительность сна

Тренировки перед сном сильнее сказываются на состоянии сна, чем считалось ранее

ТехИнсайдер
Пишем красиво Пишем красиво

Надо ли тратить силы и время, чтобы научить ребенка красиво писать?

Лиза
Тянем-потянем: как франчайзеры помогают партнерам в трудные времена Тянем-потянем: как франчайзеры помогают партнерам в трудные времена

Большинство из франчайзеров помогут партнеру с антикризисным управлением

Forbes
Со льдом и безо льда Со льдом и безо льда

О достижениях Евгении Медведевой знают все. А чем она готова удивить в будущем?

VOICE
Если бабушка балует ребенка Если бабушка балует ребенка

Как тактично склонить старшее поколение на свою линию воспитания

Лиза
Дочери феи и дракона: как сестры Чынг собрали армию и освободили Древний Вьетнам Дочери феи и дракона: как сестры Чынг собрали армию и освободили Древний Вьетнам

Как сестры Чынг освободили Вьетнам из-под гнета Китая?

Forbes
«Санкционный механизм — это “Титаник”, но Трамп хочет договориться» «Санкционный механизм — это “Титаник”, но Трамп хочет договориться»

О том, как выстраиваются отношения российского и американского бизнеса

Эксперт
8 вещей, которые нашатырный спирт сделает идеально чистыми 8 вещей, которые нашатырный спирт сделает идеально чистыми

Аммиак — один из самых мощных и недорогих бытовых очистителей

VOICE
У берегов Антарктиды нашли «странных» морских свинок, пауков» и бабочек У берегов Антарктиды нашли «странных» морских свинок, пауков» и бабочек

Глубины Антарктиды скрывают поразительные формы жизни

ТехИнсайдер
Пожилые люди, которые потребляют белок три раза в день становятся сильнее Пожилые люди, которые потребляют белок три раза в день становятся сильнее

Потребление белка может помочь сохранить мышечную силу с возрастом

ТехИнсайдер
Всё в цвету Всё в цвету

Обсудили с экспертом, как защитить чувствительную кожу в сезон пыльцы

Лиза
Собаки незаметно наносят ущерб окружающей среде Собаки незаметно наносят ущерб окружающей среде

Ваша собака очаровательна, но она представляет угрозу для окружающей среды

ТехИнсайдер
Исследование показало, что видеоигры не оказывают негативного влияния на мозг детей, а наоборот, повышают их IQ Исследование показало, что видеоигры не оказывают негативного влияния на мозг детей, а наоборот, повышают их IQ

Дети, активно играющие в видеоигры, имеют высокий уровень умственной активности

Inc.
Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне

Лето не за горами: пора определяться с локацией для нового путешествия

Maxim
Учеба без отрыва от работы Учеба без отрыва от работы

Выстроить систему обучения сотрудников можно и без корпоративного университета

Ведомости
Открыть в приложении