OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Груминг: что это такое и как авторитет и статус становятся инструментами насилия Груминг: что это такое и как авторитет и статус становятся инструментами насилия

Чем груминг отличается от растления или домогательства?

Psychologies
«Дейзи Джонс и The Six»: красивая мелодрама о вымышленной рок-группе в стиле 1970-х «Дейзи Джонс и The Six»: красивая мелодрама о вымышленной рок-группе в стиле 1970-х

Сериал «Дейзи Джонс и The Six» — аутентичная история о любви и саморазрушении

Forbes
«Советская повседневность» «Советская повседневность»

Отрывок из книги «Советская повседневность: нормы и аномалии»

N+1
Что такое спидран или как пройти Atomic Heart за 6 минут? Что такое спидран или как пройти Atomic Heart за 6 минут?

Почему спидраны заслуживают вашего внимания?

CHIP
Состав черной краски на керамике связали с влиянием империи Уари Состав черной краски на керамике связали с влиянием империи Уари

Империя Уари оказывала влияние на перуанские долины Хекетепеке, Наска и Мокегуа

N+1
Лекарство от депрессии Лекарство от депрессии

Как Вторая мировая сделала из США сверхдержаву

Деньги
Новые лица: пять молодых театральных актеров, за которыми стоит следить Новые лица: пять молодых театральных актеров, за которыми стоит следить

Пять самых интересных новых актеров московской сцены

Forbes
Неудобное право: что происходит с доступом к абортам в России Неудобное право: что происходит с доступом к абортам в России

Чем может грозить запрет абортов в России?

Forbes
Как помыть натяжной потолок без разводов: лайфхак для тех, кто ни разу этого не делал Как помыть натяжной потолок без разводов: лайфхак для тех, кто ни разу этого не делал

Как отмыть матовые, глянцевые или сатиновые натяжные потолки?

ТехИнсайдер
Время глобальной эмпатии: Александр Алексеев — о развитии креативных коммуникаций в России Время глобальной эмпатии: Александр Алексеев — о развитии креативных коммуникаций в России

Об актуальных трендах креативных коммуникаций и достижениях в сфере рекламы

СНОБ
Гриф «секретно» снят: сколько Юрий Гагарин заработал за свой первый полет? Гриф «секретно» снят: сколько Юрий Гагарин заработал за свой первый полет?

Материальные вознаграждения Юрия Гагарина за его полет никогда не афишировали

ТехИнсайдер
Волшебство или химический коктейль: что такое любовь с точки зрения биологии Волшебство или химический коктейль: что такое любовь с точки зрения биологии

Как чувство любви меняет мозг?

Psychologies
Эти машины лучше не покупать. Список самых проблемных моделей с пробегом Эти машины лучше не покупать. Список самых проблемных моделей с пробегом

Какие подержанные автомобили грозят проблемами с ремонтом своим владельцам

РБК
История Миры Мурати, которая работает в OpenAI и участвовала в создании ChatGPT История Миры Мурати, которая работает в OpenAI и участвовала в создании ChatGPT

Карьера Миры Мурати в мире высоких технологий

Forbes
Внутренний компас Внутренний компас

О новых проектах, планах и ориентирах в профессии Соня Присс рассказала ОK!

OK!
Что такое прокрастинация и как с ней бороться: практические советы от предпринимателя Что такое прокрастинация и как с ней бороться: практические советы от предпринимателя

Чем прокрастинация отличается от лени?

Psychologies
Чем опасна «волчья ягода»: можно ли от нее умереть? Чем опасна «волчья ягода»: можно ли от нее умереть?

Есть волчьи ягоды действительно небезопасно. Так чем же они опасны?

ТехИнсайдер
5 книг об удивительных путешествиях: истории от первого лица, которые захватывают дух 5 книг об удивительных путешествиях: истории от первого лица, которые захватывают дух

Книги, написанные самыми смелыми путешественниками

ТехИнсайдер
Кофеин снижает ожирение и риск развития диабета. Но есть нюансы Кофеин снижает ожирение и риск развития диабета. Но есть нюансы

Ученые отметили, что напитки с кофеином могут привести к снижению ожирения

ТехИнсайдер
Как понять, что у тебя гормональный дисбаланс: 6 изменений тела, которые должны насторожить Как понять, что у тебя гормональный дисбаланс: 6 изменений тела, которые должны насторожить

Расстройства в гормональной сфере могут быть удивительно разнообразны

VOICE
Побег Александра Побег Александра

Жизнь Александра последовательно выстраивалась, но он решил от неё сбежать

СНОБ
Перерыв на кофе Перерыв на кофе

7 секретов приготовления кофе, которые знают бариста, а теперь и ты

Лиза
Родившая троих детей Маргарита Родина из «Женского стендапа» рассказала о личной жизни Родившая троих детей Маргарита Родина из «Женского стендапа» рассказала о личной жизни

Маргарита Родина — о женском стендапе и своих детях

VOICE
Ученые засняли уникальные кадры ударов молний по высотным зданиям Ученые засняли уникальные кадры ударов молний по высотным зданиям

Как выглядит молния во время её удара?

ТехИнсайдер
Истории роста среди российских акций: стоит ли вкладываться и из чего выбрать Истории роста среди российских акций: стоит ли вкладываться и из чего выбрать

Часть из инвесторов обратили внимание на компании роста. Хорошая ли это идея?

Forbes
Знакомьтесь, Ксения Лапшова! Знакомьтесь, Ксения Лапшова!

Ксения Лапшова создала главную российскую it-bag

Собака.ru
Как влюбить в себя другого: «методичка» от психолога Как влюбить в себя другого: «методичка» от психолога

Реально ли влюбить в себя человека без SMS, регистрации и приворотов?

Psychologies
Маникюр-камуфляж: особенности, технологии и 8 трендовых идей Маникюр-камуфляж: особенности, технологии и 8 трендовых идей

Что такое маникюр-камуфляж?

РБК
Ангорский кролик: даст фору любым котикам Ангорский кролик: даст фору любым котикам

Немного об ангорских кроликах, которые "утрут нос" вашим любимым интернет-героям

ТехИнсайдер
Музыка Музыка

Что общего у симфонии Авраамова с изящным модернизмом Стравинского

Правила жизни
Открыть в приложении