OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Птицы свободного полета»: почему в России растет дефицит креативных кадров «Птицы свободного полета»: почему в России растет дефицит креативных кадров

Российская креативная индустрия фиксирует нехватку кадров

Forbes
Свой след Свой след

История Дома Doucal’s берёт начало на родине основателя бренда Марио Джаннини

Robb Report
Соцсеть, государство или бизнес. Обзор игровой онлайн-платформы Roblox Соцсеть, государство или бизнес. Обзор игровой онлайн-платформы Roblox

В чем секрет популярности Roblox?

Цифровой океан
Смола и цветы Смола и цветы

История любви к хобби, которое стало профессией

Новый Очаг
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Зачем клавиатуре подставка под запястья? Зачем клавиатуре подставка под запястья?

Разбираемся в том, зачем клавиатуре подставка под запястье

CHIP
Как легко и быстро нарезать ананас: 3 лучших лайфхака Как легко и быстро нарезать ананас: 3 лучших лайфхака

Лайфхак, который сэкономит ваши силы, нервы и время при чистке ананаса

TechInsider
Что делать, если близкие не поддерживают ваши начинания: 7 шагов Что делать, если близкие не поддерживают ваши начинания: 7 шагов

Почему близкие могут отказывать в одобрении и как без него идти за мечтой

Psychologies
Какая водка считается самой вкусной в мире? Какая водка считается самой вкусной в мире?

Ищем лучшую водку в мире!

Maxim
Он пробыл 16 часов в желудке кашалота и остался жив: удивительная история Джеймса Бартли Он пробыл 16 часов в желудке кашалота и остался жив: удивительная история Джеймса Бартли

В 1891 году моряк английского судна Джеймс Бартли был проглочен огромным китом

TechInsider
Мы так же любим любить Мы так же любим любить

Юлия Высоцкая – о том, что её бесит и почему завтраки должны быть запрещены

Новый Очаг
От технологического суверенитета к лидерству От технологического суверенитета к лидерству

Денис Секиринский — о стратегии в сфере научно-технологического развития

Эксперт
В египетском храме нашли полную картину зодиаков. Удивительная находка! В египетском храме нашли полную картину зодиаков. Удивительная находка!

Увлечение астрологией возникло не в 21 веке!

TechInsider
Свобода и булочка Свобода и булочка

Солистка группы «АлоэВера» Вера Мусаелян и фотограф Катя Алагич встретились

Seasons of life
Любит — не любит? Как знаки зодиака выражают свои чувства Любит — не любит? Как знаки зодиака выражают свои чувства

Как понять, влюблен в тебя твой Овен или нет.?

VOICE
Ближе к земле: как Kaspersky Antidrone стал зарабатывать сотни миллионов рублей Ближе к земле: как Kaspersky Antidrone стал зарабатывать сотни миллионов рублей

Kaspersky Antidrone демонстрирует немейнстримное проявление возможностей ИИ

Forbes
Чечевица Чечевица

Блюда из чечевицы заново обретают популярность, а мы разбираемся в их пользе

Здоровье
Быть в фокусе Быть в фокусе

6 первых признаков снижения зрения

Лиза
Программисты, визионеры и гении бизнеса: кто придумал ChatGPT и куда они его ведут Программисты, визионеры и гении бизнеса: кто придумал ChatGPT и куда они его ведут

Как зародилась идея ChatGPT и какие цели преследуют ее создатели?

Forbes
Очень выносливый механизатор Очень выносливый механизатор

Беспилотные комбайны и трактора могут появиться на полях

TechInsider
Сколько на самом деле стоит автомобиль? Сколько на самом деле стоит автомобиль?

Жизнь автомобиля начинается задолго до момента, когда мы впервые садимся за руль

4x4 Club
“Парадокс ожирения” развенчан. Ученые установили, что лишний вес повышает смертность “Парадокс ожирения” развенчан. Ученые установили, что лишний вес повышает смертность

Как жир влияет на здоровье человека?

TechInsider
Ковбойня Тейлора Шеридана Ковбойня Тейлора Шеридана

«1923»: ностальгия по американской мечте

Weekend
«Почему он мне не пишет»: гостинг, бенчинг, брэдкрампинг, мунинг — виды отвержения в онлайн-знакомствах «Почему он мне не пишет»: гостинг, бенчинг, брэдкрампинг, мунинг — виды отвержения в онлайн-знакомствах

Что делать, если вы стали жертвой «человека-призрака»?

Psychologies
Как предприниматель с Аляски стал крупнейшим поставщиком рыбы в Америке Как предприниматель с Аляски стал крупнейшим поставщиком рыбы в Америке

Почему Джо Бандрант не хочет продавать Trident Seafoods?

Forbes
Пьем виски правильно: с колой, элем и вермутом Пьем виски правильно: с колой, элем и вермутом

Как выбрать колу для виски и как лучше пить этот напиток?

TechInsider
Мальчик, который вырос: 15 фильмов с Дэниелом Рэдклиффом Мальчик, который вырос: 15 фильмов с Дэниелом Рэдклиффом

Лучшие фильмы с Дэниелом Рэдклиффом (кроме поттерианы!)

Правила жизни
Лесные соседи Лесные соседи

Едва только март начинает прогревать поля, как в воздухе начинаются брожения

Наука и жизнь
Как выбрать SSD для ноутбука: подробный гайд Как выбрать SSD для ноутбука: подробный гайд

При выборе твердотельного накопителя для ноутбука нужно учесть немало факторов

CHIP
«Мать женских прав»: как нигерийская активистка бросила вызов самому королю «Мать женских прав»: как нигерийская активистка бросила вызов самому королю

Фунмилайо Рэнсем-Кути — одна из ключевых фигур борьбы за женские права в Нигерии

Forbes
Открыть в приложении