OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Теория поколений Теория поколений

Как появились люди X, Y, Z, альфа и чем они отличаются в разных странах?

Вокруг света
Веселая жизнь «Вест Хэма»: владельцы сделали состояние на порно, в фанатах — Миа Халифа Веселая жизнь «Вест Хэма»: владельцы сделали состояние на порно, в фанатах — Миа Халифа

Фильмы для взрослых и самый популярный вид спорта объединились в Лондоне

Maxim
Женское лицо Чечни: фильм «Клетка ищет птицу» Малики Мусаевой показали на Берлинале Женское лицо Чечни: фильм «Клетка ищет птицу» Малики Мусаевой показали на Берлинале

Почему так важен дебют «Клетка ищет птицу» и какими он рисует чеченских женщин

Forbes
Как перестать постоянно худеть: 5 полезных упражнений — наладьте контакт с телом Как перестать постоянно худеть: 5 полезных упражнений — наладьте контакт с телом

Как отвлечься от недовольства внешностью?

Psychologies
В чём отличие шкалы Фаренгейта от шкалы Цельсия и какая из них лучше? В чём отличие шкалы Фаренгейта от шкалы Цельсия и какая из них лучше?

Почему американцы так прикипели к шкале Фаренгейта?

ТехИнсайдер
Геотермальная энергетика — от горячих источников до глубинных горячих пород Геотермальная энергетика — от горячих источников до глубинных горячих пород

Заставить работать глубинное тепло Земли непросто и дорого, но затраты окупаются

Наука
Как независимая киностудия стала триумфатором «Оскара»: 10 фильмов A24, с которыми стоит познакомиться Как независимая киностудия стала триумфатором «Оскара»: 10 фильмов A24, с которыми стоит познакомиться

Как киностудии А24 удается сочетать остроумный артхаус и кассовый успех

Правила жизни
«Мы шутили, что к нам еще только медведь не пришел»: Анастасия Стежко о съемках сериала «Вампиры средней полосы» «Мы шутили, что к нам еще только медведь не пришел»: Анастасия Стежко о съемках сериала «Вампиры средней полосы»

Анастасия Стежко раскрыла секреты съемок экшн-сцен «Вампиров средней полосы»

VOICE
Amirchik: «У меня такой период, когда я бы с радостью не трогал телефон вообще» Amirchik: «У меня такой период, когда я бы с радостью не трогал телефон вообще»

Amirchik — о том, почему его удручают соцсети и что делает счастливым

ЖАРА Magazine
7 простых шагов для борьбы со стрессом и усталостью после зимы 7 простых шагов для борьбы со стрессом и усталостью после зимы

Усталость сигнализирует, что пора что-то поменять в своей жизни

Правила жизни
Матчасть отечественного планеризма: самые известные планеры, созданные в СССР Матчасть отечественного планеризма: самые известные планеры, созданные в СССР

Изучаем матчасть советского планеризма

ТехИнсайдер
Что такое спидран или как пройти Atomic Heart за 6 минут? Что такое спидран или как пройти Atomic Heart за 6 минут?

Почему спидраны заслуживают вашего внимания?

CHIP
«Мать женских прав»: как нигерийская активистка бросила вызов самому королю «Мать женских прав»: как нигерийская активистка бросила вызов самому королю

Фунмилайо Рэнсем-Кути — одна из ключевых фигур борьбы за женские права в Нигерии

Forbes
Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске

Андрей Малахов поддерживал связь с Жанной Фриске до самой ее смерти

VOICE
Любовь на расстоянии: сближения не предвидится Любовь на расстоянии: сближения не предвидится

Отношения на расстоянии возвращают нас к буйным годам студенчества

VOICE

Новое поколение передовых методов лечения поднимает серьезные этические проблемы

ТехИнсайдер
Заковать в скандалы Заковать в скандалы

Скандальный манифест – отдельный (если не главный) футуристический жанр

Правила жизни
Одержимый любовью: что зашифровал Тициан в своей картине «Любовь земная и небесная» Одержимый любовью: что зашифровал Тициан в своей картине «Любовь земная и небесная»

Отрывок из книги «Любовь и страсть в искусстве Возрождения. Ренессанс в Италии»

Forbes
Как разные позы для сна влияют на наше самочувствие Как разные позы для сна влияют на наше самочувствие

В какой же позе лучше всего спать?

ТехИнсайдер
Персона Персона

О кризис-менеджменте, конкурентной борьбе и западных бизнес-стратегиях

Robb Report
Похудеть на 30 и 55 кг Похудеть на 30 и 55 кг

Наши героини изменили свою жизнь, чтобы расстаться с лишним весом

Новый очаг

Как Гизелла Перл решила помочь беременным узницам концлагеря

ТехИнсайдер
Что нужно знать, чтобы посмотреть «Джон Уик — 4»: вспоминаем первые три серии Что нужно знать, чтобы посмотреть «Джон Уик — 4»: вспоминаем первые три серии

Сюжет, персонажи и любопытные факты о всех фильмах «Джон Уик»

Maxim
Цифровые жулики Цифровые жулики

Как мошенники используют интернет-технологии для сделок с недвижимостью

Деньги
Как выбрать телевизор и не переплатить за ненужные технологии Как выбрать телевизор и не переплатить за ненужные технологии

На что обратить внимание при покупке нового телевизора?

CHIP
11 главных химических элементов, из которых состоит наше тело 11 главных химических элементов, из которых состоит наше тело

Человек — это на 99% кислород, водород, азот, углерод, кальций и фосфор!

ТехИнсайдер
Двое школьников зарезали свою одноклассницу, посмотрев фильм «Крик». Они записали радостное видео Двое школьников зарезали свою одноклассницу, посмотрев фильм «Крик». Они записали радостное видео

Как два подростка решили стать убийцами

ТехИнсайдер
Пчелы ориентируются в полете, как пилоты первых самолетов Пчелы ориентируются в полете, как пилоты первых самолетов

Чем похожи пчелы и пилоты-люди?

ТехИнсайдер
Аргентинская мозаика Аргентинская мозаика

В стране, где много «самого-самого», хочется побывать самой

Лиза
Когда артерии в опасности Когда артерии в опасности

Сосудистый хирург рассказывает, что влияет на здоровье артерий

Здоровье
Открыть в приложении