OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лучшие бесплатные архиваторы: топ-5 и еще немного Лучшие бесплатные архиваторы: топ-5 и еще немного

Какой бесплатный архиватор лучше скачать на компьютер

CHIP
Как выглядела Вселенная до Большого взрыва: за гранью времени Как выглядела Вселенная до Большого взрыва: за гранью времени

Ранняя Вселенная могла быть не такой уж и ранней

ТехИнсайдер
Космос близко Космос близко

Как попасть на Байконур и увидеть запуск ракеты в космос

Отдых в России
Мы идем по Африке: как бывший врач стал организатором охотничьих сафари в ЮАР Мы идем по Африке: как бывший врач стал организатором охотничьих сафари в ЮАР

Бывший врач Георгий Рагозин строит бизнес исходя из своих увлечений

Forbes
Бывший военный. Dodge WC26 1941 года – чудо инженерной мысли Бывший военный. Dodge WC26 1941 года – чудо инженерной мысли

Чего только не выпускал Dodge, но модель Dodge WC26 1941 года — особенная

4x4 Club
С едой на С едой на

РПП: что это за зверь такой и как это расстройство проявляется?

VOICE
Главный секрет идеального блюда из мяса раскрыла Ляйсан Утяшева Главный секрет идеального блюда из мяса раскрыла Ляйсан Утяшева

Ляйсан Утяшева рассказала о семейном рецепте идеальных мантов

VOICE
В центре Млечного Пути есть загадочный объект, не поддающийся стандартам астрономии В центре Млечного Пути есть загадочный объект, не поддающийся стандартам астрономии

Удивительный и экстремально эволюционирующий объект в центре Млечного Пути

ТехИнсайдер
Эти полезные простые утренние привычки помогают женщинам худеть, ничего не делая: секреты диетологов Эти полезные простые утренние привычки помогают женщинам худеть, ничего не делая: секреты диетологов

Что нужно делать, если ты решила сбросить лишний вес, но не готова к подвигам?

VOICE
Кем была первая девушка Брэда Питта Кем была первая девушка Брэда Питта

С кем же голливудский красавчик Брэд Питт был до своей славы?

VOICE
В чём отличие шкалы Фаренгейта от шкалы Цельсия и какая из них лучше? В чём отличие шкалы Фаренгейта от шкалы Цельсия и какая из них лучше?

Почему американцы так прикипели к шкале Фаренгейта?

ТехИнсайдер
Не только перепродажи: как заработать на рынке недвижимости Дубая Не только перепродажи: как заработать на рынке недвижимости Дубая

Какие бизнес-модели эффективны на дубайском рынке недвижимости

Forbes
Как долго человек может обходиться без сна? И что случится, если хронически недосыпать? Как долго человек может обходиться без сна? И что случится, если хронически недосыпать?

Насколько важен регулярный сон для повседневной жизни человека?

ТехИнсайдер
Пыль в глаза: 9 признаков, что человек лжет о своей успешности Пыль в глаза: 9 признаков, что человек лжет о своей успешности

9 ложных признаков, что человек успешен

Psychologies
Как такое возможно: советский хирург Леонид Рогозов взял в руки скальпель и вырезал себе аппендицит Как такое возможно: советский хирург Леонид Рогозов взял в руки скальпель и вырезал себе аппендицит

Как молодой хирург Леонид Рогозов сам себе удалил аппендикс

ТехИнсайдер
Почему дети учатся быстрее взрослых Почему дети учатся быстрее взрослых

Бывают моменты, когда юный возраст дает преимущество

ТехИнсайдер
Невидимая Дженис: история женщины, которая коллекционирует чужие судьбы и меняет свою Невидимая Дженис: история женщины, которая коллекционирует чужие судьбы и меняет свою

Отрывок из дебютного романа Салли Пейдж «Хранительница историй»

Forbes
«Слишком много шума» «Слишком много шума»

Лев Ландау выделялся глубоким пониманием всех разделов физической науки

Наука
Возвращение в Эдем Возвращение в Эдем

Каждый год зимние холода вынуждают бабочек монархов покинуть родную Канаду

Вокруг света
Геотермальная энергетика — от горячих источников до глубинных горячих пород Геотермальная энергетика — от горячих источников до глубинных горячих пород

Заставить работать глубинное тепло Земли непросто и дорого, но затраты окупаются

Наука
Лукизм и эйджизм: почему каждый третий россиянин сталкивается с бьюти-буллингом Лукизм и эйджизм: почему каждый третий россиянин сталкивается с бьюти-буллингом

Как бороться с бьюти-буллингом?

Forbes
Нарушения менструального цикла: их виды и ключевые причины Нарушения менструального цикла: их виды и ключевые причины

Почему возникают проблемы с менструальным циклом и что с этим делать?

Psychologies
«Не думала, что так быстро начну стареть»: 12 примет возраста «Не думала, что так быстро начну стареть»: 12 примет возраста

Как понять, что старость уже пришла?

Psychologies
Сапоги для сапожника Сапоги для сапожника

Вим Ван дер Валк на протяжении многих лет пытается построить себе семейную яхту

Y Magazine
Искусственная кожа, выдерживающая экстремальный холод и убивающая микробов: теперь покров кальмаров могут носить и люди Искусственная кожа, выдерживающая экстремальный холод и убивающая микробов: теперь покров кальмаров могут носить и люди

Искусственная кожа сможет убивать бактерии и грибки

ТехИнсайдер
Надежда и сопричастность: 5 эмоций людей, на которые делают ставку политики Надежда и сопричастность: 5 эмоций людей, на которые делают ставку политики

Какие эмоции становятся мишенью охотников за голосами и народной любовью?

Psychologies
Отличной посадки на Титан, «Стрекоза»! Отличной посадки на Титан, «Стрекоза»!

Посадка на другие планеты — дело весьма непростое

Наука
Лесные соседи Лесные соседи

Едва только март начинает прогревать поля, как в воздухе начинаются брожения

Наука и жизнь
Как образуются песчаные дюны и почему они вообще существуют Как образуются песчаные дюны и почему они вообще существуют

Ученые до сих пор не понимают, от чего зависят формы песчаных дюн

ТехИнсайдер
Историк-медиевист — о продолжительности жизни в Средние века Историк-медиевист — о продолжительности жизни в Средние века

Как средневековый мир относился к юности, старости и всему, что между

РБК
Открыть в приложении