OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Виниры, элайнеры, имплантаты – все, что вам надо знать о современной стоматологии Виниры, элайнеры, имплантаты – все, что вам надо знать о современной стоматологии

Разбираемся в секретах ослепительной улыбки вместе со стоматологами

GQ
Нитками вместо красок Нитками вместо красок

Журнал и картины Веры — нежные, чуть наивные, живые — соединились

Seasons of life
Пять лучших экспедиционных внедорожников американского рынка Пять лучших экспедиционных внедорожников американского рынка

Они не только довезут вас туда, куда нужно, но и вполне вероятно вернут обратно

4x4 Club
«Деньги — это не секрет счастья, но они могут немного помочь». Как на самом деле связаны финансовый успех и эмоциональное благополучие «Деньги — это не секрет счастья, но они могут немного помочь». Как на самом деле связаны финансовый успех и эмоциональное благополучие

Как деньги влияют на наше счастье?

Inc.
Беременным нужно заранее гасить свет перед сном! Узнайте, почему ученые дали такой совет Беременным нужно заранее гасить свет перед сном! Узнайте, почему ученые дали такой совет

Как связаны свет и гестационный диабет у беременных?

ТехИнсайдер
Миротворческий работник Миротворческий работник

Марина Алексеева: метаморфозы реальности

Weekend
Траты на буррату: как итальянский сыр из Новомосковска появился в федеральных сетях Траты на буррату: как итальянский сыр из Новомосковска появился в федеральных сетях

Как предприниматели из Тульской области запустили производство итальянских сыров

Forbes
Делаем аватарки с помощью нейросети: какой сервис лучше Делаем аватарки с помощью нейросети: какой сервис лучше

Какая из нейросетей лучше всего подходит для создания аватарки?

CHIP
Если партнер манипулирует чувством вины: 3 шага противодействия Если партнер манипулирует чувством вины: 3 шага противодействия

Что делать, если вы постоянно испытываете чувство вины в паре?

Psychologies
Неожиданный лайфхак из прошлого: что делать, когда хочется в баню, а под боком только русская печь? Неожиданный лайфхак из прошлого: что делать, когда хочется в баню, а под боком только русская печь?

Как мылись в русской печи?

ТехИнсайдер
«В душе я обыватель» «В душе я обыватель»

Петр Тодоровский о своем фильме «Здоровый человек»

Weekend
Как сделать клей из подручных средств: 3 способа, которые точно сработают Как сделать клей из подручных средств: 3 способа, которые точно сработают

Делаем натуральный клей своими руками

ТехИнсайдер
Важнее трендов Важнее трендов

Мануэла Бортоламеолли – как детская игра в ателье привела к созданию бренда

Новый очаг
Праздники дефицита любви: почему мы страдаем 14 февраля и 8 Марта — взгляд психолога Праздники дефицита любви: почему мы страдаем 14 февраля и 8 Марта — взгляд психолога

Как изменить свое негативное отношение к праздникам?

Psychologies
Вызывала матери скорую: трудное детство дочери Курта Кобейна и Кортни Лав Вызывала матери скорую: трудное детство дочери Курта Кобейна и Кортни Лав

Когда ты родилась в семье рокеров, тебя ждут совсем недетские испытания

VOICE
Даниил Хармс Даниил Хармс

Даниил Хармс: писатель, умер в 1942 году

Правила жизни
В игристом настроении В игристом настроении

Брют: в чем отличие этого изысканного напитка от других игристых вин

Лиза
Как бывший гендиректор Microsoft строит новую арену для собственного клуба НБА Как бывший гендиректор Microsoft строит новую арену для собственного клуба НБА

Как Стив Балмер строит для «Лос-Анджелес Клипперс» роскошную спортивную арену

Forbes
Сколько стоит ОСАГО на электромобиль: всё, что нужно знать водителю Сколько стоит ОСАГО на электромобиль: всё, что нужно знать водителю

Застраховать электромобиль дороже или дешевле, чем бензиновый?

ТехИнсайдер
Новые методы анализа «кудрявости» помогут правильно ухаживать за прической Новые методы анализа «кудрявости» помогут правильно ухаживать за прической

Кудрявые волосы очень красивы. Но как же с ними трудно!

ТехИнсайдер
Дмитрий Свиргунов из Cream Soda и другие звезды, жизнь которых унесла вода Дмитрий Свиргунов из Cream Soda и другие звезды, жизнь которых унесла вода

Звездные истории о том, что утонуть можно даже в собственной ванне

VOICE
Ричард Осман: «Выстрел мимо цели» Ричард Осман: «Выстрел мимо цели»

Глава ироничного детектива Ричарда Османа: «Выстрел мимо цели»

СНОБ
Мать Леонардо да Винчи была рабыней, которую похитили на Кавказе и продали в Италию еще подростком Мать Леонардо да Винчи была рабыней, которую похитили на Кавказе и продали в Италию еще подростком

Мать Леонардо да Винчи была подростком, похищенным и порабощенным на Кавказе

ТехИнсайдер
Одна вокруг света: игра в така-така и спасение машины механиком Хосе Одна вокруг света: игра в така-така и спасение машины механиком Хосе

210-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Как IT-сервисы проходят путь от внутреннего инструмента до публичного решения Как IT-сервисы проходят путь от внутреннего инструмента до публичного решения

Как множество компаний создают внутренние инструменты для своих целей

Forbes
Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4 Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Чем хороша новая версия популярного бота от OpenAI GPT-4

Forbes
11 мифов о здоровье 11 мифов о здоровье

Пора уже перестать верить в заблуждения о здоровье

Лиза
Как появилась первая в истории статуя голой женщины Как появилась первая в истории статуя голой женщины

Тема «ню» присутствовала в скульптуре далеко не всегда

Maxim
Энергетическая революция: ученые создают накопители энергии на сверхпроводниках Энергетическая революция: ученые создают накопители энергии на сверхпроводниках

Ученые разрабатывают революционные накопители энергии нового типа

ТехИнсайдер
Невозвращенец Невозвращенец

Один из первых политических эмигрантов Петровской эпохи — Авраам Веселовский

Дилетант
Открыть в приложении