OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

4 самых полезных продукта русской кухни 4 самых полезных продукта русской кухни

Солянка, разносолы, творог и каши: русские блюда, полезные для здоровья

Maxim
Смола и цветы Смола и цветы

История любви к хобби, которое стало профессией

Новый очаг
Выражайте благодарность и находите компромиссы: как сохранить страсть в долгом браке — 11 советов коуча Выражайте благодарность и находите компромиссы: как сохранить страсть в долгом браке — 11 советов коуча

Что делать, если сказочное продолжение совместной жизни никак не складывается?

Psychologies
Как в мире борются с незаконным выловом кальмара Как в мире борются с незаконным выловом кальмара

Чем незаконный вылов грозит кальмарам?

СНОБ
Золотой век тирании: как прогрессивная демократия на Филиппинах стала диктатурой Золотой век тирании: как прогрессивная демократия на Филиппинах стала диктатурой

Фердинанд Маркос — один из самых расчетливых азиатских диктаторов XX века

Forbes
7 моментов в ужастиках, где видно халтурные спецэффекты 7 моментов в ужастиках, где видно халтурные спецэффекты

Проматывай эти сцены, чтобы не рассмеяться!

Maxim
10 женщин, возглавляющих IT-подразделения в крупнейших международных компаниях 10 женщин, возглавляющих IT-подразделения в крупнейших международных компаниях

Список самых перспективных директоров по информационным технологиям

Forbes
Александр Аузан — Forbes: «Страна потеряла главный козырь» Александр Аузан — Forbes: «Страна потеряла главный козырь»

Как остановить утечку мозгов?

Forbes
Сладкая наука Сладкая наука

Наука бокса заключается не только в том, чтобы быстро двигаться и наносить удары

Вокруг света
Переключаемся на весну Переключаемся на весну

В начале весны многие из нас переживают ощущения Спящей красавицы

Лиза
В Британии домашних питомцев, вероятно, начнут генетически модифицировать В Британии домашних питомцев, вероятно, начнут генетически модифицировать

Новый закон позволит создавать кошек и собак с "экстремальными особенностями"

ТехИнсайдер
«Пора остепениться»: правда ли мы становимся интровертами с возрастом — новые доказательства «Пора остепениться»: правда ли мы становимся интровертами с возрастом — новые доказательства

Многие замечают, что со временем все больше погружаются в себя. Почему так?

Psychologies
Эффекты психоделиков связали с сугубо человеческими функциями мозга Эффекты психоделиков связали с сугубо человеческими функциями мозга

Как психоделики влияют на человеческий мозг?

N+1
Почему жестокий партнер вдруг изменился: 3 причины — не поддавайтесь манипуляции Почему жестокий партнер вдруг изменился: 3 причины — не поддавайтесь манипуляции

Партнер неожиданно сменил гнев на милость?

Psychologies
Эксперт рассказал, как гладить кота, чтобы он не злился на вас Эксперт рассказал, как гладить кота, чтобы он не злился на вас

Забавный факт: вашей кошке, вероятно, не нравится, как вы ее гладите

ТехИнсайдер
Одна вокруг света: игра в така-така и спасение машины механиком Хосе Одна вокруг света: игра в така-така и спасение машины механиком Хосе

210-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Синдром Альцгеймера может сначала проявиться в глазах. Вы поразитесь! Синдром Альцгеймера может сначала проявиться в глазах. Вы поразитесь!

Первые симптомы синдрома Альцгеймера будут буквально видны в органах зрения

ТехИнсайдер
Мягкая сила Мягкая сила

Выдающаяся оперная прима, покорившая лучшие сцены мира — Хибла Герзмава

OK!
Советский православный Ватикан Советский православный Ватикан

На заре Холодной войны в СССР пытались создать церковный «Варшавский договор»

Weekend
Так говорил Жванецкий: 12 мудростей Так говорил Жванецкий: 12 мудростей

Вспоминаем сатирика Михаила Жванецкого в день его рождения

Psychologies
Юаневые бонды Юаневые бонды

Каковы риски облигаций, номинированных в китайской валюте

Деньги
Неудобное право: что происходит с доступом к абортам в России Неудобное право: что происходит с доступом к абортам в России

Чем может грозить запрет абортов в России?

Forbes
Ребенок блогера-сыроеда Максима Лютого умер от истощения. Почему люди «экспериментируют» на детях? Ребенок блогера-сыроеда Максима Лютого умер от истощения. Почему люди «экспериментируют» на детях?

Почему родители навязывают детям свой взгляд на питание?

Psychologies
Полезные и вредные молекулы: как витамины и лекарства влияют на наше состояние Полезные и вредные молекулы: как витамины и лекарства влияют на наше состояние

Жизнь человека способна изменить одна молекула

Inc.
Быть в фокусе Быть в фокусе

6 первых признаков снижения зрения

Лиза
Как предотвратить старость и не стать обузой для близких: 3 простых совета Бубновского Как предотвратить старость и не стать обузой для близких: 3 простых совета Бубновского

Как оставаться активной в любом возрасте?

VOICE
Константы и переменные Константы и переменные

Какую физику использует BioShock Infinite

N+1
Аллергия на работу Аллергия на работу

Вызвать приступ аллергии может даже неприятный человек и работа!

Лиза
Черепаха мата-мата, нанохамелеон, шоколадная лягушка из Гарри Поттера и еще 7 новых видов, обнаруженных недавно Черепаха мата-мата, нанохамелеон, шоколадная лягушка из Гарри Поттера и еще 7 новых видов, обнаруженных недавно

Новые удивительные виды животных, которых вы не могли даже представить

ТехИнсайдер
«Советская повседневность» «Советская повседневность»

Отрывок из книги «Советская повседневность: нормы и аномалии»

N+1
Открыть в приложении