OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вагон наличных Вагон наличных

Физик из России заработал $90 млн на азиатских заемщиках

Forbes
4 правила первого свидания, которыми нельзя пренебрегать 4 правила первого свидания, которыми нельзя пренебрегать

Как организовать свидание так, чтобы оно не стало последним?

Psychologies
Сибирская язва. Что нужно знать об инфекции Сибирская язва. Что нужно знать об инфекции

Как проявляется сибирская язва и как инфекцию использовали в качестве оружия.

СНОБ
Как понять, хороший ли коньяк Как понять, хороший ли коньяк

Мир коньяка велик и многообразен

Maxim
Актер Сергей Гилев о сериале «Актрисы», продолжении съемок «Этерны» и любви к книгам Лимонова Актер Сергей Гилев о сериале «Актрисы», продолжении съемок «Этерны» и любви к книгам Лимонова

Сергей Гилев — о дружбе с Анной Чиповской и любви к книгам Эдуарда Лимонова

СНОБ
Сексуализированное насилие: как защитить ребенка — советы психолога Сексуализированное насилие: как защитить ребенка — советы психолога

Сексуализированное насилие в отношении детей может проявляться по-разному

Psychologies
Вопрос на засыпку: почему кислород назвали кислородом, если он не кислый? Вопрос на засыпку: почему кислород назвали кислородом, если он не кислый?

Почему кислород безвкусный?

ТехИнсайдер
Компьютеры будут работать на человеческих клетках? Технологии будущего! Компьютеры будут работать на человеческих клетках? Технологии будущего!

Вы поразитесь тому, как будут устроены биокомпьютеры будущего!

ТехИнсайдер
Не только перевал Дятлова: загадочные экспедиции, которые закончились пропажей людей Не только перевал Дятлова: загадочные экспедиции, которые закончились пропажей людей

Истории исследователей, которые пропали без вести в ходе научных экспедиций

ТехИнсайдер
Газлайтинг на работе: как распознать и защититься Газлайтинг на работе: как распознать и защититься

Что такое газлайтинг на рабочем месте? Разбираемся на примерах с экспертом

Psychologies
7 привычек, которые сохранят здоровье глаз 7 привычек, которые сохранят здоровье глаз

Повседневные привычки влияют на наши глаза гораздо сильнее, чем вы думаете

Новый очаг
Артериальное давление Артериальное давление

Что влияет на давление у здорового человека и можно ли его регулировать?

Здоровье
«Достаточно хорошая мать»: как Дональд Вудс Винникотт научил нас не волноваться и любить родительство — 4 главные идеи «Достаточно хорошая мать»: как Дональд Вудс Винникотт научил нас не волноваться и любить родительство — 4 главные идеи

Как педиатр убедил людей в том, они и так способны дать детям все необходимое?

Psychologies
Когда в России начали отмечать 14 февраля? Когда в России начали отмечать 14 февраля?

Как в России отмечали 14 февраля?

Культура.РФ
Лунная пыль. Как космическая разработка может остановить изменение климата на Земле Лунная пыль. Как космическая разработка может остановить изменение климата на Земле

Какие еще технологии применяют для того, чтобы охладить планету

СНОБ
Лёгкое дыхание Лёгкое дыхание

Лаконичный интерьер, в котором дизайнеры оживили акцентами каждую зону

Идеи Вашего Дома
Тайна мустатилов: в арабской пустыне нашли святилище со следами загадочного жертвоприношения Тайна мустатилов: в арабской пустыне нашли святилище со следами загадочного жертвоприношения

Зачем древние строители возвели сотни больших каменных сооружений в пустынях?

ТехИнсайдер
Зов далеких островов Зов далеких островов

Дальний Восток России — регион с обилием уникальных природных ландшафтов

Y Magazine
Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске

Андрей Малахов поддерживал связь с Жанной Фриске до самой ее смерти

VOICE
Плюсы и минусы самостоятельного ремонта ваших гаджетов Плюсы и минусы самостоятельного ремонта ваших гаджетов

Следует ли вам починить свой треснувший экран самостоятельно?

ТехИнсайдер
Европейские диктаторы, средневековые ученые и универсальные люди: 6 книг, которые помогут погрузиться в историю Европейские диктаторы, средневековые ученые и универсальные люди: 6 книг, которые помогут погрузиться в историю

Как обычно заканчиваются диктаторские режимы?

ТехИнсайдер
Как одеться на собеседование, чтобы тебя сразу взяли на работу Как одеться на собеседование, чтобы тебя сразу взяли на работу

Как подобрать костюм на собеседование?

Maxim
Оказывается, красотки: как выглядели в молодости актрисы, которых мы знаем только по ролям бабушек Оказывается, красотки: как выглядели в молодости актрисы, которых мы знаем только по ролям бабушек

Как выглядели в молодости актрисы, которых мы знаем только по ролям бабушек?

VOICE
За стеклом За стеклом

7 секретов макияжа для тех, кто носит очки

Лиза
У них всё серьёзно У них всё серьёзно

Как говорить с детьми о любви

Новый очаг
Кодекс ухода за лицом для женщин 50+: запомни эти 8 простых правил Кодекс ухода за лицом для женщин 50+: запомни эти 8 простых правил

Простая формула ухода за зрелой кожей, которая поможет повернуть время вспять

VOICE
Любить нельзя стесняться Любить нельзя стесняться

Почему любовь к себе – большой ресурс в отношениях с другими?

Новый очаг
«Три мушкетера» и один бутафор «Три мушкетера» и один бутафор

Как англичанин Билл Томас экранизировал классический французский роман

Weekend
Галерист Алина Крюкова — об арт-лифте, переменах и языках коммуникации Галерист Алина Крюкова — об арт-лифте, переменах и языках коммуникации

Алина Крюкова о планах и свершениях, переменах, произошедших с арт-рынком

РБК
Покупка подержанного Hyundai Santa Fe III (2012-2018) Покупка подержанного Hyundai Santa Fe III (2012-2018)

У подержанного Hyundai Santa Fe третьего поколения почти нет проблем

4x4 Club
Открыть в приложении