Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Король гремучих змей»: как Кларк Стэнли сколотил состояние на лекарстве, которое оказалось пустышкой «Король гремучих змей»: как Кларк Стэнли сколотил состояние на лекарстве, которое оказалось пустышкой

Масло от всех болезней — история громкой аферы Кларка Стэнли

ТехИнсайдер
Вдвоем за медалью: чем и ради чего рискуют беременные спортсменки, выходя на старт Вдвоем за медалью: чем и ради чего рискуют беременные спортсменки, выходя на старт

Что может заставить беременную спортсменку выступать и чем она рискует?

Forbes
Komatsu показала лунный экскаватор и подводный бульдозер Komatsu показала лунный экскаватор и подводный бульдозер

Подводный электрический робобульдозер и макет лунного беспилотного экскаватора

N+1
Любите чипсы? Психолог рассказала, какие чипсы выбирают люди с разными характерами Любите чипсы? Психолог рассказала, какие чипсы выбирают люди с разными характерами

Пачка чипсов может послужить почвой для размышлений о личности

Правила жизни
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Штаны из тента для палатки: как джинсы за 150 лет превратились из спецовки в самую популярную одежду в мире Штаны из тента для палатки: как джинсы за 150 лет превратились из спецовки в самую популярную одежду в мире

История брюк, без которых невозможно представить современный гардероб

Вокруг света
ТОП-5 многолетников ТОП-5 многолетников

С этими красивыми и неприхотливыми цветами сразу заиграет любой участок

Лиза
Едут, едут по Мукдену наши казаки… Едут, едут по Мукдену наши казаки…

Распространение фотографии сделало портреты эксклюзивными авторскими работами

Дилетант
Ольга Посух Ольга Посух

Ольга Посух мастерски совмещает юмор и науку

Правила жизни
Сияние чистого ужаса Сияние чистого ужаса

«Любовь и смерть»: третья экранизация невероятно киногеничного убийства топором

Weekend
За хлебом тоже можно выходить красиво: как оставаться собранной в любой ситуации - гид от стилиста За хлебом тоже можно выходить красиво: как оставаться собранной в любой ситуации - гид от стилиста

Нет, не только модели выглядят отлично, пока просто гуляют по городу

VOICE
Уйти нельзя остаться: где поставить запятую, если мы только начали терапию Уйти нельзя остаться: где поставить запятую, если мы только начали терапию

Как понять, сколько сессий у психолога достаточно пройти?

Psychologies
Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать! Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать!

В чем разница между белком из протеиновых добавок и прямых источников?

ТехИнсайдер
Мнение Microsoft: вот что больше всего отвлекает на работе и ухудшает продуктивность Мнение Microsoft: вот что больше всего отвлекает на работе и ухудшает продуктивность

Что мешает людям быть эффективными?

ТехИнсайдер
Асия: «Я пока не ощущаю никакой популярности. И не мечтаю о ней» Асия: «Я пока не ощущаю никакой популярности. И не мечтаю о ней»

Асия рассказала, почему побаивается ехать в родной город с концертом

ЖАРА Magazine
Что обозначает категория М в правах и как ее получить. Инструкция Что обозначает категория М в правах и как ее получить. Инструкция

Что означает категория прав М и как ее получить

РБК
В лицах латиноамериканцев разглядели наследие неандертальцев В лицах латиноамериканцев разглядели наследие неандертальцев

Новые данные проекта по поиску участков генома в когорте латиноамериканцев

N+1
Можно ли «отмотать назад» свой возраст? Да, говорят генетики, и вот как стать новым Дорианом Греем Можно ли «отмотать назад» свой возраст? Да, говорят генетики, и вот как стать новым Дорианом Греем

Ученые показали, как повернуть вспять ход собственных биологических часов

Вокруг света
Рога и копыта Рога и копыта

Памятники быкам можно обнаружить по всей планете

Вокруг света
Вам по зубам. Что выбрать — брекеты или элайнеры? Вам по зубам. Что выбрать — брекеты или элайнеры?

Чем отличаются брекеты от элайнеров и в чем плюсы и минусы обоих методов

СНОБ
Скажи мне «да»: как научиться «культуре согласия»? Скажи мне «да»: как научиться «культуре согласия»?

Оказывается, умение сказать «да» дается тоже непросто, особенно женщинам

VOICE
«Собрания мыслепреступников»: уже несколько лет в Нью-Йорке каждый месяц проходят закрытые встречи клуба пострадавших от «культуры отмены» «Собрания мыслепреступников»: уже несколько лет в Нью-Йорке каждый месяц проходят закрытые встречи клуба пострадавших от «культуры отмены»

Что происходит в стенах «Собраний мыслепреступников»?

Правила жизни
Что символизируют животные в русских сказках? Что символизируют животные в русских сказках?

Сказки о животных считаются самым древним видом народных сказок

Культура.РФ
«Я стала более открытой» «Я стала более открытой»

Она принадлежит к тому типу актрис, которые «взрослеют» довольно долго

OK!
Натуральное автохозяйство Натуральное автохозяйство

Импортозамещение, технологический суверенитет и другие актуальные понятия

Автопилот
Московская вилла Московская вилла

Интерьер трёхуровневой квартиры в духе спокойной, интеллигентной классики

SALON-Interior
Соблазняем одним словом: как сделать свой голос привлекательным? Соблазняем одним словом: как сделать свой голос привлекательным?

Что такое привлекательный голос и как сделать свой голос лучше?

VOICE
«Оппенгеймер. Триумф и трагедия американского Прометея» «Оппенгеймер. Триумф и трагедия американского Прометея»

Биография создателя ядерной бомбы

N+1
Ученые покопались в архивах музея и нашли неопознанные останки Ученые покопались в архивах музея и нашли неопознанные останки

Сотрудники музея обнаружили в архивах останки плиозавра

ТехИнсайдер
Выбрать себя: 6 способов поднять самооценку Выбрать себя: 6 способов поднять самооценку

Как определить уровень самооценки и как изменить ситуацию в лучшую сторону?

Правила жизни
Открыть в приложении