Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Охотник за бактериями: как Роберт Кох обнаружил возбудителей сибирской язвы, туберкулеза и холеры Охотник за бактериями: как Роберт Кох обнаружил возбудителей сибирской язвы, туберкулеза и холеры

Роберт Кох первым обнаружил, что виной холере были маленькие бактерии...

ТехИнсайдер
Почему Анды такие высокие? Ученые заглянули внутрь Земли, чтобы ответить, и вот что они выяснили Почему Анды такие высокие? Ученые заглянули внутрь Земли, чтобы ответить, и вот что они выяснили

Узнать, как растут горы, мы можем благодаря науке

Вокруг света
Имитирующий мышцы спины экзоскелет снизит нагрузку на позвоночник при поднятии тяжестей Имитирующий мышцы спины экзоскелет снизит нагрузку на позвоночник при поднятии тяжестей

Инженеры разработали экзоскелет, предназначенный для снижения риска травм спины

N+1
Возраст олдувайских артефактов из Алжира оценили примерно в 1,77 миллиона лет Возраст олдувайских артефактов из Алжира оценили примерно в 1,77 миллиона лет

Ученые датировали находки из памятника Айн-Ханех

N+1
Зайдя в эту комнату, через 15 минут вы сойдете с ума. Рассказываем про самую тихую комнату в мире Зайдя в эту комнату, через 15 минут вы сойдете с ума. Рассказываем про самую тихую комнату в мире

В чем секрет самого тихого помещения в мире?

ТехИнсайдер
«Я стала ее злейшим врагом»: Анастасия Волочкова обиделась на дочь, которая запретила звезде появляться на выпускном «Я стала ее злейшим врагом»: Анастасия Волочкова обиделась на дочь, которая запретила звезде появляться на выпускном

Ариадна Волочкова удивила мать

VOICE
Михельсон и газы: история превращений Михельсон и газы: история превращений

Леонид Михельсон успешно развил два направления монетизации углеводородов

Эксперт
Только для своих: как и почему изменилось восприятие дома Только для своих: как и почему изменилось восприятие дома

Что на самом деле говорят о нас тенденции в обустройстве дома?

Psychologies
С поля на собственную полку С поля на собственную полку

Зачем агропроизводителям нужна своя розница

Агроинвестор
Связь не без границ: как операторы компенсируют свои затраты за счет абонентов Связь не без границ: как операторы компенсируют свои затраты за счет абонентов

Участники рынка мобильной связи перекладывают часть затрат на абонентов

Forbes
Лучший попутчик. Правила путешествия с собакой Лучший попутчик. Правила путешествия с собакой

Для собаки путешествие – это новый мир!

4x4 Club
7 приложений для учета расходов и доходов и планирования бюджета 7 приложений для учета расходов и доходов и планирования бюджета

Не понимаете, куда уходят деньги? Эти мобильные приложения для вас

CHIP
Японские машины JDM: что это за феномен и откуда он взялся Японские машины JDM: что это за феномен и откуда он взялся

JDM-машины — это легковые автомобили, производившиеся в Японии в 1990-х годах

РБК
Любовь тут ни при чем Любовь тут ни при чем

Что такое «синдром разбитого сердца» и чем он опасен

Лиза
Нью-Йорк уходит под воду! Вот что нужно знать о будущем знаменитого города Нью-Йорк уходит под воду! Вот что нужно знать о будущем знаменитого города

Нью-Йорк буквально тонет, — и все из-за его небоскребов

ТехИнсайдер
История сухого закона в СССР История сухого закона в СССР

Борьба с пьянством началась задолго до горбачевской антиалкогольной кампании

Maxim
PandaX не нашла электромагнитно взаимодействующую темную материю PandaX не нашла электромагнитно взаимодействующую темную материю

Для поиска темной материи физики упрятали четыре тонны жидкого ксенона под гору

N+1
Странная история: как 62 ребенка в Зимбабве увидели инопланетян. Поразительно! Странная история: как 62 ребенка в Зимбабве увидели инопланетян. Поразительно!

"Феномен Ариэля" произошел в сентябре 1994 года

ТехИнсайдер
Дело вкуса: как формируются и почему меняются предпочтения в еде — объяснение нутрициолога Дело вкуса: как формируются и почему меняются предпочтения в еде — объяснение нутрициолога

Вкусовые предпочтения меняются со временем. Но с чем это может быть связано?

Psychologies
Он усадил ее тело на заднее сиденье автомобиля и отвез в Пубол: безумная любовь Сальвадора Дали к русской эмигрантке Он усадил ее тело на заднее сиденье автомобиля и отвез в Пубол: безумная любовь Сальвадора Дали к русской эмигрантке

Несмотря на непримечательную внешность, Елена Дьяконова, Гала, производила фурор

ТехИнсайдер
Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион

Почему ДНК людей за короткий эволюционный промежуток времени вдруг изменилась?

ТехИнсайдер
«Мир, дружба, жвачка»: 5 разновидностей дружеских отношений «Мир, дружба, жвачка»: 5 разновидностей дружеских отношений

Рассмотрим несколько видов дружбы и посмотрим на их характерные черты и отличия

Psychologies
Когда спреи не помогли: 7 простых шагов, как снять зуд от укуса комара в домашних условиях Когда спреи не помогли: 7 простых шагов, как снять зуд от укуса комара в домашних условиях

Как избавиться от последствий комариного укуса?

ТехИнсайдер
Как в России появились первые покровители художников и возникла мода на меценатство Как в России появились первые покровители художников и возникла мода на меценатство

Меценаты, которые оставили своим потомкам внушительное наследство

СНОБ
Генетики обнаружили древнейших зараженных чумой в Британии Генетики обнаружили древнейших зараженных чумой в Британии

ДНК бактерий нашли в зубах трех человек, живших около четырех тысяч лет назад

N+1
«Стань свободным от чужого мнения и делай то, что хочется» «Стань свободным от чужого мнения и делай то, что хочется»

Как понять, зависите ли вы от мнения окружающих?

Psychologies
Отказ от «механики» и личное шоссе. Тина Тёрнер и любовь к машинам Отказ от «механики» и личное шоссе. Тина Тёрнер и любовь к машинам

Главные факты «автомобильной» биографии артистки Тины Тёрнер

РБК
Зонотрихии отключили чувствительные к магнитному полю нейроны на время отдыха в период миграции Зонотрихии отключили чувствительные к магнитному полю нейроны на время отдыха в период миграции

Нейроны птиц, реагирующие на магнитное поле, активны только во время миграции

N+1
За хлебом тоже можно выходить красиво: как оставаться собранной в любой ситуации - гид от стилиста За хлебом тоже можно выходить красиво: как оставаться собранной в любой ситуации - гид от стилиста

Нет, не только модели выглядят отлично, пока просто гуляют по городу

VOICE
Алексей Горбут Алексей Горбут

Горбут — знаток, последователь и апологет золотого века американских комиксов

Правила жизни
Открыть в приложении