Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Палеонтологи впервые идентифицировали череп древнего человека-денисовца Палеонтологи впервые идентифицировали череп древнего человека-денисовца

Как ученые выделили генетический материал из черепа «человека-дракона»

ТехИнсайдер
Маргарита Ронжина: «Одиночка». Дебютный роман о послеродовой депрессии Маргарита Ронжина: «Одиночка». Дебютный роман о послеродовой депрессии

Отрывок из сложного романа о том, как мать-одиночка пытается научиться жить

СНОБ
Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу

Что именно искусственный интеллект делает для бизнеса уже сегодня?

Inc.
6 книг для тех, кто любит историю 6 книг для тех, кто любит историю

Шесть книг, которые помогут лучше разобраться в событиях двух последних столетий

СНОБ
4 ингредиента, которых не должно быть в твоем шампуне: мнение трихологов 4 ингредиента, которых не должно быть в твоем шампуне: мнение трихологов

Ингредиенты в шампунях, которые могут нанести урон здоровью кожи головы

VOICE
Актрисы, которые снимаются в постельных сценах без дублерш Актрисы, которые снимаются в постельных сценах без дублерш

Не каждая звезда готова обнажаться в кадре

Maxim
Перестаньте это делать! Эксперимент показал негативные последствия ночных перекусов Перестаньте это делать! Эксперимент показал негативные последствия ночных перекусов

С помощью небольшого эксперимента ученые доказали вред приема пищи поздно ночью

ТехИнсайдер
Пекинское время Пекинское время

Советские автомобили на выставках в Китае

Автопилот
«Молчи, а то (не) сбудется»: верна ли теория о материализации мыслей? «Молчи, а то (не) сбудется»: верна ли теория о материализации мыслей?

Откуда появляется убеждение, что если произнести вслух опасения, то оно сбудется

Psychologies
Зависть — это бомба замедленного действия. Что делать, если вы завидуете другим Зависть — это бомба замедленного действия. Что делать, если вы завидуете другим

Что такое зависть, как с ней обходиться и использовать ее энергию во благо

Psychologies
«Старость в радость» и «Память поколений»: кто помогает ветеранам и пожилым людям «Старость в радость» и «Память поколений»: кто помогает ветеранам и пожилым людям

Фонды и полезные инициативы, которые помогают ветеранам и пожилым людям

Forbes
Экспериментальный препарат защитил мозг мышей от ВИЧ-инфекции Экспериментальный препарат защитил мозг мышей от ВИЧ-инфекции

Молекула преодолела гематоэнцефалический барьер

N+1
Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии

Расследование выявило 175 римских монет возрастом 2000 лет

ТехИнсайдер
Почему футболисты получают так много денег? Почему футболисты получают так много денег?

Почему футболисты так много зарабатывают? Объяснение от банка Великобритании

Maxim
Вставай с дивана! Гиподинамия: причины малоподвижного образа жизни и его последствия Вставай с дивана! Гиподинамия: причины малоподвижного образа жизни и его последствия

Аристотель сказал: «Движение – это жизнь, а жизнь – это движение!»

Лиза
Другая вода и почти нет кислорода: чем манит ученых «голубая дыра» глубиной 274 м на дне океана? Другая вода и почти нет кислорода: чем манит ученых «голубая дыра» глубиной 274 м на дне океана?

Содержимое этого гигантского конуса расскажет о древней Земле

Вокруг света
Максимум динамики и комфорта Максимум динамики и комфорта

Перед boot Düsseldorf в разных источниках фигурировал Beneteau Gran Turismo 36

Y Magazine
Какая поза для сна «самая полезная» Какая поза для сна «самая полезная»

Ваша поза во сне может повлиять на его качество, а также на ваше самочувствие

ТехИнсайдер
Не дай взять себя в клещи Не дай взять себя в клещи

Резкое потепление привело к раннему пробуждению клещей. Как себя обезопасить?

Лиза
Вернусь другой Вернусь другой

Ретрит пафосно называют «путешествием к себе». Что это такое на самом деле?

Новый очаг
«Русское дворянство времен Александра I» «Русское дворянство времен Александра I»

Какими были отношения царя и правящего класса империи

N+1
Австралийские муравьи притворились мертвыми всей колонией Австралийские муравьи притворились мертвыми всей колонией

Зоологи обнаружили муравьев, которые притворяются мертвыми всей колонией

N+1
Ваш курьер уже в пути! Как дроны доставляют грузы в места, где нет дорог? Ваш курьер уже в пути! Как дроны доставляют грузы в места, где нет дорог?

Беспилотники, доставляющие грузы без дорог – по воздуху

ТехИнсайдер
Зачем вам нужна «психическая броня», и что это такое: стоит узнать! Зачем вам нужна «психическая броня», и что это такое: стоит узнать!

Мы можем подготовиться, чтобы более эффективно справляться с трудностями в жизни

ТехИнсайдер
Все из детства Все из детства

6 установок, которые программируют нас на болезни с ранних лет

Лиза
Когда спреи не помогли: 7 простых шагов, как снять зуд от укуса комара в домашних условиях Когда спреи не помогли: 7 простых шагов, как снять зуд от укуса комара в домашних условиях

Как избавиться от последствий комариного укуса?

ТехИнсайдер
Они дома: почему спортсмены не спешат уходить из ЦСКА ради Олимпиады Они дома: почему спортсмены не спешат уходить из ЦСКА ради Олимпиады

Почему атлеты самовольно отказываются от международной карьеры

Forbes
Изменив направление мозговых волн, ученые смогли вылечить даже тяжелую депрессию Изменив направление мозговых волн, ученые смогли вылечить даже тяжелую депрессию

Ученые открыли основной биологический механизм тяжелой депрессии

ТехИнсайдер
Человек и животные страдают от несчастий пережитых в детстве. Но только не гориллы Человек и животные страдают от несчастий пережитых в детстве. Но только не гориллы

Что помогает гориллам справиться с детскими бедами?

ТехИнсайдер
«Шовинизм повсеместен» «Шовинизм повсеместен»

Евгений Сангаджиев о своем сериале «Балет»

Weekend
Открыть в приложении