Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

История таинственного проекта Cicada 3301, серии запутанных головоломок, опубликованных в интернете без объяснений История таинственного проекта Cicada 3301, серии запутанных головоломок, опубликованных в интернете без объяснений

Cicada 3301: кто и зачем публиковал эти загадки?

ТехИнсайдер
Покупка подержанной Mazda CX-5 Покупка подержанной Mazda CX-5

Наш нынешний герой – кроссовер Mazda CX-5

4x4 Club
Зарядки, SIM-карты и кнопки: какие технологии в гаджетах могут исчезнуть уже через пару лет Зарядки, SIM-карты и кнопки: какие технологии в гаджетах могут исчезнуть уже через пару лет

О том, какие технологии в гаджетах имеют тенденцию к полному исчезновению

ТехИнсайдер
Противоположности притягиваются? Истории любви непохожих друг на друга людей Противоположности притягиваются? Истории любви непохожих друг на друга людей

Действительно ли очень разные люди могут сблизиться и быть вместе?

Psychologies
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies

Владелец «Гельвеции» — об одной маленькой, но очень активной категории гостей

Правила жизни
В плюсе: как спортсмены-«зимники» заработали больше из-за изоляции В плюсе: как спортсмены-«зимники» заработали больше из-за изоляции

Несмотря на отстранение от турниров, многие спортсмены стали больше зарабатывать

Forbes
Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры

Образованных китайцев с амбициями оказалось больше, чем рабочих мест для них

Forbes
Химики нашли общий метод получения молекулярных ремней с топологией Мебиуса Химики нашли общий метод получения молекулярных ремней с топологией Мебиуса

Химики впервые получили трижды скрученный мебиусовский ремень

N+1
Кому и зачем нужны топливные присадки? Кому и зачем нужны топливные присадки?

Правда ли то, что топливные присадки вредят автомобилям?

4x4 Club
Установить границы и сделать паузу: 9 правил хорошей ссоры — советы психологов Установить границы и сделать паузу: 9 правил хорошей ссоры — советы психологов

Как разобраться с возникшими противоречиями в отношениях?

Psychologies
От Альмодовара до Скорсезе: 10 лучших короткометражных фильмов известных режиссеров От Альмодовара до Скорсезе: 10 лучших короткометражных фильмов известных режиссеров

10 коротких метров мировых режиссеров, которые точно стоит посмотреть

Forbes
«Ты — мой!»: что делать, если вы собственник «Ты — мой!»: что делать, если вы собственник

Как избавиться от собственнического инстинкта и создать доверительные отношения

Psychologies
Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии

Расследование выявило 175 римских монет возрастом 2000 лет

ТехИнсайдер
Высокие цели Высокие цели

13 громких автомобильных покушений XX века

Автопилот
Робость и любовь к людям: в этом секрет успеха пауков Джоро Робость и любовь к людям: в этом секрет успеха пауков Джоро

Паук Джоро может быть самым робким пауком из когда-либо описанных учеными

ТехИнсайдер
Москва-80, фигуристы и «Кармен»: как Зайцев и Юдашкин попали в историю спорта Москва-80, фигуристы и «Кармен»: как Зайцев и Юдашкин попали в историю спорта

Вячеслав Зайцев и Валентин Юдашкин оставили свой след даже в спорте!

Forbes
Что символизируют животные в русских сказках? Что символизируют животные в русских сказках?

Сказки о животных считаются самым древним видом народных сказок

Культура.РФ
Волшебная страна Биармия и викинги: чудеса карело-финских мифов, о которых вы наверняка не слышали Волшебная страна Биармия и викинги: чудеса карело-финских мифов, о которых вы наверняка не слышали

Здесь обитали великаны и амазонки, которые способны были зачать от глотка воды

Вокруг света
Вот почему богатые люди не носят чехлы на телефонах. Интересный факт! Вот почему богатые люди не носят чехлы на телефонах. Интересный факт!

Отказ от чехла для телефона — это, вероятно, последний символ скрытого богатства

ТехИнсайдер
Как ничто стало нечто и почему это так важно? Как ничто стало нечто и почему это так важно?

Изобретение нуля

Наука и жизнь
Ваш партнер пережил психологическую травму: что точно нельзя делать Ваш партнер пережил психологическую травму: что точно нельзя делать

Важно уметь правильно поддержать партнера в трудный период

Psychologies
Как перестать опаздывать? Как перестать опаздывать?

«Синдром опаздывания»: почему он возникает и что с этим делать?

Psychologies
Главные фильмы Канн-2023: новый Скорсезе, драма про Освенцим и дурачества Мишеля Гондри Главные фильмы Канн-2023: новый Скорсезе, драма про Освенцим и дурачества Мишеля Гондри

Главные работы Канн-2023, на которые стоит обратить внимание

Правила жизни
Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать! Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать!

В чем разница между белком из протеиновых добавок и прямых источников?

ТехИнсайдер
Как перестать просыпаться до будильника, и почему это происходит? Интересные факты! Как перестать просыпаться до будильника, и почему это происходит? Интересные факты!

Почему некоторые люди склонны постоянно просыпаться чуть раньше будильника

ТехИнсайдер
Итальянское каприччо Итальянское каприччо

«Каприччо» прослеживаются в линиях силуэта Azimut Grande 36 Metri

Y Magazine
Умерла после тяжелой болезни 28-летняя звезда сериала «Телекинез» Саманта Вайнштейн Умерла после тяжелой болезни 28-летняя звезда сериала «Телекинез» Саманта Вайнштейн

Саманта Вайнштейн ушла из жизни в Торонто

VOICE
Детская травма или избалованность? Как расцветают нарциссы Детская травма или избалованность? Как расцветают нарциссы

Кто эти родители, чье обращение к ребенку влечет за собой нарциссизм?

Psychologies
Чем можно заменить таблетку Чем можно заменить таблетку

7 самых полезных для здоровья продуктов, которые стоит включить в рацион

Лиза
Открыть в приложении