Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как очистить радиатор своими руками: 2 способа – простой и Как очистить радиатор своими руками: 2 способа – простой и

Кондиционер хуже работает, а двигатель подозрительно часто перегревается?

ТехИнсайдер
10 волшебных фото насекомых, какими вы их никогда не видели 10 волшебных фото насекомых, какими вы их никогда не видели

Невероятные снимки необычных насекомых

Вокруг света
Кибербезопасность в бизнесе — игнорировать нельзя использовать Кибербезопасность в бизнесе — игнорировать нельзя использовать

Как кибербезопасность вписывается в общую систему информационной безопасности

Inc.
Коллекция воспоминаний Коллекция воспоминаний

Современный интерьер для любителя искусства от дизайнера Александра Кононенко

SALON-Interior
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Сожалеют ли люди об измене в браке? Кажется, нет! А вы? Сожалеют ли люди об измене в браке? Кажется, нет! А вы?

Неверный своей второй половинке человек выражает мало раскаяния

ТехИнсайдер
Венерианские «грозы» Леонида Ксанфомалити Венерианские «грозы» Леонида Ксанфомалити

Насколько своеобразны инопланетные стихии?

Наука и жизнь
5 самых важных приседаний: как распознать главную болезнь стремительно стареющего мира 5 самых важных приседаний: как распознать главную болезнь стремительно стареющего мира

Благодаря новому онлайн-инструменту можно будет выявлять серьезные заболевания

Вокруг света
Пассивная агрессия в отношениях: 5 основных проявлений Пассивная агрессия в отношениях: 5 основных проявлений

Как понять, что ваш партнер прибегает к пассивной агрессии?

Psychologies
Деменция на подходе: как распознать болезнь — 8 признаков Деменция на подходе: как распознать болезнь — 8 признаков

Как не пропустить деменцию?

Psychologies
Ольга Лапшина: «Обожаю во время работы влюбляться в режиссера» Ольга Лапшина: «Обожаю во время работы влюбляться в режиссера»

Она согласна сыграть даже голос за дверью, если ее зовут друзья...

Караван историй
Жизнь от кутюр: как Валентин Юдашкин стал главным модельером России Жизнь от кутюр: как Валентин Юдашкин стал главным модельером России

Какую роль сыграл Валентин Юдашкин в советско-российской моде

Forbes
Это вам не кино: ученые назвали растение, которое выживет и даст урожай на Марсе Это вам не кино: ученые назвали растение, которое выживет и даст урожай на Марсе

Сценарий выживания, как в фильме «Марсианин», оказался не самым перспективным

Вокруг света
Где берут энергию бактерии подледных озер Антарктиды Где берут энергию бактерии подледных озер Антарктиды

Как в условиях Антарктиды работает углеродный цикл?

ТехИнсайдер
Объясняем необъяснимое: почему синяки появляются на теле без причины? Объясняем необъяснимое: почему синяки появляются на теле без причины?

Появление синяков после сна — распространенное явление. Но каковы причины?

ТехИнсайдер
Коллекционирование, слет каббалистов и дельфинотерапия: как и зачем мы выбираем хобби Коллекционирование, слет каббалистов и дельфинотерапия: как и зачем мы выбираем хобби

Как в нашу жизнь приходят хобби? И почему именно такие? Зачем они нужны?

Psychologies
Яндекс встроил в Алису нейросеть YandexGPT Яндекс встроил в Алису нейросеть YandexGPT

YandexGPT поможет написать что угодно: план тренировки или список подарков

N+1
Поддерживать, но не потакать: как помочь близкому, страдающему зависимостью Поддерживать, но не потакать: как помочь близкому, страдающему зависимостью

Важно четко осознать разницу между поддержкой зависимого человека и потаканием

Psychologies
Спорим, ты не знала, кем был первый мужчина-супермодель — вот как он выглядит сейчас Спорим, ты не знала, кем был первый мужчина-супермодель — вот как он выглядит сейчас

Знакомим тебя с красавцем, которому достался титул первого мужчины-супермодели

VOICE
Любите чипсы? Психолог рассказала, какие чипсы выбирают люди с разными характерами Любите чипсы? Психолог рассказала, какие чипсы выбирают люди с разными характерами

Пачка чипсов может послужить почвой для размышлений о личности

Правила жизни
Недоверие и контроль: 5 нездоровых шаблонов отношений, вызванных детскими травмами Недоверие и контроль: 5 нездоровых шаблонов отношений, вызванных детскими травмами

Типичные сценарии отношений, которые складываются из-за неблагополучия в детстве

Psychologies
Завод под Екатеринбургом и пакгауз в Тюмени: как культурные проекты развивают регионы Завод под Екатеринбургом и пакгауз в Тюмени: как культурные проекты развивают регионы

Наиболее успешные примеры проведения фестивалей, устройства лэнд-арта в регионах

Forbes
Замуж в Эмираты: реальная история о жизни в Дубае, перспективе стать второй женой и отношениях со свекровью Замуж в Эмираты: реальная история о жизни в Дубае, перспективе стать второй женой и отношениях со свекровью

История Азизы — откровение о пестрой ткани жизни в Дубае

Psychologies
С поля на собственную полку С поля на собственную полку

Зачем агропроизводителям нужна своя розница

Агроинвестор
Пережить переезд: как помочь ребенку не забыть родной язык, если вы больше не живете в России Пережить переезд: как помочь ребенку не забыть родной язык, если вы больше не живете в России

Что важнее в другой стране — изучать родной язык или иностранный?

VOICE
«Мне говорили, что снимать таких героев аморально» «Мне говорили, что снимать таких героев аморально»

Алексей Суховей о своем документальном сериале «Сироты»

Weekend
«Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью «Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью

Добро пожаловать в мир Бо!

Psychologies
Сокращение выбросов дихлорметана поможет сохранить озоновый слой над тропиками Сокращение выбросов дихлорметана поможет сохранить озоновый слой над тропиками

Ученые смоделировали влияние галогенсодержащих веществ на озоновый слой

N+1
Сияние чистого ужаса Сияние чистого ужаса

«Любовь и смерть»: третья экранизация невероятно киногеничного убийства топором

Weekend
От прически до духов: что и почему (не) заводит мужчин От прически до духов: что и почему (не) заводит мужчин

Разбираемся в психологической, исторической, духовной природе пристрастий мужчин

Psychologies
Открыть в приложении