Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью

Ученые пытаются определить, где и сколько льда находится на Луне

ТехИнсайдер
Анализ скопившегося за 2200 лет гуано указал на смену рациона андских кондоров Анализ скопившегося за 2200 лет гуано указал на смену рациона андских кондоров

Ученые реконструировали историю андских кондоров

N+1
На шаг ближе к колонизации: как искусственный интеллект помогает NASA изучать Марс На шаг ближе к колонизации: как искусственный интеллект помогает NASA изучать Марс

О том, как ИИ помогает исследовать Марс, и приведет ли он нас к прорыву

ТехИнсайдер
Травмпункт на дому. Порезы, ушибы и прочие детские неприятности Травмпункт на дому. Порезы, ушибы и прочие детские неприятности

Если травма произошла, постарайся свести ее последствия к минимуму

Лиза
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Две звезды, пожирающие друг друга, скоро превратятся в черные дыры и столкнутся: удивительное открытие Две звезды, пожирающие друг друга, скоро превратятся в черные дыры и столкнутся: удивительное открытие

Эти две звезды поглотят друг друга и создадут рябь в пространстве и времени

ТехИнсайдер
Спасательный круг Спасательный круг

Как оформить кредитные каникулы в 2023 году – пошаговая инструкция

Лиза
Как родители-манипуляторы мешают самореализации выросших детей Как родители-манипуляторы мешают самореализации выросших детей

Как суметь помочь себе и перестать вестись на детские паттерны поведения?

Psychologies
Как наладить аллергический фон: какие продукты исключить, а какие — добавить Как наладить аллергический фон: какие продукты исключить, а какие — добавить

Как ослабить симптомы аллергии, а то и вовсе свести на нет?

Psychologies
Поэзия аморального беспокойства Поэзия аморального беспокойства

Чем помогает молодая запальчивость в рассыпающееся время

Weekend
Кто проживает на дне океана: странные фанатские теории о Губке Бобе Кто проживает на дне океана: странные фанатские теории о Губке Бобе

Собрали несколько забавных (и не очень) фанатских теорий о Губке Бобе

Правила жизни
Молодое поколение этого не знает! Вот как Битлз изменили мир музыки Молодое поколение этого не знает! Вот как Битлз изменили мир музыки

Как Битлз завоевали сердца не только слушательниц, но и аудиофилов

ТехИнсайдер
Как вывести пятно от красного вина с чего угодно: полный гайд Как вывести пятно от красного вина с чего угодно: полный гайд

Полный гайд, который поможет быстро удалить вино с любой поверхности

ТехИнсайдер
Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии

Расследование выявило 175 римских монет возрастом 2000 лет

ТехИнсайдер
В доме мечты В доме мечты

Пространство на стыке классических традиций, современности и любви к искусству

SALON-Interior
В Синьцзяне нашли одно из древнейших в мире верховых седел В Синьцзяне нашли одно из древнейших в мире верховых седел

Это седло лежало на тазовых костях женщины, жившей в I тысячелетии до н. э.

N+1
Жизнь сов: почему мы любим ночь Жизнь сов: почему мы любим ночь

Чем привлекает нас романтика темного времени суток?

Psychologies
Гегемон пришел: как «Зенит» превратился в самый успешный клуб России Гегемон пришел: как «Зенит» превратился в самый успешный клуб России

История превращения «Зенита» из команды второй лиги в гегемона элитной лиги

Forbes
«Бремя современности»: почему общество считает поведенческие зависимости опасными «Бремя современности»: почему общество считает поведенческие зависимости опасными

Почему стигматизация мешает людям с зависимостью справиться с ней

Forbes
13 неочевидных правил успешного человека: проверьте себя 13 неочевидных правил успешного человека: проверьте себя

Как еще можно определить, что вы уже вполне успешный человек?

Maxim
Что происходит с телом, когда мы пропускаем приемы пищи Что происходит с телом, когда мы пропускаем приемы пищи

Как организм реагирует на пропущенный прием пищи психически и физически

ТехИнсайдер
Неприкосновенный запас Неприкосновенный запас

История тушенки и сгущенки насчитывает чуть более двух веков

Вокруг света
«Я стала более открытой» «Я стала более открытой»

Она принадлежит к тому типу актрис, которые «взрослеют» довольно долго

OK!
Пицца пойдет на пользу: 5 лайфхаков итальянок для красоты и здоровья Пицца пойдет на пользу: 5 лайфхаков итальянок для красоты и здоровья

Можно ли постоянно есть пасту, мороженое и сыр и оставаться подтянутой?

VOICE
Лидия Юкнавич: «Потрясение». Из моря в небо и обратно Лидия Юкнавич: «Потрясение». Из моря в небо и обратно

Отрывок из впечатляющего и возмущающего романа Лидии Юкнавич «Потрясение»

СНОБ
Не только авокадо: 5 продуктов, которые гарантированно снизят холестерин Не только авокадо: 5 продуктов, которые гарантированно снизят холестерин

Что нужно есть для того, чтобы контролировать холестерин в крови

Psychologies
Что может разрушить отношения: 8 сигналов опасности — проверьте себя Что может разрушить отношения: 8 сигналов опасности — проверьте себя

Есть красные флажки, которые могут указывать на недолговечность союза

Psychologies
Пахнет мокрой шерстью в квартире? Научитесь правильно мыть свою собаку, чтобы от нее не пахло Пахнет мокрой шерстью в квартире? Научитесь правильно мыть свою собаку, чтобы от нее не пахло

Почему после водных процедур от вашего питомца пахнет "псиной"?

ТехИнсайдер
Можно ли использовать ИИ в медицине и здравоохранении? Пока — нет Можно ли использовать ИИ в медицине и здравоохранении? Пока — нет

Комплексная этическая основа для использования ИИ в здравоохранении и медицине

ТехИнсайдер
Медленно, но верно Медленно, но верно

Как определить, что ты слишком усердно занимаешься фитнесом

Лиза
Открыть в приложении