Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как понять, что пора заменить бутылку для воды Как понять, что пора заменить бутылку для воды

О признаках того, что пришло время сменить вашу бутылку для воды

ТехИнсайдер
Почему негативные эмоции и поступки невозможно скрыть — ни от себя, ни от окружающих Почему негативные эмоции и поступки невозможно скрыть — ни от себя, ни от окружающих

Люди в большинстве своем считывают то, как мы относимся к ним

Psychologies
Что сильнее губит экологию: электрокары или двигатели внутреннего сгорания Что сильнее губит экологию: электрокары или двигатели внутреннего сгорания

С ростом популярности электромобилей появляются сомнения насчет их экологичности

Maxim
Чипам готовят смену уклада Чипам готовят смену уклада

Скачок в развитии полупроводниковой индустрии связывают с ростом конкуренции

Эксперт
Думай как миллионер Думай как миллионер

17 уроков состоятельности для тех, кто готов разбогатеть

kiozk originals
Механизм подражания vs желание выделиться: гештальт-терапевт о том, зачем нам нужна мода Механизм подражания vs желание выделиться: гештальт-терапевт о том, зачем нам нужна мода

Почему мода так важна для некоторых из нас?

Psychologies
Враг рабства, исследователь Африки и «певец» британской исключительности: как вошел в историю Давид Ливингстон Враг рабства, исследователь Африки и «певец» британской исключительности: как вошел в историю Давид Ливингстон

Кто такой и чем прославился Давид Ливингстон

Вокруг света
Иван Добронравов: «Я рад, что в моем окружении немало людей, которые могут сказать неприятную правду» Иван Добронравов: «Я рад, что в моем окружении немало людей, которые могут сказать неприятную правду»

Иван Добронравов рассказал о сложностях съемок в сериале «Вика-ураган»

VOICE
Что нужно знать о легендарном фотографе Ричарде Аведоне Что нужно знать о легендарном фотографе Ричарде Аведоне

Показываем знаковые работы модного фотографа Ричарда Аведоне

Правила жизни
Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры

Образованных китайцев с амбициями оказалось больше, чем рабочих мест для них

Forbes
Show must go on Show must go on

У Ивана Чуйкова сбылась главная мечта — у него наконец-то есть свое шоу!

OK!
Мобилизация по-екатеринински Мобилизация по-екатеринински

Как беспрецедентный рекрутский набор помог России в войне с Турцией

Дилетант
Гимн одуванчику! Гимн одуванчику!

Одуванчик врачует душу, ведь он — замечательный символ весны!

Наука и жизнь
Вопрос-ответ Вопрос-ответ

Откуда взялась Луна, заразен ли рак и другие вопросы

Вокруг света
Сбой в матрице: эти современные звезды являются точной копией икон старого Голливуда – и как мы не замечали! Сбой в матрице: эти современные звезды являются точной копией икон старого Голливуда – и как мы не замечали!

Некоторые звезды выглядят словно близнецы знаменитостей из прошлого!

VOICE
«Напишите свой некролог»: Баффет дал советы инвесторам на ежегодном съезде Berkshire «Напишите свой некролог»: Баффет дал советы инвесторам на ежегодном съезде Berkshire

Уоррен Баффет — о том, как жить и тратить деньги с пользой

Forbes
Плоды кооперации Плоды кооперации

Финская лодка XO EXPLR 10 Sport на стенде британской компании Arksen

Y Magazine
Наташа Темежникова (North x Carolina) Наташа Темежникова (North x Carolina)

Наташа Темежникова сочетает любовь к андерграунду и интерес к поп-культуре

Правила жизни
Как помочь пожилым родителям найти себя на пенсии: чем их занять и как поддержать Как помочь пожилым родителям найти себя на пенсии: чем их занять и как поддержать

Как ухаживать за родителями, чтобы опека не превращалась в тиранию?

Psychologies
Физические наказания вредят здоровью и воспитанию детей: 7 научных доказательств Физические наказания вредят здоровью и воспитанию детей: 7 научных доказательств

Физическое насилие вредит детям, они хуже учатся, испытывают хронический стресс

Forbes
Время отдыха Время отдыха

11 ритуалов, которые помогут прийти в себя после рабочего дня

Лиза
«Окно Джохари» и еще 10 способов раскрыть свои таланты «Окно Джохари» и еще 10 способов раскрыть свои таланты

Предлагаем вам провести блиц-самоанализ и узнать о своих талантах

Psychologies
Светлый праздник Светлый праздник

48 блюд, муха на тарелке и другие традиции празднования Пасхи

Лиза
Ford Bronco 1974 года с двигателем V8 – юбилейный автомобиль Icon Ford Bronco 1974 года с двигателем V8 – юбилейный автомобиль Icon

Ford Bronco 1974 сочетает в себе всё лучшее, что было и появилось в Bronco

4x4 Club
17 cамых смешных комедийных сериалов 2010–2023 годов 17 cамых смешных комедийных сериалов 2010–2023 годов

Если какая-то из данных комедий не рассмешит, это не повод впадать в отчаяние

Maxim
Секс втроем: как мужчины и женщины относятся к популярной фантазии — ответ психоаналитика Секс втроем: как мужчины и женщины относятся к популярной фантазии — ответ психоаналитика

Правда ли только мужчины мечтают попробовать удовлетворить сразу двух партнеров?

Psychologies
Евгений Плющенко: чемпионство с винтами в спине Евгений Плющенко: чемпионство с винтами в спине

История о риске всем ради спортивного успеха

Maxim
Поразительные истории из дореволюционной России: как водка стала атрибутом престижа Поразительные истории из дореволюционной России: как водка стала атрибутом престижа

Глава из книги «Поп Гапон и японские винтовки» — о жизни в России начала XX века

Forbes
На Хонсю обнаружили древнейших в Японии кур На Хонсю обнаружили древнейших в Японии кур

Археологи обнаружили на доисторическом поселении останки древних птиц

N+1
Право на риск: с чем сталкиваются стартапы в российских судах Право на риск: с чем сталкиваются стартапы в российских судах

Риск является одним из признаков предпринимательской деятельности

Forbes
Открыть в приложении