GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Облака над сушей уменьшили нисходящее длинноволновое излучение Облака над сушей уменьшили нисходящее длинноволновое излучение

Еще один природный механизм, противостоящий потеплению

N+1
«Товарищ» Омарова. Как уроженка СССР Сауле Омарова чуть не стала финансовым контролером США «Товарищ» Омарова. Как уроженка СССР Сауле Омарова чуть не стала финансовым контролером США

Сауле Омарова отказалась от борьбы за пост финансового контролера США

СНОБ
Здоров ли сайт: как провести аудит самостоятельно и когда привлекать специалистов Здоров ли сайт: как провести аудит самостоятельно и когда привлекать специалистов

Как самостоятельно выявить слабые места сайта?

Inc.
Почему «беспощадный художник» Серов отказался писать портреты царской семьи Почему «беспощадный художник» Серов отказался писать портреты царской семьи

Серова называли беспощадным художником, и появилось это прозвище не зря

Cosmopolitan
Анатолий Корнеев: как изменить отношение россиян к алкоголю Анатолий Корнеев: как изменить отношение россиян к алкоголю

Анатолий Корнеев: почему в России плохо развита культура потребления алкоголя

СНОБ
Страшные мысли наших детей: можем ли мы помочь? Страшные мысли наших детей: можем ли мы помочь?

Душевное состояние детей и подростков вызывает серьезнейшие опасения

Psychologies
«Сначала лучше, потом дешевле. Сначала доходы, потом расходы» «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

Интервью руководителя ВТБ Private Banking Дмитрия Брейтенбихера

Forbes
Зеленая энергетика или «энергетический разворот» к солнцу? Зеленая энергетика или «энергетический разворот» к солнцу?

Солнечный свет как возобновляемый источник энергии

Популярная механика
«Это меня вымотало, съело, сожрало, выплюнуло, пережевало и заморозило» «Это меня вымотало, съело, сожрало, выплюнуло, пережевало и заморозило»

Иван Янковский о роли Анатолия Карпова в фильме «Чемпион мира»

Weekend
Алек Болдуин расплакался, рассказывая о смертельном выстреле на съемках Алек Болдуин расплакался, рассказывая о смертельном выстреле на съемках

Алек Болдуин дал первое большое интервью после трагедии на съемочной площадке

Cosmopolitan
Археологи нашли на Дону тройное погребение в заброшенном колодце Археологи нашли на Дону тройное погребение в заброшенном колодце

Погребение сделали носители скифоидной культуры в IV–III веках до нашей эры

N+1
Сергей Рулев: «Я не диктую публике вкусы, это слишком высокомерно» Сергей Рулев: «Я не диктую публике вкусы, это слишком высокомерно»

Сергей Рулев — бренд-шеф-кондитер по разработке концептуальных десертов

Bones
Великий и ужасный Великий и ужасный

Как Иосиф Сталин полюбил Ивана Грозного

Дилетант
«Не беспокойтесь о нас»: 5 самых трагичных судеб семей с «Титаника» «Не беспокойтесь о нас»: 5 самых трагичных судеб семей с «Титаника»

Истории с «Титаника» — о героизме, самопожертвовании и глупости

Cosmopolitan
Инструкция по достижению невозможного: как решать любые задачи с помощью нейробиологии Инструкция по достижению невозможного: как решать любые задачи с помощью нейробиологии

Отрывок из книги Стивена Котлера «Невозможное как стратегия»

Inc.
Игра в классику: 10 культовых фильмов, чтобы скоротать вечер в приятной компании Игра в классику: 10 культовых фильмов, чтобы скоротать вечер в приятной компании

Надежная классика, доступная на Netflix

Esquire
Скучно не будет! Скучно не будет!

5 вариантов совместного досуга с детьми-подростками

Лиза
Жан Бодрийяр Жан Бодрийяр

Правила жизни Жана Бодрийяра

Esquire
Особенности профориентации подростков Особенности профориентации подростков

Если подросток мечтает стать практикующим психологом

СНОБ
Физики определили точку вылета электрона из молекулы при фотоионизации Физики определили точку вылета электрона из молекулы при фотоионизации

Найдена область молекулы, из которой электрон проникает в потенциальный барьер

N+1
«Мы будем целоваться?»: принцессе Диане предлагали сыграть в «Телохранителе-2» «Мы будем целоваться?»: принцессе Диане предлагали сыграть в «Телохранителе-2»

Диане Спенсер сулили блестящую карьеру в Голливуде

Cosmopolitan
Факты о норвежской лесной кошке Факты о норвежской лесной кошке

Пушистые, социальные, похожие на рысь — что мы знаем о норвежских лесных кошках?

Популярная механика
30 м² 30 м²

Квартира с видом на Исаакиевский собор по проекту Владимира Березина

AD
«Важно каждые пять лет менять ракурс»: художник Нина Котел о современном искусстве «Важно каждые пять лет менять ракурс»: художник Нина Котел о современном искусстве

Художница Нина Котел — о роли искусства, о свободе и любви

Forbes
Так и есть: что имеет смысл добавить, а что – убрать из новогоднего меню? Так и есть: что имеет смысл добавить, а что – убрать из новогоднего меню?

Как трансформировать праздничное меню в трапезу продуманного зожника

Esquire
Операция «Карусель: как работает ноу-хау от инспекторов ГИБДД Операция «Карусель: как работает ноу-хау от инспекторов ГИБДД

Инспекторы ГИБДД рассказали про хитрую схему наказания водителей

РБК
«Мы с мужем инфицированы, а наши дети — здоровы»: как я 20 лет живу с ВИЧ «Мы с мужем инфицированы, а наши дети — здоровы»: как я 20 лет живу с ВИЧ

Удивительная история нашей героини, которая живет с положительным ВИЧ-статусом

Cosmopolitan
Игра в имена. Ольга Медведкова: «Ф.И.О.» Игра в имена. Ольга Медведкова: «Ф.И.О.»

Отрывок из книги Ольги Медведковой, которую она посвятила истории своего имени

СНОБ
Как понять, что тобой манипулируют: главный признак, о котором надо знать всем Как понять, что тобой манипулируют: главный признак, о котором надо знать всем

Психологическое насилие может быть столь же опасным, как и физическое

Cosmopolitan
Правда «Мемориала»: почему организация не вписалась в официальную историю репрессий Правда «Мемориала»: почему организация не вписалась в официальную историю репрессий

Как «Мемориал» вошел в жесткое противоречие с силовой версией советской истории?

Forbes
Открыть в приложении