GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Основу рациона палеоамериканки культуры Кловис составило мясо мамонтов Основу рациона палеоамериканки культуры Кловис составило мясо мамонтов

Биоархеологи проанализировали изотопный состав останков ребенка Anzick-1

N+1
Из-за чего нас раздражают феминитивы: психологический аспект Из-за чего нас раздражают феминитивы: психологический аспект

Что о феминитивах говорит психология

Psychologies
Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер» Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер»

«Косынка» и «Сапер»: какой замысел Билла Гейтса они в себе таили?

ТехИнсайдер
Так плохо, что даже хорошо: пять самых критикуемых моделей BMW Так плохо, что даже хорошо: пять самых критикуемых моделей BMW

Дизайн современных BMW давно стал предметом ожесточенных споров

Playboy
Партнер-провокатор: что стоит за его манипуляциями и как реагировать правильно Партнер-провокатор: что стоит за его манипуляциями и как реагировать правильно

Как вычислить манипуляцию провокацией и как правильно реагировать на нее

Psychologies
Как Август Мейер стал миллионером и почему попал в СИЗО Как Август Мейер стал миллионером и почему попал в СИЗО

Как предприимчивый американец Август Мейер заработал в России $650 млн

Forbes
Лихорадка у ребенка Лихорадка у ребенка

Как помочь ребенку при лихорадке быстро и безопасно

Лиза
Праздник вкуса Праздник вкуса

Покупаем авокадо, индейку, икру и мандарины

Добрые советы
Забытые советские марки: КАГ Забытые советские марки: КАГ

Вспоминаем забытые советские марки автомобилей

Популярная механика
Как понять, что в желчном пузыре камни: 5 симптомов, которые нельзя игнорировать Как понять, что в желчном пузыре камни: 5 симптомов, которые нельзя игнорировать

Как вовремя заметить, что с желчным пузырем что-то не так?

Cosmopolitan
Цифровой детокс: когда он становится необходимостью? Цифровой детокс: когда он становится необходимостью?

Почему нам нужно порой отказываться от Интернета?

Psychologies
А остальные им завидуют: топ-10 самых влиятельных российских звезд — 2021 А остальные им завидуют: топ-10 самых влиятельных российских звезд — 2021

Самые влиятельные звезды, которые особенно отличились своими успехами

Cosmopolitan
Заграница нас научит Заграница нас научит

Обучение поварской науке за рубежом стало в последние годы настоящим трендом

Bones
Анна Хилькевич: «Я готова сниматься в «Универе» всю жизнь!» Анна Хилькевич: «Я готова сниматься в «Универе» всю жизнь!»

Актриса рассказала о съемках в сериале «Универ.10 лет спустя» и секретах красоты

Cosmopolitan
Характеры животных: пауки-социалисты и робкие рыбы Характеры животных: пауки-социалисты и робкие рыбы

Если оно шевелится, скорее всего, у него есть характер

Популярная механика
Технология быстрой зарядки: просто о важном Технология быстрой зарядки: просто о важном

Разбираемся в технологиях быстрой зарядки и их ключевых особенностях

CHIP
Все новогодние традиции народов мира Все новогодние традиции народов мира

Что мы знаем о традициях празднования Нового года в разных странах мира?

Популярная механика
Берлин, 22 июня… Берлин, 22 июня…

В тот день футбол интересовал немцев больше, чем сообщения о военных действиях

Дилетант
30 м² 30 м²

Квартира-каюта со встроенной мебелью

AD
Игра наоборот: 7 звездных мам, которые выплачивают алименты бывшим мужьям Игра наоборот: 7 звездных мам, которые выплачивают алименты бывшим мужьям

Алименты выплачивают не только мужчины

Cosmopolitan
Вызываем грузчиков: 8 признаков, что вам пора съехаться Вызываем грузчиков: 8 признаков, что вам пора съехаться

Когда же наступает время съезжаться?

Cosmopolitan
Древнерусские бизнесмены и тайны генетики: 12 лучших новых подкастов на русском языке Древнерусские бизнесмены и тайны генетики: 12 лучших новых подкастов на русском языке

12 самых популярных бесплатных подкастов на русском языке

Forbes
Смена имени, сожжение знаменитостей и камень в подарок: 10 необычных новогодних традиций со всего мира Смена имени, сожжение знаменитостей и камень в подарок: 10 необычных новогодних традиций со всего мира

Странные новогодние традиции

Playboy
Без пластики и диет: принципы естественного старения модели Паулины Поризковой Без пластики и диет: принципы естественного старения модели Паулины Поризковой

Паулина Поризкова не сидит на жестких диетах и при этом выглядит круто

Cosmopolitan
Избранные: есть только двое, с кем Елизавета II готова говорить по телефону Избранные: есть только двое, с кем Елизавета II готова говорить по телефону

Малоизвестные факты о королеве Елизавете II

Cosmopolitan
«Это меня вымотало, съело, сожрало, выплюнуло, пережевало и заморозило» «Это меня вымотало, съело, сожрало, выплюнуло, пережевало и заморозило»

Иван Янковский о роли Анатолия Карпова в фильме «Чемпион мира»

Weekend
Не музыкой единой: как Spotify готовится совершить революцию в мире аудиозаписей Не музыкой единой: как Spotify готовится совершить революцию в мире аудиозаписей

Десять лет назад Даниэль Эк совершил переворот в музыкальной индустрии

Forbes
Как продавать «спящим клиентам» Как продавать «спящим клиентам»

Почему клиенты «засыпают» и как с ними выстроить эффективную коммуникацию

Inc.
Атака на «Озеро» Атака на «Озеро»

Прельжокаж начинал как варвар — переиначивал классику, а сегодня — сам классик

Seasons of life
Обсерватория Пик-дю-Миди зафиксировала свободный тропосферный перенос микропластика Обсерватория Пик-дю-Миди зафиксировала свободный тропосферный перенос микропластика

В обсерватории на высоте 2877 метров был обнаружен микропластик

N+1
Открыть в приложении