GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Экосистемы с обилием бабочек лучше адаптировались к внезапным засухам Экосистемы с обилием бабочек лучше адаптировались к внезапным засухам

Как бабочки делают экосистемы более устойчивыми к засухам

N+1
Недетские страсти: как сложились судьбы знаменитых вундеркиндов Недетские страсти: как сложились судьбы знаменитых вундеркиндов

Вундеркинды, которым не помогли их одаренность и таланты

VOICE
Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер

За 15 лет видение о том, каким должен быть Ту-204, несколько раз менялось

ТехИнсайдер
Между принтером и кофемашиной: 7 фильмов о рабочих романах Между принтером и кофемашиной: 7 фильмов о рабочих романах

Рабочие романы в кино: он посмотрел на нее поверх бумаг и увидел, как она хороша

Cosmopolitan
8 доказанных наукой привычек, которые действительно повышают интеллект 8 доказанных наукой привычек, которые действительно повышают интеллект

Какие ритуалы стоит добавить в свою рутину, чтобы стать умнее

Maxim
Разбирается в финансах и бизнесе, никого не оскорбляет: что известно о новом главе VK Владимире Кириенко Разбирается в финансах и бизнесе, никого не оскорбляет: что известно о новом главе VK Владимире Кириенко

Инвестировал в стартапы, на работе в «Ростелекоме» выстраивал партнёрства

VC.RU
«Имени такого-то»: роман Линор Горалик об эвакуации психиатрической больницы «Имени такого-то»: роман Линор Горалик об эвакуации психиатрической больницы

Роман Линор Горалик об эвакуации психиатрической больницы «имени такого-то»

Forbes
Новая сексуальная жизнь в новом году Новая сексуальная жизнь в новом году

Полезны советы про секс или вредны — рассказывает семейный психолог

Psychologies
Омлет с сахаром Омлет с сахаром

Открываем французскую литературу для детей

Seasons of life
Ошибка Google Play: как исправить проблему Ошибка Google Play: как исправить проблему

Как избавиться от ошибки Google Play без особых усилий

CHIP
В чем разница между белым и коричневым сахаром В чем разница между белым и коричневым сахаром

В чем отличия между белым и коричневым сахаром, и какой из них полезнее?

Популярная механика
Антония Сьюзен Байетт: «Дева в саду» Антония Сьюзен Байетт: «Дева в саду»

Отрывок из романа, ставшего первой частью тетралогии «Квартета Фредерики»

СНОБ
10 животных с суперспособностями 10 животных с суперспособностями

При взгляде на способности некоторых животных нам остаётся только завидовать

Популярная механика
«В бизнесе надо просто не умереть по пути, есть вот такая задачка» «В бизнесе надо просто не умереть по пути, есть вот такая задачка»

Основатель «Партии еды» — зачем продал растущую компанию?

VC.RU
Евгеника в прошлом, настоящем и будущем Евгеника в прошлом, настоящем и будущем

Что изучает евгеника и существует ли она сейчас?

Популярная механика
Птицы-дуплогнездники отпугнули захватчиков фальшивыми остатками трапезы хищника Птицы-дуплогнездники отпугнули захватчиков фальшивыми остатками трапезы хищника

Как птицы-дуплогнездники выигрывают конкуренцию за дупла

N+1
«Синдром Плюшкина»: безобидная причуда или личностное расстройство? «Синдром Плюшкина»: безобидная причуда или личностное расстройство?

«Синдром Плюшкина», или «хоардинг» — чем опасен и как лечить?

Psychologies
Неприличные удовольствия приличных людей Неприличные удовольствия приличных людей

Любимые произведения Джейн Остен, Льва Толстого, Стэнли Кубрика и других

Weekend
Какими были новогодние подарки в СССР (много фото) Какими были новогодние подарки в СССР (много фото)

Вспоминаем популярные и желанные подарки в СССР

Maxim
В коктейле главное — баланс В коктейле главное — баланс

Бармены о новых идеях и трендах, предпочтениях гостей и отношениях с поварами

Bones
Композит на основе древесины зарядил аккумулятор через мышцы Композит на основе древесины зарядил аккумулятор через мышцы

Разработан пьезоэлектрический материал для ультразвуковых зарядных устройств

N+1
Страсть, родословная и бизнес: каким получился «Дом Gucci» Ридли Скотта Страсть, родословная и бизнес: каким получился «Дом Gucci» Ридли Скотта

Как фильм «Дом Gucci» раскрывает проблемы классовых привилегий, бизнеса, гендера

РБК
Доказал, что миллиардеры не видят разницы между вином за $500 и $10 тысяч: история Руди Курниавана Доказал, что миллиардеры не видят разницы между вином за $500 и $10 тысяч: история Руди Курниавана

Как Руди Курниаван обманул миллиардеров более, чем на $35 млн?

VC.RU
Психолог, клининг и кино: эксперты назвали самые популярные траты россиян в интернете Психолог, клининг и кино: эксперты назвали самые популярные траты россиян в интернете

Россиян резко увеличили количество онлайн-покупок услуг

Forbes
Психологи из Беркли назвали 13 книг, которые помогут избавиться от тревоги и стать продуктивнее Психологи из Беркли назвали 13 книг, которые помогут избавиться от тревоги и стать продуктивнее

13 книг, которые помогут стать более продуктивным и научат быть счастливее

Inc.
«По психологии я крот» «По психологии я крот»

За «Лучшие роли второго плана» — интервью с актером Иваном Макаревичем

OK!
На войне как на войне: как запах свежескошенной травы защищает ее от опасностей На войне как на войне: как запах свежескошенной травы защищает ее от опасностей

Зачем нужен запах свежескошенной травы?

Популярная механика
5 человек, которые много лет провели в тюрьме по ложным обвинениям 5 человек, которые много лет провели в тюрьме по ложным обвинениям

Из-за ошибок следователей и присяжных вместо одной трагедии мир получает две

Maxim
Примерзли дворники, запотели стекла. Советы водителям (как избавиться) Примерзли дворники, запотели стекла. Советы водителям (как избавиться)

Чем чистить фары, почему стоит беречь колодки и как избежать наледи на стекле?

РБК
Илон Маск рекомендует: пять книг, которые стоит прочитать Илон Маск рекомендует: пять книг, которые стоит прочитать

Книги, которые рекомендует Илон Маск

Forbes
Открыть в приложении