Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Робоголубь с настоящими перьями в крыльях и хвосте научился летать по-птичьи Робоголубь с настоящими перьями в крыльях и хвосте научился летать по-птичьи

Робоголубь управляет полетом за счет изменения формы крыльев и поворотов хвоста

N+1
Секс и вырождение Секс и вырождение

Способно ли размножение замедлить накопление зловредных мутаций?

СНОБ
Февральская революция: как искусственный интеллект может повысить производительность труда Февральская революция: как искусственный интеллект может повысить производительность труда

Русские ученые устроили шестую промышленную революцию!

ТехИнсайдер
Ужасы и прелести кулачных боев Ужасы и прелести кулачных боев

Собрали все «за» и «против» кулачных боев

Maxim
Долорес Амбридж по-русски: как «синдром вахтера» превращает учителей в тиранов и почему это вредит детям Долорес Амбридж по-русски: как «синдром вахтера» превращает учителей в тиранов и почему это вредит детям

Что такое «синдром вахтера» и как он проявляется?

Psychologies
7 причин, по которым вы можете чувствовать постоянную грусть и тоску: исправляем жизнь к лучшему 7 причин, по которым вы можете чувствовать постоянную грусть и тоску: исправляем жизнь к лучшему

Совершенно нормально чувствовать грусть, но причины этого могут быть разными

Популярная механика
«Мне жалко его, очень жалко» «Мне жалко его, очень жалко»

Сергей Бодров-старший о своем сыне и своем новом фильме «Дышите свободно»

Weekend
Психологи о войне: 5 терапевтических книг Психологи о войне: 5 терапевтических книг

Пять книг, которые помогут понять психологическую природу войны

Psychologies
Что почитать о мультивселенных: 3 ярких фантастических романа о параллельных мирах Что почитать о мультивселенных: 3 ярких фантастических романа о параллельных мирах

Романы о множественных реальностях

ТехИнсайдер
Одна вокруг света: голубая лагуна и испытание джунглями Одна вокруг света: голубая лагуна и испытание джунглями

170-я серия о кругосветном путешествии москвички Ирины Сидоренко: Амазония

Forbes
Коллаген: зачем он организму, и нужно ли его принимать дополнительно Коллаген: зачем он организму, и нужно ли его принимать дополнительно

Действительно ли так помогают добавки с коллагеном?

ТехИнсайдер
«Родители, дети и бабушка»: как выжить в этом треугольнике «Родители, дети и бабушка»: как выжить в этом треугольнике

Что делать, если бабушка конкурирует с родителями за любовь внуков?

Psychologies
Держи голову в холоде, а живот — в голоде Держи голову в холоде, а живот — в голоде

Как связаны температура тела, метаболизм и продолжительность жизни?

Здоровье
Александра Самохина. Две капли воды Александра Самохина. Две капли воды

Но я — это я, и у меня своя судьба...

Коллекция. Караван историй
Найденный в Приазовье 61 год назад зуб назвали неандертальским Найденный в Приазовье 61 год назад зуб назвали неандертальским

Палеоантропологи изучили моляр, найденный во время раскопок памятника Рожок-1

N+1
Металлурги и демиурги: 6 инженеров, прославивших промышленный Урал Металлурги и демиурги: 6 инженеров, прославивших промышленный Урал

Урал — самая индустриализованная зона планеты Земля

Вокруг света
Сложнее, чем кажется: ученые раскрыли ранее неизвестный язык шимпанзе Сложнее, чем кажется: ученые раскрыли ранее неизвестный язык шимпанзе

Крики приматов помогут понять, как формировался человеческий язык

Вокруг света
Стройный и злой: как быстро сжечь лишний жир, не навредив себе Стройный и злой: как быстро сжечь лишний жир, не навредив себе

Что влияет на потерю жира и как достичь топовой физической формы

ТехИнсайдер
Сбежать любой ценой. Удивительные плавающие автомобили Кубы Сбежать любой ценой. Удивительные плавающие автомобили Кубы

Автомобили научились плавать, чтобы подарить кубинцам шанс на новую жизн

РБК
Капкан ипотеки Капкан ипотеки

За что могут выселить из квартиры и как этого избежать

Лиза
В черепе единственной ночной дневной хищной птицы не нашлось адаптаций к ночному образу жизни В черепе единственной ночной дневной хищной птицы не нашлось адаптаций к ночному образу жизни

У чернополосого коршуна не удалось обнаружить адаптаций к ночному образу жизни

N+1
«Лаборатория химических историй. От электрона до молекулярных машин»: Рассказ о главных достижениях химии «Лаборатория химических историй. От электрона до молекулярных машин»: Рассказ о главных достижениях химии

Почему одни вещества становятся мягкими, а другие твердеют?

N+1
«О Великой Отечественной войне нужно рассказывать»: праздновать 9 Мая или нет? «О Великой Отечественной войне нужно рассказывать»: праздновать 9 Мая или нет?

Как мы отмечаем День Победы и почему делаем это именно так?

Psychologies
Царица дома: 5 фактов о традиционной русской печи Царица дома: 5 фактов о традиционной русской печи

Русская печь всегда была настоящим национальным символом

Вокруг света
10 неожиданных фактов о современной космонавтике 10 неожиданных фактов о современной космонавтике

Интересные и неожиданные факты о современной космонавтике

ТехИнсайдер
Цветок дьявола: как живет король богомолов Цветок дьявола: как живет король богомолов

Удивительное насекомое, которое притворяется растением, чтобы поймать добычу

Вокруг света
Три загадочных нераскрытых убийства, которые так и остались загадками Три загадочных нераскрытых убийства, которые так и остались загадками

Убийства, которые никто так и не смог раскрыть

VOICE
Без Zombie и Ziggy: как «трагические оптимисты» из караоке-бара ведут бизнес во время нового кризиса Без Zombie и Ziggy: как «трагические оптимисты» из караоке-бара ведут бизнес во время нового кризиса

Что такое альтернативное караоке и может ли такой бизнес приносить прибыль?

VC.RU
«Научиться дышать под водой» «Научиться дышать под водой»

В чем искать смысл, когда приходится ставить под сомнение ценность бытия?

Psychologies
Проще, чем кажется. Очистка стиральной машины от грязи и запаха Проще, чем кажется. Очистка стиральной машины от грязи и запаха

Белье после стирки уже не становится таким чистым и пахнет не так, как раньше?

Лиза
Открыть в приложении