Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Древние сибиряки добыли пемзу более чем в 1000 километрах от места обнаружения Древние сибиряки добыли пемзу более чем в 1000 километрах от места обнаружения

Древние сибиряки собрали куски породы в районе Удоканского вулканического плато

N+1
«О Великой Отечественной войне нужно рассказывать»: праздновать 9 Мая или нет? «О Великой Отечественной войне нужно рассказывать»: праздновать 9 Мая или нет?

Как мы отмечаем День Победы и почему делаем это именно так?

Psychologies
Что такое digital простыми словами. Популярные профессии, плюсы и минусы Что такое digital простыми словами. Популярные профессии, плюсы и минусы

Что значит digital, какие профессии в digital-сфере наиболее востребованы

Цифровой океан
Древних римлян обвинили в падении численности тюленей-монахов Древних римлян обвинили в падении численности тюленей-монахов

Численность тюленей-монахов сократилась в античности из-за активного промысла

N+1
Из СССР — вокруг света: как Юрий Сенкевич прожил жизнь-путешествие Из СССР — вокруг света: как Юрий Сенкевич прожил жизнь-путешествие

Юрий Сенкевич и его жизнь, полная приключений

Psychologies
Ученые долго спорили, но все же пришли к выводу, что у человека должен быть еще один орган Ученые долго спорили, но все же пришли к выводу, что у человека должен быть еще один орган

Учебники анатомии придется переписывать из-за брыжейки

ТехИнсайдер
Как развить в себе тигриность: 3 идеи Как развить в себе тигриность: 3 идеи

Как часто не хватает нам тигриных качеств! Но может их можно в себе развить?

Psychologies
Рай в лофте и джунгли в ванной: 5 примеров работы с обоями в интерьере Рай в лофте и джунгли в ванной: 5 примеров работы с обоями в интерьере

О нюансах использования обоев в интерьере рассказывают дизайнеры и архитекторы

РБК
Почему искусственный интеллект обыгрывает всех в Dota, но пока не выживет в реальном мире Почему искусственный интеллект обыгрывает всех в Dota, но пока не выживет в реальном мире

Почему машины быстро эволюционируют в виртуальном, а не в реальном мире?

ТехИнсайдер
Не детский писатель: за что Крупская, Сталин и другие партийные функционеры затравили Корнея Чуковского? Не детский писатель: за что Крупская, Сталин и другие партийные функционеры затравили Корнея Чуковского?

История творчества Корнея Чуковского

ТехИнсайдер
10 современных романов, которые стоит прочитать на майских 10 современных романов, которые стоит прочитать на майских

Десять современных романов, которые помогут скоротать время

СНОБ
Эти автомобили провалились, потому что опередили свое время Эти автомобили провалились, потому что опередили свое время

Преждевременный выход на рынок загубил эти автомобили

ТехИнсайдер
Ставим на паузу: как перерыв в ссоре помогает сохранить любовь Ставим на паузу: как перерыв в ссоре помогает сохранить любовь

момент возникновения конфликта многие склонны усугублять его, а не решать

Psychologies
Как правильно восстанавливаться после травмы Как правильно восстанавливаться после травмы

Восстановление после травмы — своего рода искусство

ТехИнсайдер
О сложных чувствах, повторном браке и потере ребенка: 7 психологических книг О сложных чувствах, повторном браке и потере ребенка: 7 психологических книг

Подборка книг, которая поможет справиться с трудностями бережнее и эффективнее

Psychologies
Устанавливаем Android-приложения в обход Google Play Store: подробная инструкция Устанавливаем Android-приложения в обход Google Play Store: подробная инструкция

Преимущество Android: возможность установки программ в обход магазина приложений

CHIP
«Позволяйте ребенку бездельничать»: 7 принципов воспитания счастливого человека «Позволяйте ребенку бездельничать»: 7 принципов воспитания счастливого человека

Делимся несложными правилами, которые помогут вырастить ребенка счастливым

Psychologies
Орел и менора: почему россияне выбирают Израиль для второго гражданства Орел и менора: почему россияне выбирают Израиль для второго гражданства

Почему соотечественников тянет в Израиль и как получить второе гражданство?

Forbes
Одиночество в кризис: как превратить изоляцию в преимущество для бизнеса Одиночество в кризис: как превратить изоляцию в преимущество для бизнеса

Одиночество может стать ресурсом для развития как личности, так и бизнеса

Forbes
Невидимый Бреттон-Вудс: почему мировая экономика нуждается в новых правилах Невидимый Бреттон-Вудс: почему мировая экономика нуждается в новых правилах

Неспособность регуляторов взять под контроль инфляцию становится проблемой

Forbes
Нумерология места Нумерология места

О чем говорит название города, в котором ты живешь

Лиза
Числа не от мира сего: о чем до сих пор спорят математики? Числа не от мира сего: о чем до сих пор спорят математики?

Споры о культурном значении математики переживают острую фазу

Вокруг света
Идеальный источник белка: карри с тунцом по рецепту мальдивского повара Идеальный источник белка: карри с тунцом по рецепту мальдивского повара

Диетологи прославили тунца за то, что его мясо — идеальный источник белка

Вокруг света
«Не смей со мной так разговаривать»: почему эта фраза — признак проблем в отношениях «Не смей со мной так разговаривать»: почему эта фраза — признак проблем в отношениях

Как понять, что у вас еще есть шанс понять друг друга, и что для этого сделать?

Psychologies
Спустить паруса: лучшие марины Средиземноморья Спустить паруса: лучшие марины Средиземноморья

Самые современные, комфортные и живописные стоянки для яхт в Средиземном море

Forbes
Импортозамещение: сравниваем российские сервисы, которые могут заменить Netflix и Spotify Импортозамещение: сравниваем российские сервисы, которые могут заменить Netflix и Spotify

Мы решили разобраться, сильно ли отечественные приложения уступают западным

Maxim
Сушите весла: 5 корабельных бунтов, которые вошли в историю Сушите весла: 5 корабельных бунтов, которые вошли в историю

К восстанию корабельных команд в разные века приводили разные причины

Вокруг света
Рай не в шалаше: что такое глэмпинги и почему они становятся все популярнее Рай не в шалаше: что такое глэмпинги и почему они становятся все популярнее

Отдыхать на природе можно не только в палатке, но и в весьма комфортных условиях

Вокруг света
Физики постримили игру с помощью ридберговских атомов Физики постримили игру с помощью ридберговских атомов

Американские физики использовали газ атомов в качестве приемной антенны

N+1
«Продолжай, детка»: как TikTok Live стал «стрип-клубом с 15-летними подростками» «Продолжай, детка»: как TikTok Live стал «стрип-клубом с 15-летними подростками»

Почему TikTok все чаще оказывается в центре внимания правоохранителей

Forbes
Открыть в приложении