Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Турецкие войны России: Царская армия и балканские народы в XIX столетии» «Турецкие войны России: Царская армия и балканские народы в XIX столетии»

Каким было отношение населения Румелии к российской армии

N+1
Вернуть свою жизнь: как перестать зависеть от капризов пожилых родителей Вернуть свою жизнь: как перестать зависеть от капризов пожилых родителей

Если вы в свои 40+ подчинены воле родителей, то у нас для вас плохие новости

Psychologies
ИИ научился создавать реалистичные спутниковые снимки будущих наводнений ИИ научился создавать реалистичные спутниковые снимки будущих наводнений

Ученые разработали метод, который генерирует «снимки» будущих наводнений

ТехИнсайдер
Твое, мое или наше: почему нам нравится пользоваться чужой косметикой и как этого избежать? Твое, мое или наше: почему нам нравится пользоваться чужой косметикой и как этого избежать?

Как перестать ссориться из-за косметических средств?

Psychologies
Топ-5 самых неочевидных способов обмана при продаже авто Топ-5 самых неочевидных способов обмана при продаже авто

На что стоит обращать внимание неопытным водителям при покупке авто?

Maxim
Почему женщины становятся бездомными и как они живут на улицах в России Почему женщины становятся бездомными и как они живут на улицах в России

Что известно о женщинах без крыши над головой

Forbes
«Люблю колоть морду»: как живет девушка с самыми большими скулами в мире «Люблю колоть морду»: как живет девушка с самыми большими скулами в мире

Главной фишкой Анастасии стало именно увеличение зоны скул

VOICE
Как правильно мыть голову: инструкция и советы экспертов Как правильно мыть голову: инструкция и советы экспертов

Обязательно ли мыть голову или можно сбрызнуть ее сухим шампунем?

РБК
Аллергия на косметику Аллергия на косметику

Почему проявляется негативная реакция на бьюти-средства

Лиза
12 золотых правил роскошной женщины — их должна знать каждая! 12 золотых правил роскошной женщины — их должна знать каждая!

Как всегда оставаться ухоженной и привлекательной?

VOICE
Тревожные звоночки: ученые научились проверять риск попадания в ДТП во время сна Тревожные звоночки: ученые научились проверять риск попадания в ДТП во время сна

Потенциально аварийные ситуации сопоставили с показателями здоровья

Вокруг света
10 самых быстрых животных в мире: спринтеры из мира дикой природы 10 самых быстрых животных в мире: спринтеры из мира дикой природы

Рейтинг сверхскоростных животных планеты

ТехИнсайдер
«Умом не блещешь»: 5 фраз, которые выдадут в вашем партнере или друге газлайтера «Умом не блещешь»: 5 фраз, которые выдадут в вашем партнере или друге газлайтера

Красные флажки: как опознать и обезвредить газлайтера?

Psychologies
Страсти Леонида Ильича Брежнева: без чего генсек не представлял жизни Страсти Леонида Ильича Брежнева: без чего генсек не представлял жизни

Брежнев любил домино и обожал женщин

ТехИнсайдер
«Кэнди»: бенефис Джессики Бил в роли хладнокровной убийцы «Кэнди»: бенефис Джессики Бил в роли хладнокровной убийцы

«Кэнди» — сериал о том, как Кэндис Монтгомери хладнокровно убила свою подругу

Forbes
10 любимых фраз пассивного человека 10 любимых фраз пассивного человека

Фразы, которые может произнести только пассивный человек

Psychologies
Как однокурсник Марка Цукерберга строит глобальную фабрику стартапов Как однокурсник Марка Цукерберга строит глобальную фабрику стартапов

Antler — стартап-студия, инкубатор, акселератора и венчурной фирма

Forbes
Лучшие фитнес-браслеты с измерением давления: рейтинг 2022 года Лучшие фитнес-браслеты с измерением давления: рейтинг 2022 года

В последние годы на рынке появилось немало фитнес-браслетов. Вот лучшие из них

CHIP
Как сбросить настройки Андроид до заводских Как сбросить настройки Андроид до заводских

Сбрасываем настройки андроида через меню, recovery и сервисный код

CHIP
Золотые бьюти-правила Джеки Кеннеди: выбирай и заимствуй Золотые бьюти-правила Джеки Кеннеди: выбирай и заимствуй

Бьюти-ритуалы и привычки бывшей первой леди США миссис Ли Бувье Кеннеди Онассис

VOICE
Орел и менора: почему россияне выбирают Израиль для второго гражданства Орел и менора: почему россияне выбирают Израиль для второго гражданства

Почему соотечественников тянет в Израиль и как получить второе гражданство?

Forbes
Тёмная материя Тёмная материя

Шоколадные скульптуры шефа Николя Клуазо

Robb Report
Лучше научно-фантастические циклы с эпическим размахом, которых хватит надолго Лучше научно-фантастические циклы с эпическим размахом, которых хватит надолго

Лучшие фантастические циклы книг

ТехИнсайдер
Уральские приключения Уральские приключения

Челябинская область — край гор, лесов и тысячи озер

Отдых в России
Как убрать щеки: 7 способов и советы экспертов Как убрать щеки: 7 способов и советы экспертов

Скорректировать пухлые щеки можно самостоятельно либо с помощью специалистов

РБК
8 вещей, которые не так важны для отношений, как принято думать 8 вещей, которые не так важны для отношений, как принято думать

Восемь популярных мифов о гармоничных отношениях

Psychologies
Этот удивительный советский поезд на магнитной подушке четверть века провел Этот удивительный советский поезд на магнитной подушке четверть века провел

ТП-01 — первый советский маглев, поезд на магнитной подушке

ТехИнсайдер
Эталонные блондинки, которые прославились благодаря своему интеллекту Эталонные блондинки, которые прославились благодаря своему интеллекту

Опровергаем популярное заблуждение насчет блондинок!

Maxim
Заметить вовремя Заметить вовремя

10 признаков начинающейся болезни Альцгеймера

Лиза
Что такое «думскроллинг» и чем он опасен каждому россиянину Что такое «думскроллинг» и чем он опасен каждому россиянину

Хорошая новость для тех, кто любит плохие новости: думскроллинг лечится

Maxim
Открыть в приложении