Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Оригами-робота научили прижимать ноги и ходить по-крабьи Оригами-робота научили прижимать ноги и ходить по-крабьи

Инженер из Германии разработал четвероногого оригами-робота Fold Walker

N+1
В чем отличие треккинговых кроссовок от обычных и почему они нужны каждому мужчине В чем отличие треккинговых кроссовок от обычных и почему они нужны каждому мужчине

Почему треккинговые кроссовки такие удобные?

Maxim
Ученые превратили растительные отходы в топливо для самолетов Ученые превратили растительные отходы в топливо для самолетов

Технологию производства авиатоплива из биомассы создали в РГУ нефти и газа

ТехИнсайдер
Эти загадочные черные грибы породила чернобыльская радиация Эти загадочные черные грибы породила чернобыльская радиация

Жизнь способна даже смертоносную радиацию использовать на благо новых существ

ТехИнсайдер
Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья

Как электронная медицина спасает сотни деревьев?

Правила жизни
Депрессивный тип личности: кто видит жизнь в черном цвете? Депрессивный тип личности: кто видит жизнь в черном цвете?

Кто такие депрессивные люди и как жить рядом с ними

Psychologies
«Кэнди»: бенефис Джессики Бил в роли хладнокровной убийцы «Кэнди»: бенефис Джессики Бил в роли хладнокровной убийцы

«Кэнди» — сериал о том, как Кэндис Монтгомери хладнокровно убила свою подругу

Forbes
Что такое стрижка пикси и кому она подойдет Что такое стрижка пикси и кому она подойдет

Какими бывают виды стрижки пикси и как их укладывать

РБК
Настоящая жесть: история консервной банки Настоящая жесть: история консервной банки

Консервная банка стала одним из изобретений, изменивших мир

Вокруг света
История одной вещи: авоська, которая всюду сопровождала советского гражданина История одной вещи: авоська, которая всюду сопровождала советского гражданина

Как сумка-сетка появилась в СССР и откуда взялось само слово «авоська»

Правила жизни
Кинотерапия для снятия тревожности: инструкция психолога Кинотерапия для снятия тревожности: инструкция психолога

Кино лечит?

Psychologies
Человек, который боялся воды: путешествия Тура Хейердала Человек, который боялся воды: путешествия Тура Хейердала

Когда Тур Хейердал вышел в море под парусом «Кон-Тики», ему предрекали фиаско

Вокруг света
Демографический рост в Монголии бронзового века связали с молочным животноводством Демографический рост в Монголии бронзового века связали с молочным животноводством

Ученые исследовали зубной камень людей, живших в Алтае в 2900–240 годах до н.э.

N+1
Отсюда все беды: эти 4 ошибки портят твои свидания — исправляет эксперт Отсюда все беды: эти 4 ошибки портят твои свидания — исправляет эксперт

Эксперт по отношениям раскрывает, что может идти не так в ваших свиданиях

VOICE
«Комемадре» Роке Ларраки: сюрреалистичный роман о жестоком научном эксперименте, который на деле оказывается высказыванием о гуманизме «Комемадре» Роке Ларраки: сюрреалистичный роман о жестоком научном эксперименте, который на деле оказывается высказыванием о гуманизме

Отрывок из жутковатого философского романа «Комемадре» Роке Ларраки

Правила жизни
«Рост — это два шага вперед, один назад»: 8 цитат о преодолении трудностей «Рост — это два шага вперед, один назад»: 8 цитат о преодолении трудностей

Как найти в себе силы продолжать делать то, что кажется нам важным?

Psychologies
Одна вокруг света: автополомка в джунглях и открытие границ Одна вокруг света: автополомка в джунглях и открытие границ

171-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Личинки одиночных ос съели собственных братьев и сестер Личинки одиночных ос съели собственных братьев и сестер

Как личинки одиночных ос решили проблему нехватки пищи в гнезде

N+1
Ставим на паузу: как перерыв в ссоре помогает сохранить любовь Ставим на паузу: как перерыв в ссоре помогает сохранить любовь

момент возникновения конфликта многие склонны усугублять его, а не решать

Psychologies
«Никогда и ничего не просите»: как научиться открыто говорить о своих потребностях «Никогда и ничего не просите»: как научиться открыто говорить о своих потребностях

Почему прямо говорить о своих желаниях — это нормально? И как этому научиться?

Psychologies
Аллергия на косметику Аллергия на косметику

Почему проявляется негативная реакция на бьюти-средства

Лиза
15 признаков коренного ленинградца 15 признаков коренного ленинградца

Своеобразные повадки коренных петербуржцев

Maxim
Танцуем в будущее: 8 новых звезд российского балета Танцуем в будущее: 8 новых звезд российского балета

Восемь имен молодых артистов, которые могут составить будущее российского балета

Forbes
«Не люблю принимать гостей. Как с этим бороться?» «Не люблю принимать гостей. Как с этим бороться?»

Что делать, если вы не любите принимать гостей?

Psychologies
Шлейф больших амбиций: на Кипре выяснили, как частные ракеты могут навредить человечеству Шлейф больших амбиций: на Кипре выяснили, как частные ракеты могут навредить человечеству

Летательные аппараты отнюдь не безвредны для планеты

Вокруг света
Токсичные люди — кто они? Токсичные люди — кто они?

Как узнать токсичного человека и как от него защититься?

Здоровье
Режиссер Кирилл Плетнев о сериале «Оффлайн» Режиссер Кирилл Плетнев о сериале «Оффлайн»

Кирилл Плетнев о съемках сериала и новом запросе зрителей

СНОБ
Рассеянный склероз: как сохранить профессию и качество жизни Рассеянный склероз: как сохранить профессию и качество жизни

Что такое рассеянный склероз и как можно помочь людям с этим заболеванием?

РБК
«Одинокая пьющая женщина»: сериал, который показывает проблему женского алкоголизма «Одинокая пьющая женщина»: сериал, который показывает проблему женского алкоголизма

Насколько корректно можно рассказывать о женском алкоголизме в кино?

Forbes
Самая скандальная деталь картины «Бурлаки» Репина: ты её и не замечала Самая скандальная деталь картины «Бурлаки» Репина: ты её и не замечала

Шум вокруг картины «Бурлаки на Волге» сослужил хорошую службу Илье Ефимовичу

VOICE
Открыть в приложении