Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бактерию обвинили в гибели миллиардов морских звезд у западного побережья Северной Америки Бактерию обвинили в гибели миллиардов морских звезд у западного побережья Северной Америки

Биологи выяснили, что было возбудителем истощающей болезни морских звезд

N+1
Осторожно, злой хомяк: ученые случайно вывели агрессивных грызунов Осторожно, злой хомяк: ученые случайно вывели агрессивных грызунов

Эксперимент, который поможет людям с психическими проблемами

Вокруг света
Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас

Как рекрутеры используют нейросети — кейсы из России

ТехИнсайдер
4 способа поддержать скорбящего человека 4 способа поддержать скорбящего человека

Четыре способа поддержать близкого человека в период его скорби

Psychologies
Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели

Bed rotting: обычная лень или способ восстановить силы?

Forbes
Как полковник австро-венгерской армии шпионил в пользу Российской империи Как полковник австро-венгерской армии шпионил в пользу Российской империи

О шпионаже австро-венгерского полковника в пользу Российской империи

СНОБ
5 вещей, которыми нельзя пренебрегать после пластики груди 5 вещей, которыми нельзя пренебрегать после пластики груди

5 правил, о которых ты ни в коем случае не должна забывать после пластики груди

Cosmopolitan
Как разблокировать iPhone, если ты забыла пароль? Как разблокировать iPhone, если ты забыла пароль?

Что делать, если разблокировать iPhone не получилось?

VOICE
Накликали беду: как правильно применять AI в работе с небольшим количеством данных Накликали беду: как правильно применять AI в работе с небольшим количеством данных

Самые известные AI-модели, такие как GPT-3, обучены на гигантских датасетах

Популярная механика
Этот год в истории: что происходило в России и в мире в 1994 году? Этот год в истории: что происходило в России и в мире в 1994 году?

Что происходило в 1994 году и каким был мир за пределами студии «Час пик»?

Правила жизни
Одна вокруг света: голубая лагуна и испытание джунглями Одна вокруг света: голубая лагуна и испытание джунглями

170-я серия о кругосветном путешествии москвички Ирины Сидоренко: Амазония

Forbes
Топ-3 фильмов про космос с самыми реалистичными законами физики Топ-3 фильмов про космос с самыми реалистичными законами физики

Любите фильмы про космос? А знаете про их "ляпы", противоречащие законам физики?

ТехИнсайдер
Как наклеить защитное стекло на смартфон с первого раза: 6 простых шагов Как наклеить защитное стекло на смартфон с первого раза: 6 простых шагов

Лучше заранее позаботиться о защите своего гаджета и наклеить стекло. Но как?

ТехИнсайдер
«Москвич» для москвичей: стоит ли возрождать советские бренды «Москвич» для москвичей: стоит ли возрождать советские бренды

Если применять мифологему СССР, то только чтобы создавать что-то новое

Forbes
Уилл Смит Уилл Смит

Уилл Смит вышел на сцену и дал пощечину ведущему

ЖАРА Magazine
Топ-10 кондиционеров для квартиры: рейтинг лучших 2022 Топ-10 кондиционеров для квартиры: рейтинг лучших 2022

Какой кондиционер лучше выбрать для квартиры?

CHIP
«Трудно даются праздничные речи»: как избавиться от страха выступлений «Трудно даются праздничные речи»: как избавиться от страха выступлений

Некоторые, когда приходит черед произносить речи, испытывают неловкость. Почему?

Psychologies
Из-за сжатых сроков члены команды готовы были грызть друг другу глотки: как Ford создавала GT40 для гонки «Ле-Ман» Из-за сжатых сроков члены команды готовы были грызть друг другу глотки: как Ford создавала GT40 для гонки «Ле-Ман»

Отрывок из книги «Ford против Ferrari»

VC.RU
Что почитать в день «Звездных вoйн»: 3 отличных книги о далекой галактике Что почитать в день «Звездных вoйн»: 3 отличных книги о далекой галактике

Книги, которые помогут вспомнить вам, за что вы любите «Звездные вoйны»

Популярная механика
Как чистить наушники от серы, если они тихо играют: практическое руководство Как чистить наушники от серы, если они тихо играют: практическое руководство

Если ваша гарнитура стала работать тихо, ей можно вернуть нормальную громкость

CHIP
«Мужчина не хочет жениться, я от него съехала, а он не зовет обратно» «Мужчина не хочет жениться, я от него съехала, а он не зовет обратно»

Хотите ли быть в отношениях, где вы все время какая-то «недостаточно хорошая»?

Psychologies
Что делать, если твои персональные данные утекли в сеть Что делать, если твои персональные данные утекли в сеть

Рассказываем, как не стать жертвой злоумышленников и не выплачивать чужой кредит

Maxim
Археологи обнаружили в Израиле 120-тысячелетнюю кость с гравировкой Археологи обнаружили в Израиле 120-тысячелетнюю кость с гравировкой

Во время раскопок памятника Нешер Рамла нашли фрагмент кости первобытного тура

N+1
Нейтронная томография и масс-спектрометрия «творят» историю Нейтронная томография и масс-спектрометрия «творят» историю

Ученые исследовали подвеску, найденную на раскопках в Великом Новгороде

Наука и жизнь
Моя крепость Моя крепость

Интересный и масштабный проект — усадьба в стиле современного шале

SALON-Interior
На надувной лодке через Атлантику На надувной лодке через Атлантику

Кругосветное плавание безопасной работой не было никогда

Вокруг света
Целлюлит Целлюлит

Как справиться с целлюлитом?

Здоровье
Как хитроумные инженеры несколько раз изобретали швейную машинку Как хитроумные инженеры несколько раз изобретали швейную машинку

В 1755 году немецкий инженер Карл Визенталь изобрел швейную иглу

ТехИнсайдер
Военный Hummer: подборка интересных фактов о знаменитом армейском джипе Военный Hummer: подборка интересных фактов о знаменитом армейском джипе

В прошлом Hummer удалось положить на лопатки Lamborghini

ТехИнсайдер
21 килограмм: как выглядят самые толстые коты в мире 21 килограмм: как выглядят самые толстые коты в мире

Должно ли хорошего кота быть много?

VOICE
Открыть в приложении