Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Узкий таз защитил от артрита колена и опущения органов Узкий таз защитил от артрита колена и опущения органов

Широкий таз облегчает деторождение, но добавляет других проблем со здоровьем

N+1
Чем полезны яблоки и сколько в них калорий Чем полезны яблоки и сколько в них калорий

Какие вещества содержатся в яблоках и почему их стоит включить в рацион

РБК
Как проверить, что ИИ достиг уровня интеллекта человека Как проверить, что ИИ достиг уровня интеллекта человека

Как понять, на каком уровне развития находится искусственный интеллект?

ТехИнсайдер
Разложи по полочкам Разложи по полочкам

Сколько денег тебе сэкономит порядок в холодильнике

Лиза
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Проточный или накопительный: какой нагреватель выбрать для дома и дачи Проточный или накопительный: какой нагреватель выбрать для дома и дачи

Нагреватель — что нужно учесть при его выборе?

CHIP
7 альбомов хип-хопа последних десяти лет, которые обожают интеллектуалы 7 альбомов хип-хопа последних десяти лет, которые обожают интеллектуалы

Изучили рейтинги меломанских сайтов и составили любопытный список хип-хопа

Maxim
Лягушки получили змеиную ДНК благодаря паразитам Лягушки получили змеиную ДНК благодаря паразитам

Горизонтальный перенос ДНК произошел между змеями и лягушками не менее 54

N+1
Топ-7 самых популярных кроссоверов: их покупают даже в кризис Топ-7 самых популярных кроссоверов: их покупают даже в кризис

Кроссоверы, которые продолжают покупать, несмотря на кризис

РБК
10 знаменитых средневековых путешественников 10 знаменитых средневековых путешественников

История каждого средневекового путешественника — это приключенческий роман

Популярная механика
Редчайшие автомобили на дорогах советской Москвы: уникальные кадры Редчайшие автомобили на дорогах советской Москвы: уникальные кадры

Думаете, только банальными “Волгами” ограничивался столичный трафик времен СССР?

ТехИнсайдер
Евгений Князев: Евгений Князев:

Евгений Князев всегда недоволен собой

Караван историй
Безрукая красота Безрукая красота

Что могла держать в руках Венера Милосская?

Дилетант
«Мама говорила, что работают лишь неудачники. Теперь я не могу реализоваться в профессии» «Мама говорила, что работают лишь неудачники. Теперь я не могу реализоваться в профессии»

Как справиться с негативными родительскими установками?

Psychologies
Наука собирать грибы Наука собирать грибы

Не одно десятилетие грибники спорят друг с другом, как правильно собирать грибы

Наука и жизнь
Большое видится на расстоянии: 5 открытий, сделанных на Земле при помощи спутников Большое видится на расстоянии: 5 открытий, сделанных на Земле при помощи спутников

Запущенные на орбиту аппараты помогают находить неизвестные горы и города

Вокруг света
Роскошь на пороге гибели: назван неожиданный ингредиент вина, которое пила иудейская знать Роскошь на пороге гибели: назван неожиданный ингредиент вина, которое пила иудейская знать

Вельможи наслаждались дорогим напитком перед гибелью царства

Вокруг света
Неприятные спутники: какие психические состояния часто сопровождают депрессию Неприятные спутники: какие психические состояния часто сопровождают депрессию

Отрывок из книги «Так себе» — о заболвениях-спутниках депрессии

Forbes
Лечение без рецепта Лечение без рецепта

Иногда на помощь официальной медицине приходят нетрадиционные методы

Лиза
Я не трус, но я боюсь: как отстаивать себя, не боясь конфликтов? Я не трус, но я боюсь: как отстаивать себя, не боясь конфликтов?

В каких случаях отстаивание себя и своих интересов перерастает в ссору?

Psychologies
«Дочь приняла решение о разводе на эмоциях — как ее отговорить?» «Дочь приняла решение о разводе на эмоциях — как ее отговорить?»

Как вести себя, если ваша дочь вдруг решилась на развод?

Psychologies
Хотели как лучше, а получилось... 5 самых частых ошибок пластических хирургов Хотели как лучше, а получилось... 5 самых частых ошибок пластических хирургов

Какие ошибки пластических хирургов встречаются чаще всего

VOICE
Как работает закон подлости с точки зрения математики: о коварстве географически карт Как работает закон подлости с точки зрения математики: о коварстве географически карт

Почему именно то место, куда вы направляетесь, часто оказывается на сгибе карты?

Вокруг света
Как развивать эмоциональный интеллект и быть жизнестойким Как развивать эмоциональный интеллект и быть жизнестойким

Что такое эмоциональный интеллект и как его развить

СНОБ
Игорь Манн Игорь Манн

Как Игорь Манн ищет (и находит!) точки роста в кризисные времена?

Собака.ru
Как хитроумные инженеры несколько раз изобретали швейную машинку Как хитроумные инженеры несколько раз изобретали швейную машинку

В 1755 году немецкий инженер Карл Визенталь изобрел швейную иглу

ТехИнсайдер
Меч Аллаха: как построил свою империю султан Саладин Меч Аллаха: как построил свою империю султан Саладин

Что сохранила история о Саладине?

Вокруг света
«Город не для семейных»: айтишник уехал в Тбилиси, но вернулся в Минск «Город не для семейных»: айтишник уехал в Тбилиси, но вернулся в Минск

Через месяц жизни в Тбилиси айтишник принял решение вернуться домой

VC.RU
«Сознание как инстинкт. Загадки мозга: откуда берется психика»: Как нейроны приводят в действие разум «Сознание как инстинкт. Загадки мозга: откуда берется психика»: Как нейроны приводят в действие разум

Отрывок из книги «Сознание как инстинкт» — о модульном устройстве нашего мозга

N+1
Нейросети и социальные проекты: чем занимаются девушки из рейтинга «30 до 30» Нейросети и социальные проекты: чем занимаются девушки из рейтинга «30 до 30»

Российский Forbes опубликовал четвертый ежегодный список «30 до 30»

Forbes
Открыть в приложении