Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нечеловеческим животным отказали в чувстве справедливости Нечеловеческим животным отказали в чувстве справедливости

Ученые не обнаружили у животных непринятия несправедливости

N+1
Топ-10 кондиционеров для квартиры: рейтинг лучших 2022 Топ-10 кондиционеров для квартиры: рейтинг лучших 2022

Какой кондиционер лучше выбрать для квартиры?

CHIP
Февральская революция: как искусственный интеллект может повысить производительность труда Февральская революция: как искусственный интеллект может повысить производительность труда

Русские ученые устроили шестую промышленную революцию!

ТехИнсайдер
Палеогенетики подтвердили угорское происхождение венгров Палеогенетики подтвердили угорское происхождение венгров

Ученые выяснили, как был сформирован генофонд венгров

N+1
9 принципов первой психологической помощи 9 принципов первой психологической помощи

Каковы главные принципы оказания первой психологической помощи?

Psychologies
Встать и идти Встать и идти

Как понять, куда и для чего двигаться?

Psychologies
Сушите весла: 5 корабельных бунтов, которые вошли в историю Сушите весла: 5 корабельных бунтов, которые вошли в историю

К восстанию корабельных команд в разные века приводили разные причины

Вокруг света
Если воспоминания приносят боль: как пережить потерю близкого Если воспоминания приносят боль: как пережить потерю близкого

Как справиться с чудовищной болью от утраты?

Psychologies
Мы думали, их не существует: 5 вымышленных животных, которые оказались настоящими Мы думали, их не существует: 5 вымышленных животных, которые оказались настоящими

Xасто животные, ведущие скрытный образ жизни, считаются вымышленными

ТехИнсайдер
«Меня не проведешь»: почему мы не верим, что нами можно манипулировать «Меня не проведешь»: почему мы не верим, что нами можно манипулировать

Отрывок книги Тали Шарот «Иллюзии человеческого мозга»

Forbes
Made in Italy Made in Italy

Чем живёт тосканский городок Виареджо, родина суперъяхт

Robb Report
Сын сварщика, первый муж Умы Турман: посмотри, каким стал красавец Гэри Олдмен Сын сварщика, первый муж Умы Турман: посмотри, каким стал красавец Гэри Олдмен

Каким был и каким стал сердцеед и сердцекрад Гэри Олдмен

VOICE
Неожиданные привычки, которые выдают в тебе интеллектуала Неожиданные привычки, которые выдают в тебе интеллектуала

Возможно, ты интеллектуал

Maxim
Древних китайцев заподозрили в крупномасштабном производстве киновари Древних китайцев заподозрили в крупномасштабном производстве киновари

Ученые исследовали материалы из гробниц времен династии Шан

N+1
Это надо увидеть: 10 великих фильмов о любви, которые растопят ваше сердце Это надо увидеть: 10 великих фильмов о любви, которые растопят ваше сердце

Трогательные, иногда трагические, порой смешны фильмы о любви

VOICE
Гляжусь в тебя, как в зеркало: 6 фильмов о клонировании Гляжусь в тебя, как в зеркало: 6 фильмов о клонировании

Как фильмы рассматривают проблему поведения клонов?

Правила жизни
Миллиардер Уоррен Баффет: 10 советов, как экономить деньги Миллиардер Уоррен Баффет: 10 советов, как экономить деньги

Как правильно относиться к деньгам, чтобы не потерять, а приумножить

Psychologies
Последнее искушение анархиста: трагедия жизни князя Кропоткина Последнее искушение анархиста: трагедия жизни князя Кропоткина

Петр Кропоткин — почти что второй Ломоносов

Вокруг света
Режиссер Блерта Башолли о кино в Косово, попадании на «Оскар» и победе на «Сандэнсе» Режиссер Блерта Башолли о кино в Косово, попадании на «Оскар» и победе на «Сандэнсе»

Режиссер Блерта Башолли — возможностях для женщин-режиссеров в Косово

Forbes
Что упало — не пропало: правда ли быстро поднятое не считается упавшим? Отвечает наука Что упало — не пропало: правда ли быстро поднятое не считается упавшим? Отвечает наука

“Правило пяти секунд” работает не всегда и не с любой едой

ТехИнсайдер
Любительский разряд Любительский разряд

Как марафоны и регаты стали площадками для нетворкинга?

Forbes Life
7 причин, по которым вы можете чувствовать постоянную грусть и тоску: исправляем жизнь к лучшему 7 причин, по которым вы можете чувствовать постоянную грусть и тоску: исправляем жизнь к лучшему

Совершенно нормально чувствовать грусть, но причины этого могут быть разными

Популярная механика
Язык тела: 10 верных признаков того, что он тебе изменяет — смотри на движения! Язык тела: 10 верных признаков того, что он тебе изменяет — смотри на движения!

Эти знаки кричат, что твой партнер тебе изменяет

VOICE
Что нужно делать, а что категорически нельзя, чтобы отучить ребенка от чипсов, сладкой газировки и другой вредной еды Что нужно делать, а что категорически нельзя, чтобы отучить ребенка от чипсов, сладкой газировки и другой вредной еды

Как быть, если твоего ребенка дразнят жирдяем? И не без основания

Maxim
Ешь, пока горячее Ешь, пока горячее

Некоторые продукты после подогрева лишаются большей части полезных веществ

Лиза
Почему 4 мая — всемирный День «Звездных войн» Почему 4 мая — всемирный День «Звездных войн»

«May the Fourth be with you» — что это значит и причем здесь Маргарет Тэтчер?

РБК
«Тайная жизнь пчел»: роман о взрослении в Америке 1960-х «Тайная жизнь пчел»: роман о взрослении в Америке 1960-х

Каково быть подростком-сиротой на американском юге в 1964 году? Отрывок из книги

Forbes
Эти автомобили провалились, потому что опередили свое время Эти автомобили провалились, потому что опередили свое время

Преждевременный выход на рынок загубил эти автомобили

ТехИнсайдер
5 отечественных писателей, книги которых стоит перечитать 5 отечественных писателей, книги которых стоит перечитать

Важные имена и любопытные произведения

СНОБ
Кровавые узы: судьбы жен и детей великих диктаторов Кровавые узы: судьбы жен и детей великих диктаторов

Имена диктаторов XX века вошли в историю, но судьбы их близких остаются в тени

Вокруг света
Открыть в приложении