Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Генетики подтвердили личность жестоко убитого в Венгрии Рюриковича Генетики подтвердили личность жестоко убитого в Венгрии Рюриковича

Палеогенетики проанализировали геном жестоко убитого венгерского феодала

N+1
«Люди больше не хотят гибкого расписания — они хотят полностью контролировать своё время» «Люди больше не хотят гибкого расписания — они хотят полностью контролировать своё время»

Эксперимент Best Buy: офисные сотрудники сами выбирали где и сколько работать

VC.RU
Изогнутый экран смартфона — это удобно? Изогнутый экран смартфона — это удобно?

Стоит ли покупать смартфоны с изогнутыми экранами?

CHIP
Помощь рядом Помощь рядом

Каждый третий человек хотя бы раз в месяц пользуется виртуальным помощником

GQ
Леонардо да Винчи. Биография Леонардо да Винчи. Биография

Почему «Джоконда» – шедевр, на который хотят посмотреть вживую миллионы людей

kiozk originals
«Самое страшное — оказаться в пургу вне станции»: полярник о жизни и работе в Арктике и Антарктиде «Самое страшное — оказаться в пургу вне станции»: полярник о жизни и работе в Арктике и Антарктиде

Кто такие полярники, чем они занимаются и в чем сложность их работы?

VC.RU
Идеально после праздников: 10-минутная йога для подтянутого живота Идеально после праздников: 10-минутная йога для подтянутого живота

Уделяем 10 минут в день йоге, и живот быстро подтянется!

Cosmopolitan
Под северным сиянием Под северным сиянием

Чем заняться в Мурманской области зимой

Лиза
Как повлиял на мировую моду Андре Леон Телли Как повлиял на мировую моду Андре Леон Телли

Скончался один из самых колоритных персонажей в фешн-индустрии Андре Леон Телли

СНОБ
Мотивации Нео: что может увидеть специалист по психологии бизнеса в новой «Матрице» Мотивации Нео: что может увидеть специалист по психологии бизнеса в новой «Матрице»

Чтобы понять последнюю «Матрица», надо распаковать идеи современной психологии

Forbes
Метод Тора: как тренируется Крис Хемсворт Метод Тора: как тренируется Крис Хемсворт

Делимся некоторыми несложными, но действенными упражнениями Криса Хемсворта

Esquire
Curiosity обнаружил на Марсе углеродный след жизни. Главные новости науки сегодня Curiosity обнаружил на Марсе углеродный след жизни. Главные новости науки сегодня

Марсоход Curiosity обнаружил отложения бедные изотопом углерод-13

Популярная механика
Итаф Рам: «Женщина — не мужчина». Дебютный роман дочери палестинских иммигрантов Итаф Рам: «Женщина — не мужчина». Дебютный роман дочери палестинских иммигрантов

Отрывок из романа Итаф Рам — о женщинах в семьях палестинских иммигрантов

СНОБ
Ленивая йога: как разминать тело, не отходя далеко от кровати Ленивая йога: как разминать тело, не отходя далеко от кровати

Даже лежание на диване можно обернуть себе на пользу

Esquire
«Мог стать знаменитым танцовщиком, но поднимаю с земли какашки»: как устроена миллиардная индустрия выгула собак в США «Мог стать знаменитым танцовщиком, но поднимаю с земли какашки»: как устроена миллиардная индустрия выгула собак в США

Легко ли гулять с питомцами и с какими причудами собачников приходится мириться?

VC.RU
Пример для подражания. Светлана Наумова Пример для подражания. Светлана Наумова

Как любить свое дело, терять его, но всегда с триумфом возвращаться

Cosmopolitan
Как влияют на полёты самолётов вышки 5G: страшная правда Как влияют на полёты самолётов вышки 5G: страшная правда

Мобильная связь 5G может помешать работе оборудования самолётов?

Популярная механика
Пизанская башня по-американски: история одной высотки, которая с каждым годом наклоняется все сильнее Пизанская башня по-американски: история одной высотки, которая с каждым годом наклоняется все сильнее

«Башня Тысячелетия» каждый год понемногу отклоняется от центральной оси

Популярная механика
В поисках себя В поисках себя

Изменения моды: смешение гендерных ролей, появление нейтрального гардероба

Домашний Очаг
Спящая красавица Спящая красавица

Укутанная снегами вилла Буонаккорси в Тоскане

AD
Наш компас земной. Что такое надежда и почему она так важна? Наш компас земной. Что такое надежда и почему она так важна?

Мы продолжаем разбираются в чувствах и эмоциях. На очереди — надежда

РБК
Чаты, боты, персональные данные: как Райффайзенбанк общается с клиентами Чаты, боты, персональные данные: как Райффайзенбанк общается с клиентами

Райффайзенбанк: какую информацию собирают боты, как они общаются с клиентами?

Forbes
EXEED VX. Последнее китайское предупреждение EXEED VX. Последнее китайское предупреждение

Известный китайский бренд привёз в Россию новый автомобиль

4x4 Club
16-летнее наблюдение за парой пульсаров с рекордной точностью подтвердило Общую теорию относительности 16-летнее наблюдение за парой пульсаров с рекордной точностью подтвердило Общую теорию относительности

Астрофизики проверили предсказания Общей теории относительности

N+1
Почему нас тянет к бывшим даже спустя много лет Почему нас тянет к бывшим даже спустя много лет

Даже если с расставания прошел не один год, нас по-прежнему к нему тянет

Psychologies
Тревожная забота: почему гиперопека — это проблема родителя Тревожная забота: почему гиперопека — это проблема родителя

В чем причина гиперопеки у взрослых и как она влияет на детей?

Psychologies
Елена Панова: «Я хоть и не очень состоятельная, но вполне состоявшаяся артистка» Елена Панова: «Я хоть и не очень состоятельная, но вполне состоявшаяся артистка»

Елена Панова — о своих образах, фильмах и семье

Караван историй
Урбанистика Урбанистика

По мере роста городов, мегаполисы будущего представлялись пугающим местом

Esquire
C-25: как создавалась первая советская система ПРО C-25: как создавалась первая советская система ПРО

С-25 – одна из первых в мире систем объектовой противовоздушной обороны

Популярная механика
«Мне нужны были приключения»: серийный обманщик Джозеф Уэйл занимался мошенничеством 70 лет и 40 раз сидел в тюрьме «Мне нужны были приключения»: серийный обманщик Джозеф Уэйл занимался мошенничеством 70 лет и 40 раз сидел в тюрьме

Джозеф Уэйл сыграл «столько ролей, сколько среднему актёру и не снилось»

VC.RU
Открыть в приложении