Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ингибиторы янус-киназы не повысиил риск рака при лечении ревматоидного артрита Ингибиторы янус-киназы не повысиил риск рака при лечении ревматоидного артрита

Ученые выяснили, что терапия артрита ингибиторами янус-киназы не провоцирует рак

N+1
История Анны Каминской, приемной внучки Ахматовой История Анны Каминской, приемной внучки Ахматовой

Удивительная судьба Анны Каминской — хранительницы ахматовского наследия

СНОБ
Ланч-боксы с подогревом: как они работают и стоит ли брать Ланч-боксы с подогревом: как они работают и стоит ли брать

Как работает ланч-бокс с подогревом и стоит ли вообще его покупать?

CHIP
История единственной порнозвезды Афганистана, сбежавшей от «Талибана» (фото прилагаются) История единственной порнозвезды Афганистана, сбежавшей от «Талибана» (фото прилагаются)

Жизнь порноактрисы Ясмины Али похожа на сценарий блокбастера, но все интереснее

Maxim
Развод и утрата: как справиться с последствиями Развод и утрата: как справиться с последствиями

Как утрата влияет на наше психологическое состояние?

VOICE
Бренд и лояльность клиентов ценнее финансов: история любимой покупки Баффета — кондитерской See’s Candys Бренд и лояльность клиентов ценнее финансов: история любимой покупки Баффета — кондитерской See’s Candys

Как кондитерская See’s Candys появилась и расцветала

VC.RU
Свинья в губной помаде, лук-порей и лаваш: как понять язык стартапера Свинья в губной помаде, лук-порей и лаваш: как понять язык стартапера

Стартаперы всего мира говорят на специальном стартаперском языке

Forbes
Нежная фиалка Нежная фиалка

Как ухаживать за сенполией, чтобы она постоянно цвела

Лиза
Фотограф Арсений Котов, побитый в Каире: «Больше я в Египет ни ногой» Фотограф Арсений Котов, побитый в Каире: «Больше я в Египет ни ногой»

Российский блогер и фотограф Арсений Котов попал в передрягу в Каире

РБК
Планетологи разрешили воде быть жидкой на Марсе еще миллиард лет Планетологи разрешили воде быть жидкой на Марсе еще миллиард лет

Последний раз вода текла по поверхности Марса 2 миллиарда лет назад

N+1
Отрывок из книги «Коммуналка на Петроградке» Анастасии Вепревой и Романа Осминкина Отрывок из книги «Коммуналка на Петроградке» Анастасии Вепревой и Романа Осминкина

Отрывок из книги о жизни в коммунальной квартире

СНОБ
Скандальный дайджест: стереотипы про русских, вторжение в «Бойцовский клуб» и устарелые гномы Скандальный дайджест: стереотипы про русских, вторжение в «Бойцовский клуб» и устарелые гномы

Обзор тревожных, оскорбительных, неосторожных и прочих сомнительных жестов

GQ
Этот рецепт Nestlé купила за $1 и заработала на нём несколько миллиардов долларов: история печенья с шоколадной крошкой Этот рецепт Nestlé купила за $1 и заработала на нём несколько миллиардов долларов: история печенья с шоколадной крошкой

Как Рут Уэйкфилд изобрела «антидот от Великой депрессии»

VC.RU
Квантовое распределение ключей преодолело 830 километров оптического волокна Квантовое распределение ключей преодолело 830 километров оптического волокна

Физикам удалось собрать схему распределения квантового ключа

N+1
О чём пишут научно-популярные журналы мира О чём пишут научно-популярные журналы мира

Открытие Америки, спорт, климат и немного цифр: все, о чем пишут научпоп-журналы

Наука и жизнь
Никто никому ничего не должен: почему требования и правила мешают нам жить Никто никому ничего не должен: почему требования и правила мешают нам жить

Отрывок из книги Дэниела Фрайера о ментальных установках, которые мешают жить

Inc.
Как изменить жизнь к лучшему: 10 книг о полезных привычках Как изменить жизнь к лучшему: 10 книг о полезных привычках

Книги, которые помогут улучшить здоровье и качество жизни

РБК
Архитектурные излишества Архитектурные излишества

Лаконичный интерьер с классической архитектурой и винтажной мебелью

AD
Вышел «Миротворец» — сериальный спин-офф «Отряда самоубийц» Джеймса Ганна про идиотичного супергероя с тонной пошлых шуток. Но что с ним не так? Вышел «Миротворец» — сериальный спин-офф «Отряда самоубийц» Джеймса Ганна про идиотичного супергероя с тонной пошлых шуток. Но что с ним не так?

Почему сериал «Миротворец» напоминает стендап Луи Си Кея и твит Дональда Трампа

Esquire
Загадочный гештальт Загадочный гештальт

Что такое гештальт и зачем его закрывать?

Лиза
Умные игрушки Умные игрушки

Что помогает развить детский интеллект?

Здоровье
В новом исследовании подсчитано количество чёрных дыр во Вселенной. И как же их много... В новом исследовании подсчитано количество чёрных дыр во Вселенной. И как же их много...

Можем ли мы точно подсчитать, сколько черных дыр во Вселенной?

Популярная механика
Поглотитель Amazon-брендов и кандидаты на IPO: кому дали денег больше всех в 2021-м Поглотитель Amazon-брендов и кандидаты на IPO: кому дали денег больше всех в 2021-м

Пять проектах основателей, получивших максимальную сумму инвестиции

Forbes
Как получить права в 2022 году. Все цены и изменения Как получить права в 2022 году. Все цены и изменения

Цена обучения в автошколе, изменения в практике и зачем ужесточать теорию

РБК
Запойные просмотры телевизора могут привести к проблемам с венами Запойные просмотры телевизора могут привести к проблемам с венами

Просмотр любимых сериалов не так уж полезен для вашего кровообращения

Популярная механика
Сергей Беляков: Парижские мальчики в сталинской Москве. Летний день Мура Эфрона Сергей Беляков: Парижские мальчики в сталинской Москве. Летний день Мура Эфрона

Отрывок из книги Сергея Белякова — о сталинской эпохе с позиции русских парижан

СНОБ
Давайте опять займемся сексом Давайте опять займемся сексом

Как вернуться к доковидной норме, по крайней мере в постели

Men’s Health
«У метавселенной должны быть свои кирпичики» «У метавселенной должны быть свои кирпичики»

Зачем городу нужен цифровой слой и как перенести Петербург в метавселенную

Собака.ru
10 простых способов улучшить свое здоровье меньше, чем за 1 минуту 10 простых способов улучшить свое здоровье меньше, чем за 1 минуту

10 практик - которые качественно повлияют на твое здоровье и самочувствие

Cosmopolitan
Обыкновенные шакалы колонизировали Эстонию меньше чем за десять лет Обыкновенные шакалы колонизировали Эстонию меньше чем за десять лет

В последние десятилетия обыкновенные шакалы быстро расселяются по Европе

N+1
Открыть в приложении