Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Средневековье в латах» «Средневековье в латах»

Как умирали и какие раны наносили друг другу средневековые воины

N+1
«В равенстве нет ничего сложного»: как Элис Пол возглавила борьбу суфражисток в США «В равенстве нет ничего сложного»: как Элис Пол возглавила борьбу суфражисток в США

Как Элис Пол добилась того, чтобы пункт о равенстве полов внесли в устав ООН

Forbes
Почему нельзя сдавать пауэрбанк в багаж Почему нельзя сдавать пауэрбанк в багаж

Что может случиться, если сдать power bank в багаж самолета?

CHIP
Другой разговор! Другой разговор!

Какую диету выбрать, чтобы держать себя в форме? И нужно ли вообще ее выбирать?

Лиза
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Почему новогодние праздники — лучшее время попробовать интервальное голодание Почему новогодние праздники — лучшее время попробовать интервальное голодание

Попробуем начать новую жизнь — но без мучительных диет и подсчета калорий

Cosmopolitan
«С самых низов»: как Дина Хабирова прошла путь от хостес до успешного ресторатора «С самых низов»: как Дина Хабирова прошла путь от хостес до успешного ресторатора

Дина Хабирова уже более 25 лет работает в ресторанном бизнесе

Forbes
«Мемориал»* в цифрах и фактах «Мемориал»* в цифрах и фактах

История организации, исследовавшей политические репрессии в СССР

Дилетант
Эффект стереотипов: почему мы симпатизируем одному миллиардеру сильнее, чем группе богачей Эффект стереотипов: почему мы симпатизируем одному миллиардеру сильнее, чем группе богачей

Почему мы терпимо относимся к богатству отдельных людей?

VC.RU
Как ухаживать за кожей лица мужчинам: соблюдаем 5 важных этапов Как ухаживать за кожей лица мужчинам: соблюдаем 5 важных этапов

Тебе кажется что уход за кожей — только для девчонок? А вот и зря

Playboy
«Самое страшное — оказаться в пургу вне станции»: полярник о жизни и работе в Арктике и Антарктиде «Самое страшное — оказаться в пургу вне станции»: полярник о жизни и работе в Арктике и Антарктиде

Кто такие полярники, чем они занимаются и в чем сложность их работы?

VC.RU
Как получить права в 2022 году. Все цены и изменения Как получить права в 2022 году. Все цены и изменения

Цена обучения в автошколе, изменения в практике и зачем ужесточать теорию

РБК
Съешь меня: 5 научных фактов о бананах Съешь меня: 5 научных фактов о бананах

Как бананы влияют на здоровье и кому могут навредить?

РБК
11 знаменитых актеров и актрис, которых мы не видели молодыми 11 знаменитых актеров и актрис, которых мы не видели молодыми

Мы привыкли видеть их в обрамлении седин и морщин, а они тоже были молодыми!

Maxim
Как эмоции влияют на зачатие, и почему у некоторых женщин бывает психологическое бесплодие? Как эмоции влияют на зачатие, и почему у некоторых женщин бывает психологическое бесплодие?

Успешное зачатие и вынашивание ребенка имеет и психологическую составляющую

9 месяцев
Аэробатика: взгляд из самолёта, выполняющего фигуры высшего пилотажа Аэробатика: взгляд из самолёта, выполняющего фигуры высшего пилотажа

Как летчики выполняют фигуры пилотажа?

Популярная механика
Не путай с черными точками: что такое сальные нити и почему их нельзя трогать Не путай с черными точками: что такое сальные нити и почему их нельзя трогать

С проблемой забитых пор, пожалуй, встречалась каждая из нас!

Cosmopolitan
Ела бы и ела: Какие продукты еще сильнее разжигают аппетит Ела бы и ела: Какие продукты еще сильнее разжигают аппетит

Если ты хочешь похудеть, стоит избегать этих продуктов

Лиза
Этот рецепт Nestlé купила за $1 и заработала на нём несколько миллиардов долларов: история печенья с шоколадной крошкой Этот рецепт Nestlé купила за $1 и заработала на нём несколько миллиардов долларов: история печенья с шоколадной крошкой

Как Рут Уэйкфилд изобрела «антидот от Великой депрессии»

VC.RU
Все о диетах: самые популярные и эффективные Все о диетах: самые популярные и эффективные

Нутрициологи сходятся во мнении, что диеты часто идут во вред, а не на пользу

РБК
На лицо ужасные, сладкие внутри:  8 тропических фруктов, на которые хоть и страшно смотреть, а попробовать все же стоит На лицо ужасные, сладкие внутри:  8 тропических фруктов, на которые хоть и страшно смотреть, а попробовать все же стоит

Эти фрукты для многих кажутся диковатыми и совершенно несъедобными

Популярная механика
Как примириться с февралем? Как примириться с февралем?

Вместо Пушкина нужно взять томик Фроста

GQ
Как быстро убрать второй подбородок: все возможные способы Как быстро убрать второй подбородок: все возможные способы

Как избавиться от второго подбородка в домашних условиях

VOICE
Фотограф Юрий Рост: Каждое время оставляет человеку возможность подкручивать усы вверх Фотограф Юрий Рост: Каждое время оставляет человеку возможность подкручивать усы вверх

Фотограф Юрий Рост — о времени, профессии и правилах жизни

СНОБ
Инфантильный мужчина: 5 признаков парня, который ищет мамочку Инфантильный мужчина: 5 признаков парня, который ищет мамочку

Как уберечь себя от пожизненной позиции мамы для инфантильного мужчины?

Cosmopolitan
Где ты был, Адам?Где ты был, Адам? Где ты был, Адам?Где ты был, Адам?

Рок-музыкант Адам Левин и модель Бехати Принслу живут в гармонии с природой

Tatler
Эксперты раскрыли секрет о том, что делает женщин несчастными и как это исправить Эксперты раскрыли секрет о том, что делает женщин несчастными и как это исправить

Что на самом деле делает женщину счастливой

ТехИнсайдер
Гамбезон: легкий доспех Средневековья Гамбезон: легкий доспех Средневековья

Гамбезон — один из самых популярных доспехов средневекового воина

Популярная механика
Была первым поставщиком кроссовок Nike и проиграла ей рынок: история Asics Была первым поставщиком кроссовок Nike и проиграла ей рынок: история Asics

Asics — как компания начинала и сражалась с Nike

VC.RU
Советские солдаты возле убитого двойника Гитлера Советские солдаты возле убитого двойника Гитлера

В мае 1945 года по Берлину распространился слух, что обнаружен труп Гитлера

Дилетант
Открыть в приложении