Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Биполярное расстройство: гид по выживанию для тех, кто часто не видит белой полосы» «Биполярное расстройство: гид по выживанию для тех, кто часто не видит белой полосы»

Отрывок из книги «Биполярное расстройство» о БАР изнутри и со стороны

N+1
«Мои дорогие»: как подруги влияют на твои доходы и что с этим делать «Мои дорогие»: как подруги влияют на твои доходы и что с этим делать

Как выбрать окружение, чтобы добиться финансового успеха

Cosmopolitan
Станете ли вы в ближайшие десятилетия киборгом? Станете ли вы в ближайшие десятилетия киборгом?

Когда ученые предложат человечеству «прокачать» мозг с помощью технологий?

Вокруг света
Молекулярно-генетическая экспертиза: как ловят маньяков Молекулярно-генетическая экспертиза: как ловят маньяков

Что такое генетический портрет человека и как он помогает ловить преступников?

Популярная механика
7 загадочных происшествий в Бермудском треугольнике 7 загадочных происшествий в Бермудском треугольнике

Инциденты, произошедшие в связи с таинственным Бермудским треугольником

Популярная механика
Рене Зеллвегер Рене Зеллвегер

Рене Зеллвегер, в свои 50+ выглядит максимум лет на 35. В чём её секрет?

Здоровье
Может ли физика опровергнуть существование Бога Может ли физика опровергнуть существование Бога

Почему мы не видели нарушения законов физики во Вселенной?

Популярная механика
Когда лучше инвестировать в акции Когда лучше инвестировать в акции

Книга «Стоимостное инвестирование в лицах и принципах»

СНОБ
7 фанатских теорий, которые переворачивают фильмы и сериалы с ног на голову 7 фанатских теорий, которые переворачивают фильмы и сериалы с ног на голову

Бран — Король Ночи, агент Смит — Избранный, что? Да!

Maxim
«Критически важная задача — совершить урбанистическую революцию на востоке страны» «Критически важная задача — совершить урбанистическую революцию на востоке страны»

Как укоренить россиян на востоке и сделать макрорегион привлекательным для жизни

Эксперт
Жилеты, четки и страшные маски. Самые популярные автомобильные талисманы Жилеты, четки и страшные маски. Самые популярные автомобильные талисманы

Зачем водители вешают в машину разные предметы и при чем тут суеверия?

РБК
История легендарной обложки альбома Queen II и фотографии, обложкой не ставшие История легендарной обложки альбома Queen II и фотографии, обложкой не ставшие

Как связана Марлен Дитрих с легендарной обложкой альбома Queen II

Maxim
Один город — три судьбы Один город — три судьбы

5 причин посетить Волгоград

Лиза
Как мы живем на 5 млн в месяц: история семьи из Москвы с одним ребенком Как мы живем на 5 млн в месяц: история семьи из Москвы с одним ребенком

История нашей читательницы: как преодолеть стереотипы и начать зарабатывать?

Cosmopolitan
Чем отличается ультрабук от ноутбука и что лучше выбрать Чем отличается ультрабук от ноутбука и что лучше выбрать

Ультрабуки часто сравнивают и путают с ноутбуками

Playboy
Теория поколений: кто идет на смену альфам и в чем их особенность Теория поколений: кто идет на смену альфам и в чем их особенность

Какими будут представители нового поколения

Forbes
Можно ли внедрить человеку искусственные воспоминания: безумные эксперименты Можно ли внедрить человеку искусственные воспоминания: безумные эксперименты

Искусственное внедрение ложных воспоминаний — фантастика или реальность?

Популярная механика
Накопление пластика в Средиземноморье связали с его размером и миграцией из других районов Накопление пластика в Средиземноморье связали с его размером и миграцией из других районов

Группа греческих и итальянских ученых смоделировала накопление микропластика

N+1
Всегда говори “да” Всегда говори “да”

Da Bureau протестировали в своей квартире идеи, которые предлагают заказчикам

AD
Фотограф Арсений Котов, побитый в Каире: «Больше я в Египет ни ногой» Фотограф Арсений Котов, побитый в Каире: «Больше я в Египет ни ногой»

Российский блогер и фотограф Арсений Котов попал в передрягу в Каире

РБК
Как завести виртуальную подругу в симмуляторе отношений, или во что превратился Тамагочи Как завести виртуальную подругу в симмуляторе отношений, или во что превратился Тамагочи

Как люди заводят себе виртуальных подруг в приложениях

Playboy
А почему бы и нет: Брэд Питт и другие звездные мужчины, которые красят ногти А почему бы и нет: Брэд Питт и другие звездные мужчины, которые красят ногти

Кто сказал, что лаком для ногтей ярких цветов могут пользоваться только женщины?

Cosmopolitan
В марсианском углероде нашли экстремальный отрицательный изотопный сдвиг В марсианском углероде нашли экстремальный отрицательный изотопный сдвиг

Как изотопный анализ помогает восстановить события на Красной планете?

N+1
В Сибирь за дипломом В Сибирь за дипломом

Сибирские вузы входят в топы мировых университетов

Эксперт
Под знаком весов Под знаком весов

Диляра Теляшева рассказывает, как семь лет сражалась с нервной анорексией

Tatler
Как выбрать онлайн-курс: простая инструкция, которая пригодится каждому Как выбрать онлайн-курс: простая инструкция, которая пригодится каждому

Чтобы не стать жертвой мошенников, нужно выбирать онлайн-курс тщательно

Популярная механика
Жизненные циклы человека Жизненные циклы человека

Как по дате рождения узнать, что тебе предначертано

Лиза
Полупроводниковые кубиты вступили в квантовую гонку Полупроводниковые кубиты вступили в квантовую гонку

Ученые смогли показать возможности квантовых процессоров на полупроводниках

N+1
Ловушка для тандема: как протесты в Казахстане показали слабость власти Ловушка для тандема: как протесты в Казахстане показали слабость власти

Решение о смене правительства Казахстана вряд ли успокоит митингующих

Forbes
Свинья в губной помаде, лук-порей и лаваш: как понять язык стартапера Свинья в губной помаде, лук-порей и лаваш: как понять язык стартапера

Стартаперы всего мира говорят на специальном стартаперском языке

Forbes
Открыть в приложении