Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Генетики выявили старейшего известного домашнего кота Китая Генетики выявили старейшего известного домашнего кота Китая

Самая ранняя домашняя кошка жила в VIII или IX веках нашей эры

N+1
Как за 20 лет изменилась девочка из рекламы сока «Моя семья» — мы ее не узнали! Как за 20 лет изменилась девочка из рекламы сока «Моя семья» — мы ее не узнали!

Если в начале нулевых ты смотрела телевизор, то помнишь рекламу сока "Моя семья"

Cosmopolitan
Google показала, как квантовые компьютеры превзойдут мощнейшие суперкомпьютеры Google показала, как квантовые компьютеры превзойдут мощнейшие суперкомпьютеры

Почему шумоподавление это главное в разработке квантовых компьютеров

ТехИнсайдер
6 мифов об аккумуляторах в смартфонах, в которые вы до сих пор верите 6 мифов об аккумуляторах в смартфонах, в которые вы до сих пор верите

Все еще ждете выключения устройства, чтобы наконец его зарядить?

Популярная механика
Автомобиль для королей, рэперов и миллиардеров: 119 лет истории Rolls-Royce Автомобиль для королей, рэперов и миллиардеров: 119 лет истории Rolls-Royce

Rolls-Royce: история, смысл шильдика на капоте и образ владельца сквозь время

Правила жизни
Ввязаться в дело Ввязаться в дело

Мужчина, который вяжет, вызывает чувство удивления и умиления

Домашний Очаг
«Путеводитель зоолога по Галактике» «Путеводитель зоолога по Галактике»

Зачем животные двигаются?

N+1
Добровольцы помогли австралийским зоологам изучить ехидн Добровольцы помогли австралийским зоологам изучить ехидн

Натуралисты-любители загрузили более 8000 фотографий ехидн

N+1
5 причин все же посмотреть «Этерна: Часть первая» 5 причин все же посмотреть «Этерна: Часть первая»

«Этерна: Часть первая» — какой получилась экранизация русского фэнтези

Maxim
Палеогенетики обнаружили в Сирии древнейших гибридных животных Палеогенетики обнаружили в Сирии древнейших гибридных животных

Животные оказались непохожи на обычных лошадей, ослов или онагров

N+1
Какие бывают гонки? Гид по пяти главным видам автоспорта Какие бывают гонки? Гид по пяти главным видам автоспорта

Что такое гонки на выносливость и чем ралли отличаются от трофи? Разбираемся!

Maxim
Нереальные вечеринки Нереальные вечеринки

За что американцы и японцы полюбили «Zoom для тусовщиков»

Forbes
Что Олимпийские игры значат для российских чемпионов Что Олимпийские игры значат для российских чемпионов

Российские чемпионы — об Олимпийских играх в Токио

GQ
Всё о состоянии здоровья Анастасии Заворотнюк – правда и мифы Всё о состоянии здоровья Анастасии Заворотнюк – правда и мифы

Как Анастасия Заворотнюк борется с онкологией, развенчиваем мифы

Cosmopolitan
5 способов справиться с застрявшей в голове мелодией 5 способов справиться с застрявшей в голове мелодией

Как избавиться от «ушного червя»?

Популярная механика
За сколько можно похудеть на 10 кг и больше: 4 женщины рассказали о своем опыте За сколько можно похудеть на 10 кг и больше: 4 женщины рассказали о своем опыте

Историй похудения: этим женщинам удалось похудеть на 10 кг и даже больше!

Cosmopolitan
Витамины для иммунитета мужчин: топ-5 самых главных Витамины для иммунитета мужчин: топ-5 самых главных

Иммунитет скажет тебе "спасибо" за эти витамины

Playboy
Когда жена успешнее: как сохранить счастье в браке — мнение психолога Когда жена успешнее: как сохранить счастье в браке — мнение психолога

Что делать, когда твой успех то и дело пошатывает хрупкое семейное счастье?

Cosmopolitan
У кого больше секса: у женатых или холостых, у молодых или в возрасте? У кого больше секса: у женатых или холостых, у молодых или в возрасте?

Кому достается весь секс, пока некоторым его явно не хватает?

Maxim
Как выбрать онлайн-курс: простая инструкция, которая пригодится каждому Как выбрать онлайн-курс: простая инструкция, которая пригодится каждому

Чтобы не стать жертвой мошенников, нужно выбирать онлайн-курс тщательно

Популярная механика
Куда сходить в Москве: 5 музеев техники, в которых интересно Куда сходить в Москве: 5 музеев техники, в которых интересно

Раритеные ПК, первые компьютеры Apple и машины из "Звездных войн" — музеи Москвы

CHIP
Новое исследование показало, что лекарство от рака Новое исследование показало, что лекарство от рака

Препарат от рака может "вытолкнуть" ВИЧ, оставив вирус открытым для атаки

Популярная механика
«Трагедия Макбета»: шекспировский хоррор «Трагедия Макбета»: шекспировский хоррор

«Трагедия Макбета» Джоэла Коэна — призрачная, сумрачная верность первоисточнику

GQ
Чем дальше в лес Чем дальше в лес

Почвенная версия французского десерта от лучшего шеф-повара России

Tatler
10 самых распространенных кошмаров, и о каких проблемах они сигналят 10 самых распространенных кошмаров, и о каких проблемах они сигналят

Иногда с помощью кошмарного сна твое подсознание пытается до тебя достучаться

Maxim
Композиторы ароматов: кто на самом деле создал Chanel №5 Композиторы ароматов: кто на самом деле создал Chanel №5

Глава о парфюмере Эрнесте Бо и его сотрудничестве с Коко Шанель

Forbes
«Я плохой отец, но человек я загадочный»: архив Эдуарда Лимонова выставлен на аукцион «Я плохой отец, но человек я загадочный»: архив Эдуарда Лимонова выставлен на аукцион

Личные вещи и рукописи неопубликованных произведений Эдуарда Лимонова

Forbes
В России впервые установили зрительный нейроимплант В России впервые установили зрительный нейроимплант

Зрительный имплант был успешно установлен в мозг обезьяны

Популярная механика
Овечкин и вечность Овечкин и вечность

Александр Овечкин из хоккейной звезды превращается в величайшего хоккеиста

Men’s Health
10 самых необычных случаев страхования: кто-то страхует свой член, а кто-то себя целиком... от нападения пришельцев 10 самых необычных случаев страхования: кто-то страхует свой член, а кто-то себя целиком... от нападения пришельцев

Самые необычных случаев страхования

Playboy
Открыть в приложении