Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

TESS отыскал экзогиганта у очень маломассивной звезды TESS отыскал экзогиганта у очень маломассивной звезды

TESS вновь обнаружил экзогиганта у маломассивной звезды

N+1
Чтение выходного дня: муки выбора, неоправданные надежды и долгожданная встреча — в рассказе Ольги Птицевой Чтение выходного дня: муки выбора, неоправданные надежды и долгожданная встреча — в рассказе Ольги Птицевой

Трогательная история влюбленности, проверенная расстоянием и временем

Esquire
Почему беспроводные наушники быстро разряжаются Почему беспроводные наушники быстро разряжаются

Причины, по которым беспроводные наушники быстро разряжаются

CHIP
Из бактериальной целлюлозы сделали разлагающиеся в почве соломинки Из бактериальной целлюлозы сделали разлагающиеся в почве соломинки

Бактериальная целлюлоза полностью разлагается в почве за 45 дней

N+1
Сквирт или не сквирт: вопросы, советы, подводные камни Сквирт или не сквирт: вопросы, советы, подводные камни

Рассказываем, откуда берется струйный оргазм и на что он похож

Cosmopolitan
Что такое биотин и как он влияет на волосы Что такое биотин и как он влияет на волосы

Рассказываем о сильных и слабых сторонах биотина

РБК
Устаревшие книги и беззащитные учителя: как решить проблемы современного образования Устаревшие книги и беззащитные учителя: как решить проблемы современного образования

О сложностях российской школы и о том, что и как в ней можно исправить

Forbes
Закат культуры Закат культуры

Почему у древних греков были бег, борьба и гонки колесниц, но не было бобслея

Esquire
Сага о бедрах: почему они нас беспокоят (вне зависимости от типа фигуры) Сага о бедрах: почему они нас беспокоят (вне зависимости от типа фигуры)

Разбираем типы женских фигур и рассуждаем о том, почему бедра — это проблема

Cosmopolitan
Физики уточнили частоту превращения странного B-мезона в античастицу Физики уточнили частоту превращения странного B-мезона в античастицу

Результаты по измерению нейтральных осцилляций странного B-мезона

N+1
10 приложений, которые помогут стать здоровее и счастливее 10 приложений, которые помогут стать здоровее и счастливее

Бросить курить, больше двигаться — для этих целей найдется свое приложение

РБК
Играть на телевизоре без приставки и ПК? Легко, если подключиться к облачному геймингу Играть на телевизоре без приставки и ПК? Легко, если подключиться к облачному геймингу

Как обойтись без консоли и другой технике, и не отказывать себе в топовых играх

CHIP
10 культовых фильмов, которым в 2022-м году исполняется 20 лет 10 культовых фильмов, которым в 2022-м году исполняется 20 лет

В этой подборке мы вспомнили 10 культовых картин, которые празднуют юбилей

Cosmopolitan
В живом виде В живом виде

Наиболее значимые проекты российских авторов на тему экологии

Robb Report
Nebo над полигоном: как российскому стартапу удалось запустить суборбитальную ракету на рекордную высоту Nebo над полигоном: как российскому стартапу удалось запустить суборбитальную ракету на рекордную высоту

Ракета-носитель высотой 3,5 метра преодолела высоту в 20 км

Популярная механика
Диета Николь Кидман: как помолодеть и похудеть на 10 кг за две недели Диета Николь Кидман: как помолодеть и похудеть на 10 кг за две недели

Вот уже несколько лет Николь Кидман сидит на омолаживающей диете

VOICE
Ольга Задоенко, потерявшая детей при пожаре в «Зимней вишне», родила дочь Ольга Задоенко, потерявшая детей при пожаре в «Зимней вишне», родила дочь

После трагедии в «Зимней вишне Ольга Задоенко смогла вернуться к жизни

Cosmopolitan
Техосмотр-2022: кто никогда его не пройдет (важный список для всех) Техосмотр-2022: кто никогда его не пройдет (важный список для всех)

Наиболее частые ошибки, с которыми не получить диагностическую карту

РБК
10 продуктов, которые самые здоровые люди на планете едят каждый день 10 продуктов, которые самые здоровые люди на планете едят каждый день

Что такого бы съесть, чтобы оздоровиться и чувствовать себя на все сто?

Cosmopolitan
Чему родители должны научить детей: 5 главных навыков Чему родители должны научить детей: 5 главных навыков

Какие навыки востребованы в мире? Готовы ли родители привить их своим детям?

СНОБ
Скорая праздничная помощь: как избавиться от изжоги и тяжести в животе Скорая праздничная помощь: как избавиться от изжоги и тяжести в животе

Как устранить последствия праздничных перееданий и что делать, чтобы их не было

Cosmopolitan
Скифские курганы на Дону: погребения амазонок и загадка серебряной накладки Скифские курганы на Дону: погребения амазонок и загадка серебряной накладки

В одном из курганов обнаружено два нетронутых захоронения

Наука и жизнь
Связь по йоте Связь по йоте

Как угольный магнат России Альберт Авдолян сколотил свое миллиардное состояние

Forbes
Гарри Поттер, далматинцы и Мэри Поппинс: 12 лучших фильмов для семейного просмотра Гарри Поттер, далматинцы и Мэри Поппинс: 12 лучших фильмов для семейного просмотра

Самые добрые и вдохновляющие фильмы для всей семьи

Forbes
Самые смешные и уродливые королевские портреты Самые смешные и уродливые королевские портреты

У придворных живописцев тоже бывают профессиональные неудачи!

Maxim
Битц-опрос Битц-опрос

Зази Битц – о серьезном отношении к моде и мечтах о режиссуре

Harper's Bazaar
Психопаты в доме священника: отрывок из романа букеровской финалистки Патриции Локвуд Психопаты в доме священника: отрывок из романа букеровской финалистки Патриции Локвуд

Автобиографическая книга Патриции Локвуд

Forbes
Как выглядели бы звезды, если бы «сменили» цвет глаз — эксперимент VOICE Как выглядели бы звезды, если бы «сменили» цвет глаз — эксперимент VOICE

Цвет глаз кардинально меняет весь внешний вид человека, верно?

VOICE
Тепло ли тебе, девица? Тепло ли тебе, девица?

Минималистичная квартира, “согретая” живыми материалами

AD
10 попыток создать дешевый автомобиль 10 попыток создать дешевый автомобиль

Если денег нет, а ехать надо…

Maxim
Открыть в приложении