Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На египетской картине нашли библейский синий На египетской картине нашли библейский синий

Из чего древние египтяне делали редкую краску — библейский синий

N+1
Манкала: игра, которая покорила мир Манкала: игра, которая покорила мир

Манкала — игра, основа которой прикладная математика

Популярная механика
Революционное продвижение: как бизнесу попасть в ответы нейросетей Революционное продвижение: как бизнесу попасть в ответы нейросетей

Как сформировать цифровой след, который читают нейросети

Forbes
Что делать, если начинаешь заболевать: 6 проверенных шагов, чтобы не разболеться Что делать, если начинаешь заболевать: 6 проверенных шагов, чтобы не разболеться

Как поймать болезнь на ранней стадии?

Cosmopolitan
Что скрывает от нас подземка: 10 интересных фактов о московском метро Что скрывает от нас подземка: 10 интересных фактов о московском метро

Московское метро — незаменимый транспорт, про который мы не все знаем

ТехИнсайдер
Умный шляпник Умный шляпник

Виртуозное владение ремеслом не мешает Нику Фуке создавать бунтарский стиль

Robb Report
Походы и катание в упряжках: как работает хаски-деревня в Подмосковье Походы и катание в упряжках: как работает хаски-деревня в Подмосковье

Как наша героиня построила турбазу и продает походы с хаски?

VC.RU
Чтение выходного дня: «Любимое уравнение профессора» Ёко Огавы — добрый роман о бескорыстной дружбе и о том, какую роль в нашей жизни играет память Чтение выходного дня: «Любимое уравнение профессора» Ёко Огавы — добрый роман о бескорыстной дружбе и о том, какую роль в нашей жизни играет память

Отрывок из прекрасной истории о роли памяти в нашей жизни от Ёко Огавы

Esquire
Без тряпки во рту. В прокат выходит фильм-победитель Венецианского кинофестиваля — «Событие» Одри Диван Без тряпки во рту. В прокат выходит фильм-победитель Венецианского кинофестиваля — «Событие» Одри Диван

Зачем смотреть фильм «Событие» Одри Диван и как он связан с мировым контекстом?

СНОБ
«Быть обнаженной в 62 года сложно»: Эмма Томпсон смогла преодолеть стеснение «Быть обнаженной в 62 года сложно»: Эмма Томпсон смогла преодолеть стеснение

Эмма Томпсон поделилась наблюдениями о красоте женского тела

Cosmopolitan
Иван Стилиди. В потоке Иван Стилиди. В потоке

Беседа с хирургом и онкологом Иваном Стилиди

Караван историй
Как славянская мифология покорила весь киномир Как славянская мифология покорила весь киномир

Как нечисть отечественного производства составила конкуренцию гламурным вампирам

СНОБ
Почему выпадают волосы и как вернуть объем прическе Почему выпадают волосы и как вернуть объем прическе

Волосы стали выпадать сильнее? Для этого наверняка есть причины

VOICE
Смех сквозь слезы: комедии о жутких жизненных ситуациях Смех сквозь слезы: комедии о жутких жизненных ситуациях

Драмеди, над которыми можно и посмеяться, и поплакать

Cosmopolitan
Суррогатное материнство — больше не стыдно: доказываем на примере звезд Суррогатное материнство — больше не стыдно: доказываем на примере звезд

Кто из знаменитостей стал счастливым родителем, обратившись к суррогатной матери

VOICE
Как зарабатывать состояния во время войн и мировых кризисов: советы гуру инвестиций Как зарабатывать состояния во время войн и мировых кризисов: советы гуру инвестиций

Отрывок из книги «История инвестиционных стратегий»

Forbes
Как правильно ставить цели на новый год Как правильно ставить цели на новый год

Как ставить цели так, чтобы точно их достичь?

Maxim
От Инстасамки до Давы: эти блогеры разбогатели благодаря пластическим операциям От Инстасамки до Давы: эти блогеры разбогатели благодаря пластическим операциям

После череды пластических операций, жизнь этих блогеров изменилась

Cosmopolitan
Литературная диета и чтение за гаражами: как, когда и зачем читать Литературная диета и чтение за гаражами: как, когда и зачем читать

Как строить свои отношения с чтением

РБК
10 важных устройств 2021 года 10 важных устройств 2021 года

2021 год в гаджетах: роботы-курьеры, планшеты, маячки, наушники

VC.RU
Виктимблейминг: почему люди обвиняют жертв насилия и что с этим делать Виктимблейминг: почему люди обвиняют жертв насилия и что с этим делать

Что заставляет людей обвинять жертв и оправдывать насилие?

Forbes
10 типичных конфликтов в салоне красоты: ты не должна платить за это 10 типичных конфликтов в салоне красоты: ты не должна платить за это

Конфликты в салоне красоты: тебе не придется платить за чужие ошибки

VOICE
ДК Лурье ДК Лурье

Как историк Лев Лурье строит Петербург будущего

Собака.ru
«Аллея кошмаров»: любите цирк, цирк, цирк «Аллея кошмаров»: любите цирк, цирк, цирк

«Аллея кошмаров» состоит из разных сюжетов, но композиция ее закольцовывается

GQ
Психологи выяснили, сколько секса мужчине надо для счастья Психологи выяснили, сколько секса мужчине надо для счастья

Что важнее для счастья — секс или деньги

Maxim
Болевые точки: почему появляются язвы во рту и как их лечить Болевые точки: почему появляются язвы во рту и как их лечить

Кто склонен к образованию неприятных язвочек в полости рта и что с ними делать

Cosmopolitan
Идеально после праздников: 10-минутная йога для подтянутого живота Идеально после праздников: 10-минутная йога для подтянутого живота

Уделяем 10 минут в день йоге, и живот быстро подтянется!

Cosmopolitan
Почему не стоит брать смартфон с 1 или 2 Гбайт оперативной памяти? Почему не стоит брать смартфон с 1 или 2 Гбайт оперативной памяти?

Почему 1-2 Гбайт оперативки в телефоне — слишком мало?

CHIP
Игра фактур Игра фактур

Современный, функциональный интерьер с яркими акцентами

SALON-Interior
Злой тостер и ужас Греты Тунберг. Что иностранцы думают о российских авто Злой тостер и ужас Греты Тунберг. Что иностранцы думают о российских авто

Про русские машины охотно снимают ролики европейские блогеры и автожурналисты

РБК
Открыть в приложении