Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Возраст отдельных изображений Альтамиры оценили более чем в 20-30 тысяч лет Возраст отдельных изображений Альтамиры оценили более чем в 20-30 тысяч лет

Рисунки в пещере Альтамира могут иметь возраст в 20-30 тысяч лет

N+1
Как события в Казахстане скажутся на российских металлургах Как события в Казахстане скажутся на российских металлургах

Кто из российских металлургов работает в Казахстане и какие риски могут их ждать

Forbes
Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций

Тараканы-киборги — идеальные помощники для спасательных операций

Inc.
«Событие»: фильм об аборте, который потряс Венецианский кинофестиваль «Событие»: фильм об аборте, который потряс Венецианский кинофестиваль

«Событие» — чем бытовая драма удивила зрителей и прессу?

Forbes
10 продуктов для здоровья волос в пожилом возрасте 10 продуктов для здоровья волос в пожилом возрасте

Как связаны здоровье волос и продукты, которые вы едите?

ТехИнсайдер
Руки-ножницы Руки-ножницы

Что происходит в российском модном образовании?

Vogue
Как сделать паузу в отношениях Как сделать паузу в отношениях

Как корректно взять перерыв в отношениях и никого не обидеть

GQ
Перестарались! Пять актеров, которые зашли слишком далеко ради роли Перестарались! Пять актеров, которые зашли слишком далеко ради роли

Многие актеры заходят слишком далеко в попытках слиться с персонажем

Cosmopolitan
Малярия против сифилиса, нефть против чумы: как лечили в разных странах в 17-20 веках Малярия против сифилиса, нефть против чумы: как лечили в разных странах в 17-20 веках

Вирусы, как и время, никогда не стоят на месте

Playboy
15 лучших британских сериалов на Netflix 15 лучших британских сериалов на Netflix

Лучшие шоу из Великобритании, которые можно посмотреть на Netflix

Правила жизни
Как различение звуков спаривания комаров поможет нам контролировать малярию? Как различение звуков спаривания комаров поможет нам контролировать малярию?

Как у комаров связаны спаривание и слух

Популярная механика
Камышовки нашли дорогу домой благодаря магнитным указателям остановки миграции Камышовки нашли дорогу домой благодаря магнитным указателям остановки миграции

Камышки завершают миграцию в точках с определенным магнитным наклонением

N+1
11 упражнений с гирей для новичков и профессиональных спортсменов 11 упражнений с гирей для новичков и профессиональных спортсменов

Тренировки с гирей улучшают общее состояние организма

РБК
Гоночный Tarf II: кто придумал и изобрел двойную машину-катамаран Гоночный Tarf II: кто придумал и изобрел двойную машину-катамаран

А вот для автомобиля катамаранная спаренная схема – это нонсенс

Популярная механика
12 продуктов, в которых содержится много железа 12 продуктов, в которых содержится много железа

Восполнить недостаток железа помогут продукты из нашего списка

Cosmopolitan
Как научиться экономить и копить деньги: простые способы тратить меньше Как научиться экономить и копить деньги: простые способы тратить меньше

Наши советы помогут грамотно распределить семейный бюджет

Лиза
Счастье своими руками. 3 простых шага и 4 полезные техники Счастье своими руками. 3 простых шага и 4 полезные техники

Ты и без помощи психологов и коучей можешь добиться желаемого

Лиза
Несломленная свобода Несломленная свобода

Как паркур в Газе нашел свой собственный мир среди войны

Men’s Health
Лучше спросить заранее: популярные вопросы в области стоматологии Лучше спросить заранее: популярные вопросы в области стоматологии

Что нового появилось в современной стоматологии?

Популярная механика
Недооцененный продукт: зачем есть чечевицу Недооцененный продукт: зачем есть чечевицу

Рассказываем, чем полезна чечевица и можно ли ей заменить мясо?

РБК
Они - родня! Как выглядят тайные родственники Хэнкса, Брандо и других звёзд Они - родня! Как выглядят тайные родственники Хэнкса, Брандо и других звёзд

Мы немного покопались в генеалогии звезд Голливуда и выяснили много интересного

Cosmopolitan
Какие сигналы обществу подает новогодний кинопрокат Какие сигналы обществу подает новогодний кинопрокат

Какой диагноз обществу ставят картины «Портрет незнакомца» и Don’t Look Up

СНОБ
След амура: как быстро убрать засос в домашних условиях След амура: как быстро убрать засос в домашних условиях

Как можно быстро убрать засос на шее и других видных и пикантных местах

VOICE
«В «В

Насколько деструктивными бывают действия психологов в сериалах?

РБК
История одного здания: «Художественный» История одного здания: «Художественный»

История московского кинотеатра «Художественный» насчитывает больше 100 лет

Культура.РФ
Была первым поставщиком кроссовок Nike и проиграла ей рынок: история Asics Была первым поставщиком кроссовок Nike и проиграла ей рынок: история Asics

Asics — как компания начинала и сражалась с Nike

VC.RU
Как повлиял на мировую моду Андре Леон Телли Как повлиял на мировую моду Андре Леон Телли

Скончался один из самых колоритных персонажей в фешн-индустрии Андре Леон Телли

СНОБ
Сытные, бюджетные, полезные: диеты, которые легко соблюдать зимой Сытные, бюджетные, полезные: диеты, которые легко соблюдать зимой

Благодаря этим диетам можно прийти в форму без стресса и голодовок

Cosmopolitan
Полупроводниковые кубиты вступили в квантовую гонку Полупроводниковые кубиты вступили в квантовую гонку

Ученые смогли показать возможности квантовых процессоров на полупроводниках

N+1
От обеда в водопаде до ужина в тюрьме: 6 самых уникальных ресторанов мира От обеда в водопаде до ужина в тюрьме: 6 самых уникальных ресторанов мира

Эти рестораны заставят тебе забыть о еде и её стоимости

Playboy
Открыть в приложении