Компания Meta выпустила языковую модель, которая понимает устную речь

N+1Hi-Tech

Нейросеть от Meta (признана экстремистской организацией на территории РФ) узнает 4017 языков по устной речи и ответит на 1107 из них

Она обучалась на библейских текстах

Виктория Земляк

036d47669be5b6a9ee36339f7fab444e.jpg
Torre de Babel (Вавилонская башня). Pieter Brueghel the Elder / Wikimedia Commons

Компания Meta (признана экстремистской организацией на территории РФ)* выпустила языковую модель, которая понимает устную речь. Она распознает более 4000 языков и может разговаривать на 1107 из них. Meta (признана экстремистской организацией на территории РФ) считает, что модель поможет сохранить языковое разнообразие в мире. Статья опубликована на сайте компании, код модели доступен на гитхабе.

*Деятельность компании Meta запрещена в России.

Обычно модели распознавания речи обучаются на больших объемах данных: им требуются тысячи часов аудиозаписей. При этом каждой записи должен соответствовать текст, чтобы модель научилась сопоставлять звучащую и письменную речь. Такие большие датасеты можно собрать только для популярных языков, на которых говорит много людей. Всего в мире существует около 7000 языков, но современные системы распознавания речи поддерживают не более 200 из них.

Команда инженеров из компании Meta (признана экстремистской организацией на территории РФ) под руководством Майкла Аули (Michael Auli) обучила большую модель для распознавания речи Massively Multilingual Speech (MMS), которая может общаться на 1107 языках и распознавать 4017. Нейросеть обучалась на религиозных записях. Исследователи собрали два датасета: один с аудиозаписями и соответствующими текстами и второй только с аудиозаписями.

fe065aa4c134af4b7f5dca22405e1e58.jpg
Карта языков, которые поддерживает модель. Фиолетовые и зеленые: определение языка, только фиолетовые: превращение речи в текст. Auli et al. / research.facebook, 2023

Первый датасет состоит из 55 тысяч аудиозаписей, на которых люди зачитывают вслух тексты из Нового Завета. Всего в Новом Завете 27 книг и 260 глав. Данные собирали из трех источников: Faith Comes By Hearing, GoTo.Bible и YouVersion. Во второй датасет попали 7,7 тысяч часов аудиозаписей с сайта Global Recordings Network: это религиозные песни, записи отрывков из Библии и других религиозных текстов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как стать половым гигантом? 6 абсолютно трешовых идей (и мы их не советуем) Как стать половым гигантом? 6 абсолютно трешовых идей (и мы их не советуем)

Как стать половым гигантом? 6 абсолютно трешовых идей (и мы их не советуем)

Playboy
История на свалке: эти вещи закопали в XVI веке из-за подозрения, что владельцы заражены чумой История на свалке: эти вещи закопали в XVI веке из-за подозрения, что владельцы заражены чумой

Люди так боялись заразиться чумой, что выбрасывали даже серебряные монеты

Вокруг света
Прозрачная вода и никакой слизи: как почистить дачный бассейн перед летом Прозрачная вода и никакой слизи: как почистить дачный бассейн перед летом

Как поддерживать бассейн в чистоте, чтобы он не стал местом размножения бактерий

ТехИнсайдер
Четырехкрылый квадрокоптер научили маневрировать с помощью ветра Четырехкрылый квадрокоптер научили маневрировать с помощью ветра

Инженеры из компании Elythor разработали квадрокоптер-конвертоплан

N+1
Враг рабства, исследователь Африки и «певец» британской исключительности: как вошел в историю Давид Ливингстон Враг рабства, исследователь Африки и «певец» британской исключительности: как вошел в историю Давид Ливингстон

Кто такой и чем прославился Давид Ливингстон

Вокруг света
Палки в колеса Палки в колеса

Истории из жизни мастера спорта по маунтинбайку Ивана Кунаева

Men Today
Правила жизни Александра Абдулова Правила жизни Александра Абдулова

Правила жизни актера, режиссера и народного артиста Александра Абдулова

Правила жизни
Алексей Никитин Алексей Никитин

Алексей Никитин с детства мыслил кадрами, структурирующими истории

Правила жизни
Не только Не только

Шоу, в которых Керему Бюрсину удалось проявить свой талант

VOICE
Деменция на подходе: как распознать болезнь — 8 признаков Деменция на подходе: как распознать болезнь — 8 признаков

Как не пропустить деменцию?

Psychologies
Эволюция русалочки: нужен ли под водой темный цвет кожи Эволюция русалочки: нужен ли под водой темный цвет кожи

Существует ли эволюционная выгода для русалок от темной кожи под водой?

СНОБ
Алгоритмы против инфляции: что такое флэткоины и помогут ли они криптоинвесторам Алгоритмы против инфляции: что такое флэткоины и помогут ли они криптоинвесторам

Флэткоин — это новая криптовалюта, цена которой привязана к стоимости жизни

Forbes
Анализ скопившегося за 2200 лет гуано указал на смену рациона андских кондоров Анализ скопившегося за 2200 лет гуано указал на смену рациона андских кондоров

Ученые реконструировали историю андских кондоров

N+1
В поисках формулы живого света В поисках формулы живого света

Интервью с человеком, который занимается исследованиями биолюминесценции

Наука и жизнь
Окрашивание шатуш: варианты, подходящие цвета и уход за волосами Окрашивание шатуш: варианты, подходящие цвета и уход за волосами

Шатуш — один из самых известных вариантов окрашивания

РБК
Изящная сирень Изящная сирень

Как ухаживать за сиренью?

Лиза
Захотелось перекусить ночью? 5 продуктов, которые можно себе позволить! Захотелось перекусить ночью? 5 продуктов, которые можно себе позволить!

Вот несколько советов для любителей ночных перекусов

ТехИнсайдер
Что такое «синдром счастливчика» и почему позитивное мышление не всегда полезно Что такое «синдром счастливчика» и почему позитивное мышление не всегда полезно

Способно ли позитивное мышление изменить жизнь человека?

Maxim
Кто охраняет Меган Маркл, Бейонсе и других звезд - самые крутые телохранители Голливуда Кто охраняет Меган Маркл, Бейонсе и других звезд - самые крутые телохранители Голливуда

Искать компанию звездам не приходится - рядом всегда будет бодигард

VOICE
Почему на Руси носили кокошники? Почему на Руси носили кокошники?

Марьяна Скуратовская рассказала, как появился старинный русский головной убор

Культура.РФ
Железные правила большого бизнеса Железные правила большого бизнеса

Как фитнес помогает в бизнесе

Men Today
Хирурги впервые внутриутробно прооперировали сосудистый дефект мозга Хирурги впервые внутриутробно прооперировали сосудистый дефект мозга

Хирурги провели внутриутробную эмболизацию вены Галена

N+1
Мобилизация по-екатеринински Мобилизация по-екатеринински

Как беспрецедентный рекрутский набор помог России в войне с Турцией

Дилетант
Настроим фокус. Неожиданные причины ухудшения зрения (и как связана близорукость с плоскостопием) Настроим фокус. Неожиданные причины ухудшения зрения (и как связана близорукость с плоскостопием)

Приобретенная близорукость влияет не только на нашу способность видеть

Лиза
Кирилл Крок: «У меня нет амбиций быть худруком. Если завтра выяснится, что где-то есть молодой Мейерхольд, я сам к нему поеду» Кирилл Крок: «У меня нет амбиций быть худруком. Если завтра выяснится, что где-то есть молодой Мейерхольд, я сам к нему поеду»

Кирилл Крок рассказал о своей работе в Театра Вахтангова

Коллекция. Караван историй
Ваш курьер уже в пути! Как дроны доставляют грузы в места, где нет дорог? Ваш курьер уже в пути! Как дроны доставляют грузы в места, где нет дорог?

Беспилотники, доставляющие грузы без дорог – по воздуху

ТехИнсайдер
Анатомия газлайтинга: как развиваются такие отношения — подробная хронология Анатомия газлайтинга: как развиваются такие отношения — подробная хронология

Как люди попадают в ловушку газлайтеров?

Psychologies
Иван Ешуков Иван Ешуков

Работы Ивана Ешукова — внебрачный сын андерграунда и классической гравюры

Правила жизни
Как подключить второй монитор к компьютеру и зачем это делать Как подключить второй монитор к компьютеру и зачем это делать

Многие пользователи задумываются о том, как подключить два монитора к компьютеру

CHIP
«Следует прислушиваться к женщинам в вопросах мира»: как работают «Матери Беслана» «Следует прислушиваться к женщинам в вопросах мира»: как работают «Матери Беслана»

О взаимодействии с властью и о голосах женщин на Северном Кавказе и о том

Forbes
Открыть в приложении