Искусственному интеллекту нужны специальные процессоры

ЭкспертHi-Tech

Умный чип спешит на помощь

Искусственному интеллекту нужны не только свежие алгоритмы, но и специальные процессоры, адаптированные под новые задачи. На этом рынке уже полсотни быстрорастущих компаний

Заур Мамедьяров

Внешний вид продукции Graphcore

В ноябре британский стартап-единорог Graphcore, специализирующийся на создании чипов для работы с искусственным интеллектом (ИИ), объявил о начале масштабного сотрудничества с Microsoft. Доступ к чипам Graphcore получили пользователи облачных сервисов Microsoft Azure — в первую очередь разработчики машинного интеллекта. Graphcore называет свои чипы интеллектуальными процессорами (Intelligence Processing Unit, IPU) и заявляет, что они лучше подходят для обучения нейросетей и выполнения ИИ-алгоритмов, чем другие разновидности микропроцессоров.

Опыт компании, основанной всего три года назад, показывает, что даже на столь замкнутом и давно занятом крупными игроками рынке, как полупроводниковые чипы, можно найти новую нишу. Graphcore была основана в Бристоле в 2016 году и быстро привлекла внимание крупного бизнеса. В конце 2018 года стартап по итогам очередного раунда инвестиций привлек 200 млн долларов, в результате его капитализация составила около 1,7 млрд долларов. Среди его инвесторов — Microsoft, BMW, Dell, Samsung, Sequoia Capital и два десятка других компаний. Кроме того, в бизнес Graphcore инвестировали крупные исследователи технологий ИИ: сооснователь ИИ-компании DeepMind Демис Хассабис, профессор Кембриджа и глава ИИ-лаборатории Uber Зубин Гахрамани, профессор Университета Беркли Питер Аббил.

Спрос на «умное железо» исходит от ИТ-гигантов, стремящихся оптимизировать процессы обработки больших данных. Microsoft, Google и другие ИТ-компании ищут адаптированные под собственные задачи процессоры по меньшей мере с 2012 года. Было предпринято немало попыток создать такие чипы самостоятельно либо в партнерстве с Intel. Еще пять лет назад Microsoft начала использовать для своего поисковика Bing системы FPGA (Field-Programmable Gate Array, программируемые пользователем вентильные матрицы) от Intel. Тогда в Microsoft похвастались, что перевели на новую логику работы целый дата-центр и снизили количество используемых серверов вдвое, сохранив при этом производительность поисковика.

По мере роста объема данных все более широкое распространение получили нейронные сети, и компания стала искать чипы уже под них. Сегодня в Microsoft заняты работой с моделями обработки естественного языка и более эффективного использования нейросетей. Неудивительно, учитывая рост использования различных голосовых и языковых сервисов. Для этого нужны специальные чипы, архитектура которых была бы заточена под выполняемые задачи.

Так и нашла свою удачу британская Graphcore. Договор с Microsoft открывает ей доступ к огромному массиву пользовательских данных и позволит зарекомендовать себя как одного из топ-игроков на рынке умных чипов. «Пользователи по всему миру смогут зайти в Azure и использовать нашу технологию, чтобы выстраивать собственные системы. Это огромный шаг в плане доступности нашей технологии и доказательство уровня ее зрелости», — заявил главный исполнительный директор Graphcore Найджел Тун.

По словам Гириша Баблани, вице-президента Azure Compute в Microsoft, технологии Graphcore расширяют возможности Azure. «Это отвечает нашей стратегической цели оставаться лучшим облаком для ИИ», — поясняет Баблани. Чипы Graphcore нужны Microsoft, чтобы удовлетворить потребности растущей аудитории.

Дизайн стоечного шасси в стиле Graphcore от студии Pentagram

Зачем компаниям умные чипы?

О том, как важно развивать искусственный интеллект и насколько трансформирующее воздействие он окажет на бизнес по всему миру, говорят так много, что практически в каждой крупной стране уже есть свой план развития ИИ. Технологией занимаются не только тяжеловесы вроде Google и Microsoft, но и компании, для которых информационные технологии не основной профиль деятельности (например, ритейлеры). Основные задачи, которые непосредственно решает ИИ сегодня, — распознавание изображений, текста и речи. ИИ-решения постоянно совершенствуются благодаря возможности самообучения на основе больших массивов данных. На эти способности нанизываются более специализированные применения технологии: например, автономное вождение (алгоритм анализирует изображения местности и понимает, в какой момент нужно свернуть или затормозить), предиктивная аналитика (на основании уже полученных данных компьютер строит предиктивные модели), клиентская поддержка (чат-бот анализирует сообщение клиента и формулирует подходящий ответ).

Как подчеркивают отраслевые эксперты, развитие искусственного интеллекта зависит не только от алгоритмов и программного обеспечения. Важную роль играет «железо» — ИИ-ускорители, процессоры, на которых проводится «тренировка» и непосредственно запуск алгоритмов. По данным Allied Market Research, в 2018 году объем рынка ИИ-чипов составил 6,6 млрд долларов, а к 2025 году он, согласно прогнозам, достигнет 91 млрд долларов, то есть вырастет в 14 раз.

Более 60 компаний в мире сегодня разрабатывают собственные микропроцессоры для глубокого обучения или занимаются вопросами интеллектуальной собственности в этой сфере. Например, собственные чипы для ИИ уже создали Google, Intel и Nvidia, разработкой таких процессоров занимается Facebook. В Amazon недавно представили умный чип, оптимизированный под облачный сервис Amazon Web Services (AWS). Аналитики CB Insights подсчитали, что ИИ-ускорители (чипы для ускорения задач ИИ) разрабатывают как минимум 45 стартапов, и по крайней мере пять из них привлекли более 100 млн долларов инвестиций. Так, в 2017 году в стартапы, специализирующиеся на создании чипов для ИИ, инвестировали более полутора миллиардов долларов.

Graphcore как раз один из таких стартапов. Его главная разработка — чип IPU (Graphcore C2), процессор для параллельных вычислений, созданный для проведения расчетов по распознаванию лица, речи, проведению грамматического разбора текста, управлению автомобилями и обучению роботов. У чипов Graphcore широкая область применения: в компании говорят, что их микропроцессоры могут использоваться автопроизводителями, трейдинговыми фирмами, компаниями, обрабатывающими большие массивы видео- и аудиоданных. Кроме того, чипы IPU можно применять в фундаментальных исследованиях ИИ. Например, в самой Microsoft чипы Graphcore используют для внутренних исследовательских проектов в области ИИ, в частности при обработке естественного языка. Среди первых пользователей чипов Graphcore через облако Microsoft Azure — европейский поисковик Qwant, которому с помощью IPU удалось в три с половиной раза повысить скорость работы своего алгоритма поиска по изображенями ResNext. Инвестиционный фонд Carmot Capital, который также начал использовать IPU в Azure, отметил 26-кратное ускорение работы своих приложений для финансового анализа.

Смелый дизайн

Как отмечают в Graphcore, уникальность чипа C2 в том, что он сохраняет в процессоре всю модель знаний, полученную с помощью машинного обучения. Чип состоит из системы модульных плиток (тайлов), которые могут быть собраны различными способами. Всего в Graphcore С2 1216 тайлов, каждый из которых содержит вычислительное ядро и внутрипроцессорную память. Этой памяти не много, 300 Мбайт на весь процессор, но совокупная скорость работы с ней получается в итоге 45 Тбайт/с. Graphcore С2 может обрабатывать параллельно 7296 потоков кода.

Следует отметить и необычный яркий промышленный дизайн от британских студий Pentagram и Map, которые ставили целью показать, что компьютерное оборудование необязательно должно быть «холодным, темным ящиком, находящимся в такой же холодной комнате».

Помимо самого чипа Graphcore разработала и межпроцессорную шину IPU-Link, которая позволяет 16 чипам обмениваться информацией без задержек, а также программный фреймворк Poplar, с помощью которого можно переносить существующие ИИ-приложения на чипы Graphcore. Poplar интегрируется с библиотекой для машинного обучения Google Tensorflow и экосистемой Open Neural Network Exchange, а к концу 2019 года будет совместима и с библиотекой машинного обучения для языка Python PyTorch компании Facebook.

Согласно результатам испытаний ИИ-чипов IPU, проведенных Microsoft и Graphcore, при использовании языковой модели BERT для обучения нейросетей в течение 56 часов производительность системы с чипами Graphcore C2 оказалась в три раза выше по сравнению с графическими процессорами. Ннаблюдалось также улучшение латентности: на 20% уменьшилась временная задержка в обработке данных.

Чипы Graphcore C2 IPU — новое поколение микропроцессоров, созданных для задач ИИ

От GPU до IPU

Запуск чипов Graphcore C2 на Azure состоялся через неделю после того, как стартап Untether AI из Торонто, также занимающийся разработкой чипов для ИИ, привлек 20 млн долларов венчурного капитала. Более 85 млн долларов инвестиций привлекла и компания Mythic из Калифорнии. На молодом рынке умных чипов уже гигантская конкуренция — не только между компаниями, но и между различными типами оборудования. По мнению отраслевого эксперта из компании Moor Insight Карла Фройнда, пока результаты испытаний, представленные Microsoft и Graphcore, недостаточно сенсационны, чтобы заставить компании и исследователей массово отказаться от программного обеспечения и «железа», которые они уже используют.

Наиболее распространенный сегодня тип ИИ-ускорителей — графические процессоры (Graphics Processing Unit, GPU). От классических центральных процессоров (CPU) GPU отличаются существенно большим количеством вычислительных ядер: если у самых современных CPU 16, 24 или 32 ядра, то у GPU количество ядер исчисляется сотнями. Это позволяет GPU выполнять параллельные вычисления, необходимые для обучения и запуска продвинутых ИИ-алгоритмов. Первоначально GPU предназначались для работы с изображениями — обработки и отображения компьютерной графики. Но как только стало ясно, что математические основы работы нейронных сетей схожи с принципами обработки изображений, GPU начали массово использовать для задач машинного обучения. Именно с ними чипам IPU предстоит конкурировать в первую очередь.

Еще одна разновидность чипов для ИИ — программируемые логические интегральные схемы (ПЛИС), к ним можно отнести и упомянутую выше FPGA. ПЛИС состоят из программируемых логических блоков, интерконнекта и блоков ввода-вывода. Как и IPU, FPGA можно перепрограммировать под новые задачи, однако в отличие от чипа Graphcore у таких интегральных схем нет встроенной памяти. По сравнению с GPU у FPGA более высокая энергоэффективность. FPGA в своих дата-центрах используют Microsoft, Amazon Web Services и Baidu. В FPGA инвестировал Intel, который в 2016 году приобрел крупнейшего производителя таких интегральных схем Altera.

Другая, но более дорогая альтернатива ПЛИС — интегральные схемы специального назначения (ASIC, Application-Specific Integrated Circuit). Эти интегральные схемы изготавливаются под конкретные специализированные задачи, перепрограммировать их нельзя. У ASIC долгий срок производства — до 18 месяцев. Как и FPGA, у ASIC высокая энергоэффективность по сравнению с GPU, однако у FPGA выше производительность в вычислениях с плавающей запятой, чем у ASIC. К этому типу чипов относится, например, тензорный процессор Google (TPU, Tensor Processing Unit), оптимизированный для работы с программной библиотекой машинного обучения Google TensorFlow. Первое поколение TPU было представлено компанией в 2016 году на конференции для разработчиков Google I/O. По словам представителей компании, в самой Google TPU применяется с 2015 года для работы с глубокими нейронными алгоритмами. В 2017 году компания представила обновленный TPU 2.0, который мог и выполнять ИИ-алгоритмы, и обучать нейронные сети. Разработчики также могут получить доступ к TPU через облачные сервисы Google. Собственные ASIC-чипы в прошлом месяце представила и Intel — новые процессоры предназначены специально для работы с ИИ-приложениями в облаке.

В последние годы рынок оказался наводнен массой предложений специализированных чипов от самых разных компаний — и в ближайшие годы вполне можно ожидать появления новых сильных игроков. Цифровая трансформация незаметно создала риски для старых гигантов: на разработку ИИ-чипов брошены усилия в том числе Intel, которая продолжает работу над своим нейропроцессором Nervana. Учитывая многообразие и специфику задач ИИ, одним процессором на этом рынке не обойтись, поэтому лидерам придется потесниться.

Фотографии предоставлены Graphcore

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Берут – беги Берут – беги

Теневая экономика России настолько велика, что называть ее теневой даже неловко

Esquire
За блокчейн без криптовалют За блокчейн без криптовалют

Трудные отношения Китая и многообещающей технологии блокчейна продолжаются

Эксперт
Забытые права забытого человека Забытые права забытого человека

В России может произойти обновление дискурса прав человека и их переосмысление

Эксперт
Бизнесмены эпохи Лужкова: как сложилась их судьба? Бизнесмены эпохи Лужкова: как сложилась их судьба?

За время, пока Юрий Лужков руководил столицей, выросла целая плеяда бизнесменов

Forbes
Зеленая лихорадка Зеленая лихорадка

Миллиардером инвестбанкира Бориса Йордана сделали не рынки капиталов, а каннабис

Forbes
Что отличает обычного парня от бога в постели? 7 главных признаков Что отличает обычного парня от бога в постели? 7 главных признаков

Ты когда-нибудь задумывался, хорош ли ты в постели или нет?

Playboy
Выйти из сумрака Выйти из сумрака

С балкона небоскреба сорвать сливу или персик — для Китая это уже не фантастика

Вокруг света
Екатерина Решетникова: «Стыдно за то, что бываю несдержанной» Екатерина Решетникова: «Стыдно за то, что бываю несдержанной»

Хореограф шоу «Танцы» на ТНТ о сестре-близнеце и звонке Владимира Путина

StarHit
Финансовый ликбез. Что уже сегодня надо рассказать своему ребенку о деньгах Финансовый ликбез. Что уже сегодня надо рассказать своему ребенку о деньгах

Как сделать своего ребенка финансово грамотным

Forbes
Собрался сделать пирсинг? 6 советов, которые тебе точно пригодятся Собрался сделать пирсинг? 6 советов, которые тебе точно пригодятся

В первый раз делать пирсинг может быть немного страшно

Playboy
Красавчик со стажем Красавчик со стажем

Джейми Дорнан — о буднях отца троих детей и о том, что остается за кадром

Cosmopolitan
Зима и воля: история русского полярника-метеоролога Вячеслава Короткого, который много лет живет на крайнем севере России Зима и воля: история русского полярника-метеоролога Вячеслава Короткого, который много лет живет на крайнем севере России

Вячеслава Короткого называют "самым одиноким человеком на планете"

Esquire
Еда XXI века: 7 трендов, меняющих рынок Еда XXI века: 7 трендов, меняющих рынок

На рынке еды обостряется конкуренция и формируются экосистемы

Forbes
Маги без времени. Отрывок из книги Маги без времени. Отрывок из книги

Новый роман Сергея Лукьяненко — результат литературного эксперимента

СНОБ
Как добавить романтики в отношения: 15 советов для мужчин Как добавить романтики в отношения: 15 советов для мужчин

Простые романтические жесты и знаки внимания, которые поддержат огонь любви

Psychologies
Сети раздора: чего мы ждем от психологов в интернете? Сети раздора: чего мы ждем от психологов в интернете?

Выбирая психолога, мы внимательно изучаем его странички в соцсетях

Psychologies
10 предметов, изменивших историю дизайна 10 предметов, изменивших историю дизайна

Удивительные истории предметов, которые мы видим каждый день

Arzamas
Мое золотце! Мое золотце!

Гадаем с помощью любимых украшений

Лиза
Как превратить коллегу-врага в друга Как превратить коллегу-врага в друга

Рассказываем об эффекте Бена Франклина

Psychologies
Как бывший консультант McKinsey увлекся каббалой, бросил карьеру и построил миллиардный бизнес на «русских» гаджетах Как бывший консультант McKinsey увлекся каббалой, бросил карьеру и построил миллиардный бизнес на «русских» гаджетах

Он начал с продажи заколок, а сегодня владеет производителем гаджетов Elari

Forbes
Нелепые отговорки, которые заставляют нас оставаться с нелюбимыми Нелепые отговорки, которые заставляют нас оставаться с нелюбимыми

Каждый испытывает экзистенциальную необходимость в близости с другим человеком

Psychologies
Горы свернем Горы свернем

Лез-Арк – место во Франции, где скучать точно не придется

Grazia
Вернуть былое величие: убираем царапины на автомобиле своими руками Вернуть былое величие: убираем царапины на автомобиле своими руками

Если вы используете машину, то избежать появления царапин на кузове невозможно

Популярная механика
О природе и типах детских страхов О природе и типах детских страхов

Как нас пугали? Чего мы боялись в детстве, а может, боимся и до сих пор?

СНОБ
Не вставая с дивана: 7 знаменитых музеев с виртуальными экспозициями Не вставая с дивана: 7 знаменитых музеев с виртуальными экспозициями

Рассказываем, в какие музеи можно попасть с помощью современных технологий

РБК
Кто вы, мистер кэроб? Кто вы, мистер кэроб?

С кэробом – альтернативой шоколаду – можно экономить калории и худеть

Худеем правильно
Последний из рода Юсуповых Последний из рода Юсуповых

В 1900 году Юсуповы составили завещание о передаче своих коллекций государству

Караван историй
«Дом с прислугой», который построил М. Найт Шьямалан «Дом с прислугой», который построил М. Найт Шьямалан

В самом разгаре мистический триллер М. Найта Шьямалана «Дом с прислугой»

РБК
Квартира с богемной обстановкой, 63 м² Квартира с богемной обстановкой, 63 м²

Дизайнер не только оформила интерьер, но и написала картины для него

AD
Квартира с актуальной обстановкой, 35 м² Квартира с актуальной обстановкой, 35 м²

Новый модный интерьер для квартиры со старым ремонтом

AD
Открыть в приложении