Умный чип спешит на помощь
Искусственному интеллекту нужны не только свежие алгоритмы, но и специальные процессоры, адаптированные под новые задачи. На этом рынке уже полсотни быстрорастущих компаний
В ноябре британский стартап-единорог Graphcore, специализирующийся на создании чипов для работы с искусственным интеллектом (ИИ), объявил о начале масштабного сотрудничества с Microsoft. Доступ к чипам Graphcore получили пользователи облачных сервисов Microsoft Azure — в первую очередь разработчики машинного интеллекта. Graphcore называет свои чипы интеллектуальными процессорами (Intelligence Processing Unit, IPU) и заявляет, что они лучше подходят для обучения нейросетей и выполнения ИИ-алгоритмов, чем другие разновидности микропроцессоров.
Опыт компании, основанной всего три года назад, показывает, что даже на столь замкнутом и давно занятом крупными игроками рынке, как полупроводниковые чипы, можно найти новую нишу. Graphcore была основана в Бристоле в 2016 году и быстро привлекла внимание крупного бизнеса. В конце 2018 года стартап по итогам очередного раунда инвестиций привлек 200 млн долларов, в результате его капитализация составила около 1,7 млрд долларов. Среди его инвесторов — Microsoft, BMW, Dell, Samsung, Sequoia Capital и два десятка других компаний. Кроме того, в бизнес Graphcore инвестировали крупные исследователи технологий ИИ: сооснователь ИИ-компании DeepMind Демис Хассабис, профессор Кембриджа и глава ИИ-лаборатории Uber Зубин Гахрамани, профессор Университета Беркли Питер Аббил.
Спрос на «умное железо» исходит от ИТ-гигантов, стремящихся оптимизировать процессы обработки больших данных. Microsoft, Google и другие ИТ-компании ищут адаптированные под собственные задачи процессоры по меньшей мере с 2012 года. Было предпринято немало попыток создать такие чипы самостоятельно либо в партнерстве с Intel. Еще пять лет назад Microsoft начала использовать для своего поисковика Bing системы FPGA (Field-Programmable Gate Array, программируемые пользователем вентильные матрицы) от Intel. Тогда в Microsoft похвастались, что перевели на новую логику работы целый дата-центр и снизили количество используемых серверов вдвое, сохранив при этом производительность поисковика.
По мере роста объема данных все более широкое распространение получили нейронные сети, и компания стала искать чипы уже под них. Сегодня в Microsoft заняты работой с моделями обработки естественного языка и более эффективного использования нейросетей. Неудивительно, учитывая рост использования различных голосовых и языковых сервисов. Для этого нужны специальные чипы, архитектура которых была бы заточена под выполняемые задачи.
Так и нашла свою удачу британская Graphcore. Договор с Microsoft открывает ей доступ к огромному массиву пользовательских данных и позволит зарекомендовать себя как одного из топ-игроков на рынке умных чипов. «Пользователи по всему миру смогут зайти в Azure и использовать нашу технологию, чтобы выстраивать собственные системы. Это огромный шаг в плане доступности нашей технологии и доказательство уровня ее зрелости», — заявил главный исполнительный директор Graphcore Найджел Тун.
По словам Гириша Баблани, вице-президента Azure Compute в Microsoft, технологии Graphcore расширяют возможности Azure. «Это отвечает нашей стратегической цели оставаться лучшим облаком для ИИ», — поясняет Баблани. Чипы Graphcore нужны Microsoft, чтобы удовлетворить потребности растущей аудитории.
Зачем компаниям умные чипы?
О том, как важно развивать искусственный интеллект и насколько трансформирующее воздействие он окажет на бизнес по всему миру, говорят так много, что практически в каждой крупной стране уже есть свой план развития ИИ. Технологией занимаются не только тяжеловесы вроде Google и Microsoft, но и компании, для которых информационные технологии не основной профиль деятельности (например, ритейлеры). Основные задачи, которые непосредственно решает ИИ сегодня, — распознавание изображений, текста и речи. ИИ-решения постоянно совершенствуются благодаря возможности самообучения на основе больших массивов данных. На эти способности нанизываются более специализированные применения технологии: например, автономное вождение (алгоритм анализирует изображения местности и понимает, в какой момент нужно свернуть или затормозить), предиктивная аналитика (на основании уже полученных данных компьютер строит предиктивные модели), клиентская поддержка (чат-бот анализирует сообщение клиента и формулирует подходящий ответ).
Как подчеркивают отраслевые эксперты, развитие искусственного интеллекта зависит не только от алгоритмов и программного обеспечения. Важную роль играет «железо» — ИИ-ускорители, процессоры, на которых проводится «тренировка» и непосредственно запуск алгоритмов. По данным Allied Market Research, в 2018 году объем рынка ИИ-чипов составил 6,6 млрд долларов, а к 2025 году он, согласно прогнозам, достигнет 91 млрд долларов, то есть вырастет в 14 раз.
Более 60 компаний в мире сегодня разрабатывают собственные микропроцессоры для глубокого обучения или занимаются вопросами интеллектуальной собственности в этой сфере. Например, собственные чипы для ИИ уже создали Google, Intel и Nvidia, разработкой таких процессоров занимается Facebook (соцсеть признана в РФ экстремистской и запрещена). В Amazon недавно представили умный чип, оптимизированный под облачный сервис Amazon Web Services (AWS). Аналитики CB Insights подсчитали, что ИИ-ускорители (чипы для ускорения задач ИИ) разрабатывают как минимум 45 стартапов, и по крайней мере пять из них привлекли более 100 млн долларов инвестиций. Так, в 2017 году в стартапы, специализирующиеся на создании чипов для ИИ, инвестировали более полутора миллиардов долларов.
Graphcore как раз один из таких стартапов. Его главная разработка — чип IPU (Graphcore C2), процессор для параллельных вычислений, созданный для проведения расчетов по распознаванию лица, речи, проведению грамматического разбора текста, управлению автомобилями и обучению роботов. У чипов Graphcore широкая область применения: в компании говорят, что их микропроцессоры могут использоваться автопроизводителями, трейдинговыми фирмами, компаниями, обрабатывающими большие массивы видео- и аудиоданных. Кроме того, чипы IPU можно применять в фундаментальных исследованиях ИИ. Например, в самой Microsoft чипы Graphcore используют для внутренних исследовательских проектов в области ИИ, в частности при обработке естественного языка. Среди первых пользователей чипов Graphcore через облако Microsoft Azure — европейский поисковик Qwant, которому с помощью IPU удалось в три с половиной раза повысить скорость работы своего алгоритма поиска по изображенями ResNext. Инвестиционный фонд Carmot Capital, который также начал использовать IPU в Azure, отметил 26-кратное ускорение работы своих приложений для финансового анализа.
Смелый дизайн
Как отмечают в Graphcore, уникальность чипа C2 в том, что он сохраняет в процессоре всю модель знаний, полученную с помощью машинного обучения. Чип состоит из системы модульных плиток (тайлов), которые могут быть собраны различными способами. Всего в Graphcore С2 1216 тайлов, каждый из которых содержит вычислительное ядро и внутрипроцессорную память. Этой памяти не много, 300 Мбайт на весь процессор, но совокупная скорость работы с ней получается в итоге 45 Тбайт/с. Graphcore С2 может обрабатывать параллельно 7296 потоков кода.
Следует отметить и необычный яркий промышленный дизайн от британских студий Pentagram и Map, которые ставили целью показать, что компьютерное оборудование необязательно должно быть «холодным, темным ящиком, находящимся в такой же холодной комнате».
Помимо самого чипа Graphcore разработала и межпроцессорную шину IPU-Link, которая позволяет 16 чипам обмениваться информацией без задержек, а также программный фреймворк Poplar, с помощью которого можно переносить существующие ИИ-приложения на чипы Graphcore. Poplar интегрируется с библиотекой для машинного обучения Google Tensorflow и экосистемой Open Neural Network Exchange, а к концу 2019 года будет совместима и с библиотекой машинного обучения для языка Python PyTorch компании Facebook (соцсеть признана в РФ экстремистской и запрещена).
Согласно результатам испытаний ИИ-чипов IPU, проведенных Microsoft и Graphcore, при использовании языковой модели BERT для обучения нейросетей в течение 56 часов производительность системы с чипами Graphcore C2 оказалась в три раза выше по сравнению с графическими процессорами. Ннаблюдалось также улучшение латентности: на 20% уменьшилась временная задержка в обработке данных.
От GPU до IPU
Запуск чипов Graphcore C2 на Azure состоялся через неделю после того, как стартап Untether AI из Торонто, также занимающийся разработкой чипов для ИИ, привлек 20 млн долларов венчурного капитала. Более 85 млн долларов инвестиций привлекла и компания Mythic из Калифорнии. На молодом рынке умных чипов уже гигантская конкуренция — не только между компаниями, но и между различными типами оборудования. По мнению отраслевого эксперта из компании Moor Insight Карла Фройнда, пока результаты испытаний, представленные Microsoft и Graphcore, недостаточно сенсационны, чтобы заставить компании и исследователей массово отказаться от программного обеспечения и «железа», которые они уже используют.
Наиболее распространенный сегодня тип ИИ-ускорителей — графические процессоры (Graphics Processing Unit, GPU). От классических центральных процессоров (CPU) GPU отличаются существенно большим количеством вычислительных ядер: если у самых современных CPU 16, 24 или 32 ядра, то у GPU количество ядер исчисляется сотнями. Это позволяет GPU выполнять параллельные вычисления, необходимые для обучения и запуска продвинутых ИИ-алгоритмов. Первоначально GPU предназначались для работы с изображениями — обработки и отображения компьютерной графики. Но как только стало ясно, что математические основы работы нейронных сетей схожи с принципами обработки изображений, GPU начали массово использовать для задач машинного обучения. Именно с ними чипам IPU предстоит конкурировать в первую очередь.
Еще одна разновидность чипов для ИИ — программируемые логические интегральные схемы (ПЛИС), к ним можно отнести и упомянутую выше FPGA. ПЛИС состоят из программируемых логических блоков, интерконнекта и блоков ввода-вывода. Как и IPU, FPGA можно перепрограммировать под новые задачи, однако в отличие от чипа Graphcore у таких интегральных схем нет встроенной памяти. По сравнению с GPU у FPGA более высокая энергоэффективность. FPGA в своих дата-центрах используют Microsoft, Amazon Web Services и Baidu. В FPGA инвестировал Intel, который в 2016 году приобрел крупнейшего производителя таких интегральных схем Altera.
Другая, но более дорогая альтернатива ПЛИС — интегральные схемы специального назначения (ASIC, Application-Specific Integrated Circuit). Эти интегральные схемы изготавливаются под конкретные специализированные задачи, перепрограммировать их нельзя. У ASIC долгий срок производства — до 18 месяцев. Как и FPGA, у ASIC высокая энергоэффективность по сравнению с GPU, однако у FPGA выше производительность в вычислениях с плавающей запятой, чем у ASIC. К этому типу чипов относится, например, тензорный процессор Google (TPU, Tensor Processing Unit), оптимизированный для работы с программной библиотекой машинного обучения Google TensorFlow. Первое поколение TPU было представлено компанией в 2016 году на конференции для разработчиков Google I/O. По словам представителей компании, в самой Google TPU применяется с 2015 года для работы с глубокими нейронными алгоритмами. В 2017 году компания представила обновленный TPU 2.0, который мог и выполнять ИИ-алгоритмы, и обучать нейронные сети. Разработчики также могут получить доступ к TPU через облачные сервисы Google. Собственные ASIC-чипы в прошлом месяце представила и Intel — новые процессоры предназначены специально для работы с ИИ-приложениями в облаке.
В последние годы рынок оказался наводнен массой предложений специализированных чипов от самых разных компаний — и в ближайшие годы вполне можно ожидать появления новых сильных игроков. Цифровая трансформация незаметно создала риски для старых гигантов: на разработку ИИ-чипов брошены усилия в том числе Intel, которая продолжает работу над своим нейропроцессором Nervana. Учитывая многообразие и специфику задач ИИ, одним процессором на этом рынке не обойтись, поэтому лидерам придется потесниться.
Фотографии предоставлены Graphcore
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl