Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Невымирающий вид Невымирающий вид

Lada Niva Travel – уже не пирожок, но все еще Niva

Популярная механика
«Заранее решено, что выиграет Березовский»: отрывок о приватизации в России из новой книги Михаила Зыгаря «Все свободны» «Заранее решено, что выиграет Березовский»: отрывок о приватизации в России из новой книги Михаила Зыгаря «Все свободны»

Отрывок из книги «Все свободны» — как проходили залоговые аукционы 1995 года

Forbes
Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Физики объяснили появление параллельных бороздок на известняковых склонах Физики объяснили появление параллельных бороздок на известняковых склонах

Физики установили, как образуются желобковые карры

N+1
Настя Ивлеева Настя Ивлеева

Настя Ивлеева: «Цифровая реальность – это в высшей степени сексуально!»

Playboy
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
Постоянные мозговые штурмы мешают придумывать новые идеи, показало новое исследование Постоянные мозговые штурмы мешают придумывать новые идеи, показало новое исследование

Регулярная практика препятствует развитию творческого мышления

Inc.
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
Правила жизни Дэнни Де Вито Правила жизни Дэнни Де Вито

Правила жизни актера Дэнни Де Вито

Esquire
Шоу должно продолжаться Шоу должно продолжаться

Самые интересные премьеры Женевского автосалона

Популярная механика
Как устроен бизнес экскурсий по крышам Петербурга и чем он не нравится жителям Как устроен бизнес экскурсий по крышам Петербурга и чем он не нравится жителям

Чем руферы Петербурга мешают властям и как легально сделать селфи на крыше

РБК
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
Суперзрение — с очками и без Суперзрение — с очками и без

Сверхспособности, доступные только тем, кто носит очки

N+1
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Рассеянный склероз: причины, симптомы и лечение Рассеянный склероз: причины, симптомы и лечение

Разбираемся, что такое рассеянный склероз и можно ли его вылечить

РБК
Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист

Как определить, что колорист сделал свою работу некачественно: 7 главных ошибок

Cosmopolitan
Зимовье людей Зимовье людей

Как живут российские деревни и поселки, отрезанные от большой земли

Популярная механика
Знакомства без колец: чем закончились самые долгие гражданские браки звезд Знакомства без колец: чем закончились самые долгие гражданские браки звезд

Истории знаменитостей, не заключивших брак, но состоявших в отношениях

Cosmopolitan
Кубик Осипова Кубик Осипова

Самая ожидаемая и самая крутая головоломка десятилетия

Популярная механика
Как сложилась личная жизнь выпускницы «Фабрики звезд» Юлии Михальчик? Как сложилась личная жизнь выпускницы «Фабрики звезд» Юлии Михальчик?

История личной жизни и карьеры Юлии Михальчик

Cosmopolitan
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
Пропавшая без вести: трагическая судьба легендарной детективщицы Агаты Кристи Пропавшая без вести: трагическая судьба легендарной детективщицы Агаты Кристи

Ты знала, что Агата Кристи недолюбливала Эркюля Пуаро?

Cosmopolitan
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Как Чаушеску однажды чуть не разбился на самолете под Москвой Как Чаушеску однажды чуть не разбился на самолете под Москвой

Случилось это возле аэропорта Внуково…

Maxim
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
Что это, доктор? Что это, доктор?

Как ищут новые органы в теле человека — и что находят вместо них

N+1
Гора серебряная Гора серебряная

Как добывают благородные металлы

Популярная механика
Безопасный тренд: как промышленники используют интернет вещей Безопасный тренд: как промышленники используют интернет вещей

Цифровизация производства дает промышленным компаниям колоссальные эффекты

Forbes
Открыть в приложении