Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Двигатель EmDrive: нарушая законы физики Двигатель EmDrive: нарушая законы физики

Этот электромагнитный двигатель опровергает принципы известной нам физики

Популярная механика
Симулятор войны Симулятор войны

Современные дети не играют в войну, зато в нее играют их родители

Популярная механика
Как избавиться от зависти: 8 шагов к тому, чтобы перестать сравнивать себя с другими Как избавиться от зависти: 8 шагов к тому, чтобы перестать сравнивать себя с другими

Избавься от чувства постоянного неудовлетворения и начни жить своей жизнью

Playboy
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Зачем ресторанам нужна барная карта Зачем ресторанам нужна барная карта

Как хорошие коктейли могут вывести ресторан на совершенно другой уровень

GQ
5 невероятных проектов для борьбы с потеплением 5 невероятных проектов для борьбы с потеплением

Как люди собираются противостоять глобальному потеплению

Популярная механика
Как живётся в Арктике белым медведям и людям Как живётся в Арктике белым медведям и людям

Каково это — работать на Крайнем Севере, и как ведется изучение белых медведей?

Наука и жизнь
Маломощные реакторы спасут мирный атом Маломощные реакторы спасут мирный атом

Репутация – главная проблема атомной энергетики в XXI веке

Популярная механика
«Мы сидим на грантовой игле»: как журналистка запустила программу реабилитации для людей с ДЦП «Мы сидим на грантовой игле»: как журналистка запустила программу реабилитации для людей с ДЦП

Интервью с основательницей проекта «Лига мечты» Натальей Белоголовцевой

Forbes
Цифровое бессмертие Цифровое бессмертие

Sensorium Galaxy – VR-платформа, которая способна преобразить нашу жизнь

Популярная механика
Playmate 2020 Playmate 2020

Полуфинал конкурса на самую горячую девушку по версии Playboy

Playboy
Настя Ивлеева Настя Ивлеева

Настя Ивлеева: «Цифровая реальность – это в высшей степени сексуально!»

Playboy
Совсем не лишний вес Совсем не лишний вес

С грустью разглядывая свои складочки на талии, вы впадаете в меланхолию… И зря!

Добрые советы
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
Хватит кричать! Хватит кричать!

Объясняем, как перестать срываться на ребенке

Лиза
Шоу должно продолжаться Шоу должно продолжаться

Самые интересные премьеры Женевского автосалона

Популярная механика
Как начать медитировать: лайфхаки для начинающих Как начать медитировать: лайфхаки для начинающих

Какой бывает медитация и есть ли ограничения?

Psychologies
Как полюбить будущее и не сойти с ума Как полюбить будущее и не сойти с ума

Артемий Лебедев в российском интернете, как Пелевин – в русской литературе

Популярная механика
Правила жизни Дэнни Де Вито Правила жизни Дэнни Де Вито

Правила жизни актера Дэнни Де Вито

Esquire
Робот-буровик и атомный катамаран Робот-буровик и атомный катамаран

Как уникальный опыт России поможет продвинуться в изучении Арктики

Популярная механика
Предков индейцев пуэбло уличили в топлении льда для выживания во время засух Предков индейцев пуэбло уличили в топлении льда для выживания во время засух

Необычный источник воды помог коренным американцам выжить в засушливом климате

N+1
Античный герой Античный герой

Кого люди будут вспоминать через столетия?

Популярная механика
Купить нельзя планировать: как пережить «черную пятницу» и не разориться Купить нельзя планировать: как пережить «черную пятницу» и не разориться

Как противостоять соблазну купить очередную вещь, которая окажется ненужной?

Psychologies
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
10 самых странных фирм в мире 10 самых странных фирм в мире

Самые странные способы зарабатывать деньги

Maxim
Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
Гордей Петрик о новом фильме Андрея Кончаловского «Дорогие товарищи!» Гордей Петрик о новом фильме Андрея Кончаловского «Дорогие товарищи!»

Фильм «Дорогие товарищи!» — высказывание мастерское, мощное, но хитрое

СНОБ
Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
ETF Trucks, или автопоезда грузоподъемностью 6000 тонн ETF Trucks, или автопоезда грузоподъемностью 6000 тонн

Инновационный модульный поезд от компании ETF Trucks

Популярная механика
Открыть в приложении