Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
MAXIM чуть протрезвел и рецензирует фильм «Еще по одной» с Мадсом Миккельсеном MAXIM чуть протрезвел и рецензирует фильм «Еще по одной» с Мадсом Миккельсеном

В европейских городах тоже водятся пьяные физруки!

Maxim
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Самый распространенный сленг из компьютерных игр, и как его использовать в реальной жизни Самый распространенный сленг из компьютерных игр, и как его использовать в реальной жизни

Если тебе надоело скрывать от коллег, что считаешь их орками

Maxim
Летящая на волне Летящая на волне

История о том, как летал один из самых необычных сверхзвуковых самолетов

Популярная механика
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
По течению реки По течению реки

Небольшой домик на берегу Волги в соответствии с философией ваби‑саби

AD
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Почему насилия в жизни становится меньше, а на экране — больше, и почему миллениалы нравственнее бебибумеров Почему насилия в жизни становится меньше, а на экране — больше, и почему миллениалы нравственнее бебибумеров

Отрывок из книги Стивена Пинкера «Лучшее в нас»

Inc.
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Естественные роды после кесарева невозможны и другие мифы о родах и беременности Естественные роды после кесарева невозможны и другие мифы о родах и беременности

Вокруг родов и беременности давно сложилась своя мифология

Cosmopolitan
Алгоритмические войны Алгоритмические войны

Как битвы будущего видят по ту сторону океана

Популярная механика
Блок питания Блок питания

Арина Кузьмина получила диплом health-коуча и заглянула в наши тарелки

Tatler
20 вещей, которые могут тебе пригодиться в постели 20 вещей, которые могут тебе пригодиться в постели

Объекты и явления, при помощи которых твой секс будет еще великолепнее

Maxim
Лучшее антистрессовое занятие осени и зимы — кормить птиц. Вот как делать это правильно Лучшее антистрессовое занятие осени и зимы — кормить птиц. Вот как делать это правильно

Чтобы кормить птиц правильно, стоит учесть несколько простых, но важных советов

Esquire
Новое чувство астрофизики Новое чувство астрофизики

Миссия LISA станет самым большим научным инструментом в истории человечества

Популярная механика
Шопинг со вкусом Шопинг со вкусом

Какие они, лучшие рынки мира?

Лиза
Топливо больших скоростей Топливо больших скоростей

Прогресс привнес новейшие технологии в систему обеспечения лайнеров топливом

Популярная механика
Ананасы в шампанском — это пульс вечеров! Ананасы в шампанском — это пульс вечеров!

О литературном и гастрономическом вкусе Серебряного века

Наука и жизнь
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
Как зависть помогает заботиться о себе: 5 шагов Как зависть помогает заботиться о себе: 5 шагов

Как использовать зависть себе во благо

Psychologies
Щит от гиперзвука Щит от гиперзвука

Они быстро настигнут врага в любой точке мира

Популярная механика
4 способа защитить себя от оскорблений 4 способа защитить себя от оскорблений

Как справиться с вербальной агрессией?

Psychologies
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
«Шутить над собой не означает освобождения от себя» «Шутить над собой не означает освобождения от себя»

Как читать трагического поэта XX века Пауля Целана

Weekend
Тайна форсажного пламени Тайна форсажного пламени

Что такое форсаж?

Популярная механика
Когда лень полезна. Отрывок из книги психолога Марины Мелия Когда лень полезна. Отрывок из книги психолога Марины Мелия

Психолог объясняет, что такое лень и чем она отличается от прокрастинации

СНОБ
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
10 фактов о русских женщинах c точки зрения иностранцев 10 фактов о русских женщинах c точки зрения иностранцев

Узнай, что иностранцы думают о русских женщинах!

Maxim
Открыть в приложении