Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Триумф 57 мм Триумф 57 мм

Новое слово в разработке российских бронемашин

Популярная механика
7 удивительных фактов о Зигмунде Фрейде, которые вы могли не знать 7 удивительных фактов о Зигмунде Фрейде, которые вы могли не знать

Старина Сигизмунд Шломо Фрейд и малоизвестные факты о его жизни и смерти

Популярная механика
Никогда такого не было Никогда такого не было

Самый большой неатомный ледокол России может крутиться на месте

Популярная механика
«Сама виновата». Как оренбургского следователя наказали за неэтичное поведение с жертвой насилия «Сама виновата». Как оренбургского следователя наказали за неэтичное поведение с жертвой насилия

Почему мы так критично реагируем на случаи насилия?

СНОБ
Кубик Осипова Кубик Осипова

Самая ожидаемая и самая крутая головоломка десятилетия

Популярная механика
Русские сезоны. Часть 1 Русские сезоны. Часть 1

Как покоряли мир отечественные танцовщики, художники и музыканты

Культура.РФ
Киберпанк-2021 Киберпанк-2021

Проект нового направления в музыкальной индустрии родился на стыке технологий

Популярная механика
Команда: «Чики» Команда: «Чики»

Актрисы из самого обсуждаемого сериала 2020‑го дают интервью Glamour

Glamour
Новое чувство астрофизики Новое чувство астрофизики

Миссия LISA станет самым большим научным инструментом в истории человечества

Популярная механика
Вселенную лихорадит: температура космоса выросла в несколько раз и чем это может грозить Вселенную лихорадит: температура космоса выросла в несколько раз и чем это может грозить

За восемь миллиардов лет температура вещества во Вселенной выросла втрое

Forbes
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Как грамотно вести социальные сети, если за тобой бдит начальство: советы от сммщика Как грамотно вести социальные сети, если за тобой бдит начальство: советы от сммщика

Увольнение по постам: как не вылететь с работы за свои же соцсети

Maxim
Летящая на волне Летящая на волне

История о том, как летал один из самых необычных сверхзвуковых самолетов

Популярная механика
Интервью с кинокритиком Гордеем Петриком Интервью с кинокритиком Гордеем Петриком

Интервью с 17-летним кинокритиком Гордеем Петриком

СНОБ
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Драгоценный сплав Драгоценный сплав

Елена Стафьева о Chopard Ice Cube Capsule by Marion Cotillard

Weekend
Силой мысли, или что обещает нам Илон Маск Силой мысли, или что обещает нам Илон Маск

Чего же Маск хотел в сфере нейроинтерфейсов, что сделал и что сможет сделать

Популярная механика
Николь Кидман в полный рост: зачем смотреть сериал «Отыграть назад» Николь Кидман в полный рост: зачем смотреть сериал «Отыграть назад»

Сериал «Отыграть назад» затягивает так, что не оторваться

РБК
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Чтобы мечты сбывались Чтобы мечты сбывались

Чтобы изменить жизнь, нужно правильно ставить цели и формулировать желания

Добрые советы
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Новые технологии Renault. Вариаторы Новые технологии Renault. Вариаторы

На что способен новый вариатор Renault?

4x4 Club
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Почему психические проблемы могут казаться нам привлекательными? Почему психические проблемы могут казаться нам привлекательными?

Почему мы стремимся брать пример с героев, страдающих депрессией и зависимостями

Psychologies
Техпарад Техпарад

Новости мира науки и техники

Популярная механика
Радуга над мысом Горн Радуга над мысом Горн

История одного морского круиза

Наука и жизнь
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Предков индейцев пуэбло уличили в топлении льда для выживания во время засух Предков индейцев пуэбло уличили в топлении льда для выживания во время засух

Необычный источник воды помог коренным американцам выжить в засушливом климате

N+1
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
Отбелила кожу, убрала живот: как выглядела Ким Кардашьян до пластики Отбелила кожу, убрала живот: как выглядела Ким Кардашьян до пластики

Рассказываем о пластических операциях Ким Кардашьян

Cosmopolitan
Открыть в приложении