Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 невероятных проектов для борьбы с потеплением 5 невероятных проектов для борьбы с потеплением

Как люди собираются противостоять глобальному потеплению

Популярная механика
Орели Валонь: Наши очаровательные невестки. Первая глава Орели Валонь: Наши очаровательные невестки. Первая глава

Отрывок из книги Орели Валонь «Наши очаровательные невестки»

СНОБ
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
5 неочевидных книг Стивена Кинга, которые вам стоит прочесть 5 неочевидных книг Стивена Кинга, которые вам стоит прочесть

Наслаждайтесь удивительным миром Стивена Кинга!

Популярная механика
Киберпанк-2021 Киберпанк-2021

Проект нового направления в музыкальной индустрии родился на стыке технологий

Популярная механика
Кристоф Копен, директор мужской линии COS: «Людям всегда будет нужна одежда. Она неразрывно связана с образом жизни, который ты ведешь» Кристоф Копен, директор мужской линии COS: «Людям всегда будет нужна одежда. Она неразрывно связана с образом жизни, который ты ведешь»

Интервью с Кристофом Копеном, директором мужской линии COS

Esquire
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
«Секс без людей, мясо без животных. Кто проектирует мир будущего» «Секс без людей, мясо без животных. Кто проектирует мир будущего»

Выращенное в лаборатории мясо и его преимуществам над животным аналогом

N+1
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
Неандертальцев уличили в сильном хвате Неандертальцев уличили в сильном хвате

Антропологи построили 3D-модель кисти неандертальца

N+1
С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
4 способа стать популярным у женщин, ничего для этого не делая 4 способа стать популярным у женщин, ничего для этого не делая

Рассказываем, как стать востребованным у женщин, не делая для этого усилий

Maxim
Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Трансформация мышления. Как увеличить вовлечённость сотрудников компании с помощью нового корпоративного портала Трансформация мышления. Как увеличить вовлечённость сотрудников компании с помощью нового корпоративного портала

Продакт-менеджером об особенностях работы в сжатые сроки и важности геймификации

Inc.
Летящая на волне Летящая на волне

История о том, как летал один из самых необычных сверхзвуковых самолетов

Популярная механика
Суверенная электроника: зачем России производство наночипов Суверенная электроника: зачем России производство наночипов

За последние десять лет в России научились делать новые типы микросхем

Inc.
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
В онлайне с головой: как изоляция образования стала угрозой и возможностью одновременно В онлайне с головой: как изоляция образования стала угрозой и возможностью одновременно

Какие шансы и возможности открылись для студентов в эру онлайн-образования?

Forbes
Одомашнивание: новый цикл Одомашнивание: новый цикл

До конца нынешнего десятилетия произойдет очередная революция

Популярная механика
Почему телефон быстро разряжается и как это исправить: 5 советов Почему телефон быстро разряжается и как это исправить: 5 советов

Разбираемся, что делать, если телефон быстро разряжается

CHIP
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Встречай! Встречай!

Новогодний календарь от Cosmo с идеями на каждый день декабря

Cosmopolitan
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
Медитации для любви: Ясс Джалю — о практике счастья в паре Медитации для любви: Ясс Джалю — о практике счастья в паре

Ясс Джалю рассказывает о том, как разобраться в отношениях с собой и с партнером

РБК
Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
Как устроены самолеты-авианосцы: небесные колоссы Как устроены самолеты-авианосцы: небесные колоссы

Каким образом конструкторы работали над решением проблемы защиты авианосцев?

Популярная механика
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Феминитивы и культ языковой вертикали Феминитивы и культ языковой вертикали

Как не стыдиться феминитивов, откуда они берутся и как с ними уживаться

СНОБ
Гора серебряная Гора серебряная

Как добывают благородные металлы

Популярная механика
Как определять подделки через слова-маркеры Как определять подделки через слова-маркеры

Какие слова в описании товаров помогают отличить оригинал от подделки?

СНОБ
Открыть в приложении