Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
«Милые люди Олимпиад не выигрывают» «Милые люди Олимпиад не выигрывают»

Фехтование как материал для блокбастера

Огонёк
Зимовье людей Зимовье людей

Как живут российские деревни и поселки, отрезанные от большой земли

Популярная механика
Загнанная в угол гиена зовет на помощь: видео Загнанная в угол гиена зовет на помощь: видео

Самка гиены сражается с гиеновидными собаками

National Geographic
Корабль, рожденный в «цифре» Корабль, рожденный в «цифре»

Модель имперского звездного разрушителя из кубиков LEGO весит почти 20 кг

Популярная механика
В чем заключаются причины дислексии. Отрывок из книги Марианны Вулф В чем заключаются причины дислексии. Отрывок из книги Марианны Вулф

Отрывок из книги Марианны Вулф «Пруст и кальмар: Нейробиология чтения»

СНОБ
Техпарад Техпарад

Новости мира науки и техники

Популярная механика
40-летние у нас и за рубежом: сравниваем звезд-одногодок 40-летние у нас и за рубежом: сравниваем звезд-одногодок

Как выглядят российские и зарубежные звезды, которым исполнилось 40 лет

Cosmopolitan
Art&Science Art&Science

Можно ли объединить науку и искусство

Популярная механика
Адвокат дьяволов Адвокат дьяволов

История адвоката, спасавшего диктаторов и тиранов

GQ
Щит от гиперзвука Щит от гиперзвука

Они быстро настигнут врага в любой точке мира

Популярная механика
История одной песни: советско-германский плагиат «Марш авиаторов», 1923 История одной песни: советско-германский плагиат «Марш авиаторов», 1923

Вот это детектив: то ли фашисты украли у нас песню, то ли мы у фашистов

Maxim
Вояж на батарейках Вояж на батарейках

Долго ли нам осталось ждать пришествия электрической авиации?

Популярная механика
Три мужа и два «Оскара»: удивительная судьба «секси-кошечки» Джейн Фонды Три мужа и два «Оскара»: удивительная судьба «секси-кошечки» Джейн Фонды

Актерская карьера и личная жизнь Джейн Фонда

Cosmopolitan
Занимательная физика Занимательная физика

Мечта всех родителей – обучающие игрушки

Популярная механика
Коронованная принцесса. Как создавались наряды Дианы для сериала «Корона» Коронованная принцесса. Как создавались наряды Дианы для сериала «Корона»

Анна Баштовая — о том, как создавался образ принцессы Дианы в 4 сезоне «Короны»

Esquire
Ниже солнца, выше воды Ниже солнца, выше воды

Беспилотное судно с почти неограниченным запасом хода

Популярная механика

Рассказываем о знаменитостях, чей внешний вид вызывал беспокойство поклонников

Cosmopolitan
За кулисами пуска За кулисами пуска

Старт космической ракеты – зрелище без преувеличения грандиозное

Популярная механика
Верблюжий полк, голуби-камикадзе и еще 5 экспериментов военных США Верблюжий полк, голуби-камикадзе и еще 5 экспериментов военных США

Если вы думаете, что у военных туговато с фантазией, то вы сильно заблуждаетесь

Популярная механика
Голоса. Как учат разговаривать голосовые помощники Голоса. Как учат разговаривать голосовые помощники

Как из машины делают личность

Популярная механика
«Традиции меценатов благополучно продолжаются»: директор Пушкинского музея Марина Лошак — о запрете выставок, финансовом кризисе и жизни после локдауна «Традиции меценатов благополучно продолжаются»: директор Пушкинского музея Марина Лошак — о запрете выставок, финансовом кризисе и жизни после локдауна

Интервью с директором ГМИИ им. Пушкина Мариной Лошак

Forbes
Успеть за 15 секунд Успеть за 15 секунд

Людям надоело притворяться – в TikTok они остаются собой

Популярная механика
Правила жизни Олдоса Хаксли Правила жизни Олдоса Хаксли

Правила жизни автора романа-антиутопии «О дивный новый мир» Олдоса Хаксли

Esquire
Как безумный Майк Хьюз отправился за славой и погиб Как безумный Майк Хьюз отправился за славой и погиб

Пустыня Мохаве что-то шептала в темноте, пока Безумный Майк готовился к полету

Популярная механика
Приключения иностранцев в России Приключения иностранцев в России

Иностранцы вспоминают, как 30 лет назад оказались в новом государстве — России

GQ
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
«Давайте их куда-нибудь сдадим». Неожиданные итоги родительского опроса «Давайте их куда-нибудь сдадим». Неожиданные итоги родительского опроса

Касательно подростков мнение родителей единодушно — всех в интернат!

СНОБ
Нечеловеческий секс Нечеловеческий секс

Почему мы все еще занимаемся сексом по старинке – с живыми людьми?

Популярная механика
Сказки на ночь: 19 книг, которые помогут ребенку уснуть Сказки на ночь: 19 книг, которые помогут ребенку уснуть

Любимые книги, которые стоит читать перед сном

Seasons of life
Открыть в приложении