Как работают настоящие нейроморфные микросхемы

Популярная механикаHi-Tech

Компьютерный мозг

Название это уже привычное, хотя на самом деле вычислительные системы устроены совсем иначе. Настоящие нейроморфные микросхемы появились лишь в последнее десятилетие, обещая быструю работу нейросетей и энергопотребление почти столь же низкое, как у живого мозга.

Текст: Роман Фишман

В конце 2019 года разработчики из OpenAI продемонстрировали роботизированный манипулятор Dactyl, отличающийся «ловкостью человеческого уровня». Работой пяти металлических пальцев управляла нейросеть, способная самостоятельно обучаться движения и даже освоившая головоломный кубик Рубика. Для ее подготовки использовали больше тысячи настольных компьютеров и десятки мощных графических систем. Как подсчитали впоследствии эксперты, на них было затрачено около 2,8 ГВт∙ч энергии – количество, которое требует нескольких часов работы целой АЭС.

Для обучения нейросети нужно проанализировать огромные массивы данных – чем больше, тем лучше. На это могут уходить дни и даже недели работы высокопроизводительных и «прожорливых» компьютерных систем. В результате потребности нейросетей в вычислительных мощностях растут быстрее, чем сами эти мощности, обгоняя даже знаменитый закон Мура. По некоторым подсчетам, в 2018 году значительный прогресс в этой области требовал в 300 тыс. раз больше ресурсов, чем в 2012-м, удваиваясь каждые три-четыре месяца. А с увеличением мощностей растут и затраты энергии.

Умножение ядер

При таких вычислениях на компьютер поступает входная информация и наборы коэффициентов – весов, полученных в ходе обучения нейросети. Перемножая векторные данные и матрицы весов последовательно, сеть может с определенной вероятностью выдать правильный ответ – например, заключить с уверенностью 99,99%, что на предъявленном ей изображении показана кошка. Проблема в том, что объемы связанных с этим расчетов колоссальны: мощные глубокие нейросети могут использовать миллионы и миллиарды коэффициентов, а для их обучения требуются терабайты данных.

В итоге важную роль здесь стали играть графические процессоры, которые разрабатывались для похожих операций. Отрисовка трехмерных изображений в режиме реального времени требует несложных, но массовых и быстрых параллельных операций над каждым пикселем. Поэтому, в отличие от основного процессора, видеокарты состоят из тысяч упрощенных вычислительных ядер. Проводя триллионы операций с плавающей точкой в секунду (терафлопс), они с успехом справляются и с нейросетями.

Этот тренд развивают специализированные тензорные процессоры, такие как Google TPU, состоящие уже из десятков тысяч крошечных ядер. Производительность третьего поколения Google TPU составляет целых 420 терафлопс, причем эти процессоры легко объединяются в кластеры. Заявляется, что именно такие микросхемы применялись системой AlphaGo, обыгравшей людей-соперников в го, они же используются для обработки фотографий Google Street View. Однако существует и совершенно иной подход, который предлагают нейроморфные микросхемы, построенные по другой архитектуре.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Техпарад Техпарад

Новости мира науки и техники

Популярная механика
Большая Засечная черта. Часть 2 Большая Засечная черта. Часть 2

История одного из крупнейших фортификационных сооружений Российского государства

Культура.РФ
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
Как Станислав Черчесов превратился из героя чемпионата мира в одного из главных злодеев российского футбола Как Станислав Черчесов превратился из героя чемпионата мира в одного из главных злодеев российского футбола

Разбираемся, почему главного тренера сборной России стали так часто критиковать

GQ
Никогда такого не было Никогда такого не было

Самый большой неатомный ледокол России может крутиться на месте

Популярная механика
Актеры, ушедшие молодыми: Пол Уокер, Хит Леджер, Владислав Галкин и другие Актеры, ушедшие молодыми: Пол Уокер, Хит Леджер, Владислав Галкин и другие

Молодые, красивые, талантливые - они погибли в молодости

Cosmopolitan
Как полюбить будущее и не сойти с ума Как полюбить будущее и не сойти с ума

Артемий Лебедев в российском интернете, как Пелевин – в русской литературе

Популярная механика
Правила современного этикета: что нужно знать о них женщинам? Правила современного этикета: что нужно знать о них женщинам?

Как изменился этикет для женщин

Psychologies
Чем мы дышим Чем мы дышим

Как оцифровать весь воздух в городах

Популярная механика
Американские горки. Почему эйфория от выборов в США долго не продлится Американские горки. Почему эйфория от выборов в США долго не продлится

Чуда, в которое готовы были поверить участники мировых рынков, не случилось

СНОБ
Лена Горностаева Лена Горностаева

Какую часть мужского тела Лена Горностаева считает самой сексуальной?

Playboy
Большая Засечная черта. Часть 1 Большая Засечная черта. Часть 1

История одного из крупнейших фортификационных сооружений Российского государства

Культура.РФ
Убийственный «гипер» Убийственный «гипер»

Все об аэродинамике самого перспективного оружия

Популярная механика
12 вещей, которые использовали вместо денег 12 вещей, которые использовали вместо денег

Во времена натурального обмена в роли денег выступали совершенно разные объекты

Maxim
Микробы от похмелья Микробы от похмелья

Бактерии, которые способны утилизировать алкогольный токсин в кишечнике

Популярная механика
Ветер перемен: как эмигрант с Украины заработал состояние в $1,5 млрд на «зеленой» энергетике в США Ветер перемен: как эмигрант с Украины заработал состояние в $1,5 млрд на «зеленой» энергетике в США

Польски эмигрировал в Америку из Киева с $500 в кармане и четырьмя чемоданами

Forbes
Иллюзия успеха Иллюзия успеха

Четыре истории о талантливых мастерах пускать пыль в глаза

Популярная механика
Как Coca-Cola, Netflix и другие гиганты занимаются благотворительностью: главные тренды КСО в мире и России Как Coca-Cola, Netflix и другие гиганты занимаются благотворительностью: главные тренды КСО в мире и России

Самые популярные форматы взаимодействия бизнеса и НКО на Западе и в России

Forbes
Киберпанк-2021 Киберпанк-2021

Проект нового направления в музыкальной индустрии родился на стыке технологий

Популярная механика
Стресс и выгорание: почему так важно понимать разницу Стресс и выгорание: почему так важно понимать разницу

Представьте себе ситуацию: работы все больше, вы чувствуете себя на нуле...

Psychologies
Цифровое бессмертие Цифровое бессмертие

Sensorium Galaxy – VR-платформа, которая способна преобразить нашу жизнь

Популярная механика
Пангея завтрашнего дня: могут ли континенты снова объединиться Пангея завтрашнего дня: могут ли континенты снова объединиться

Пангея – не единственный суперконтинент в истории Земли

Популярная механика
Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
«Уродливая Вселенная: как поиски красоты заводят физиков в тупик» «Уродливая Вселенная: как поиски красоты заводят физиков в тупик»

Отрывок из книги Сабины Хоссенфельдер о том, как красота направляет исследования

N+1
Робот – лучший повар Робот – лучший повар

Намучившись с самодеятельной кулинарией, он решил поручить эти заботы технике

Популярная механика
«В Москву едут слабаки». Уральский предприниматель — о том, почему вести бизнес в регионах круче «В Москву едут слабаки». Уральский предприниматель — о том, почему вести бизнес в регионах круче

Переезд в Москву — поиск ответа на вопросы: где лучше жить и где лучше работать

Inc.
Радио против видео Радио против видео

Автоматическая посадка крылатого летательного аппарата давно уже не фантастика

Популярная механика
Бизнес, которому не страшен кризис: как тесть и зять стали миллиардерами благодаря свалкам битых машин Бизнес, которому не страшен кризис: как тесть и зять стали миллиардерами благодаря свалкам битых машин

Владельцы свалок аварийных машин из Далласа создали идеальную бизнес-модель

Forbes
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
5 исторических личностей, истории которых бессовестно переврали в фильмах 5 исторических личностей, истории которых бессовестно переврали в фильмах

Тяжело быть знаменитым. В любой момент о тебе могут снять дурацкий фильм

Maxim
Открыть в приложении