Не просто «чёрные ящики»: как нейросети применяют не для замены людей, а для изучения работы мозга
Модели, часто критикуемые за непрозрачные алгоритмы, отлично подходят для исследований в неочевидных, на первый взгляд, целях.
В 2011 году в глубоком обучении произошла революция, после чего нейросети превзошли людей в распознавании объектов. С тех пор человечество всё больше полагается на глубинные нейросети или Deep neural networks. Их применяют в беспилотных автомобилях, смартфонах, соцсетях и многих повседневных вещах.
Однако с развитием глубокого обучения усилилась и критика такого подхода. Самая частая претензия, которую начали предъявлять нейросетям — их непрозрачность: зачастую даже сами исследователи не в курсе, как именно алгоритмы принимают решение. Но группа исследователей в Стэнфордском университете решила использовать эту особенность нейросетей на пользу науке — для изучения работы человеческого мозга. На это обратили внимание в Quanta Magazine.
Как нейросети начали применять для изучения мозга
Глубинные нейросети отличаются от привычных нейронных сетей тем, что используют множество уровней для постепенного извлечения информации из необработанных данных. Это позволяет им быть более гибкими, универсальными в применении и моделировать более сложные данные с меньшим количеством ресурсов. Например, при обработке изображения одни уровни такой нейросети могут распознавать области по краям, а другие — определять лица, текст или цифры.
Глубокие нейронные сети можно научить выявлять закономерности, например, определённых животных на изображениях. В процессе обучения алгоритм сам отрегулирует связи между виртуальными «нейронами» и научится связывать входные данные с корректной меткой. В идеале глубинную нейросеть после единоразовой тренировки можно использовать для распознавания данных, которые она никогда не видела.
Один из главных прорывов в работе над нейросетями с глубоким обучением произошёл в 2011 году. Тогда доктор наук в вычислительной нейробиологии MIT Дэниел Яминс создал систему, которая могла бы распознавать объекты на изображениях вне зависимости от их размеров, позиции и других свойств — то, что с лёгкостью даётся людям, но в те годы ещё не удавалось машинам.
Я чётко помню, как мы обнаружили нейросеть, которая действительно решает эту задачу. Было два часа утра, слишком рано, чтобы будить моего советника или других коллег, поэтому я решил пройтись по холоду в Кэмбридже. Я был очень взволнован. Дэниел Яминс, доктор наук в вычислительной нейробиологии MIT
Работа Яминса стала выдающимся достижением в области искусственного интеллекта и в том числе обеспечила им такое мощное развитие в течение нескольких следующих лет. Но для учёного и его коллег-нейробиологов система оказалась поворотным моментом по другой причине — она позволила серьёзно приблизиться к разработке вычислительных моделей функций мозга.
В итоге Яминс и его советник Джеймс Дикарло возглавили лабораторию в Стэнфордском университете, где нейросети используют не для того, чтобы превзойти людей или облегчить им жизнь, а чтобы лучше понять, как работает человеческий мозг.