«Искусственный интеллект: Краткая история будущего»
Кто нашел способ эффективно обучать нейросети сложным функциям
18 июня 1956 года в кампусе Дартмутского колледжа начался семинар, посвященный созданию умных машин. С этой амбициозной задачей участники планировали справиться в течение всего лишь восьми недель. Конечно, у них не получилось — для того, чтобы хотя бы немного приблизиться к этой цели, потребовалось значительно больше времени. В книге «Искусственный интеллект: Краткая история будущего» («КоЛибри»), переведенной на русский язык Алиной Решетовой, специалист в области искусственного интеллекта Тоби Уолш рассказывает, как шесть простых идей стали основой современных технологий ИИ. Предлагаем вам ознакомиться с фрагментом, посвященным обучению многослойных нейросетей.
Глубокое обучение
Мечты Фрэнка Розенблатта не исчезли вместе с публикацией книги Минского и Пейперта. Один из основоположников искусственного интеллекта Джеффри Хинтон продолжил миссию Розенблатта по разработке искусственного мозга. И в самом деле, Хинтон систематически занимался решением проблем, затронутых в книге.
Джеффри Хинтон (полное имя Джеффри Эверест Хинтон) — праправнук Джорджа Буля. Джордж Буль встречался на нашем пути краткой предыстории искусственного интеллекта как изобретатель «алгебры логики», логики нулей и единиц, использующейся в компьютерах сегодня. Второе имя Хинтона происходит от другого родственника, вошедшего в историю, сэра Джорджа Эвереста, главного геодезиста Индии, в честь которого названа гора.
В 2015 году я присутствовал на праздновании двухсотлетия со дня рождения Джорджа Буля в его альма-матер, Королевском колледже Корка (сейчас носит название «Университетский колледж Корка»). Джеффри Хинтон тоже был там, равно как и несколько других наследников Буля. Гены явно дают о себе знать.
На протяжении всей своей карьеры Джеффри Хинтон был индивидуалистом, не боявшимся следовать неординарному и непопулярному, точь-в-точь как его прапрадед за 200 лет до его рождения. В случае Хинтона, начиная с конца 1970-х годов, он в течение нескольких десятилетий упорно занимался разработкой нейросетей, несмотря на то что эта область была глубоко не в духе времени и невзирая на сильное сопротивление научного сообщества.