Развитие ИИ: играть, чтобы мыслить
Шахматы — это дрозофила искусственного интеллекта.
А. С. Кронрод
На протяжении десятилетий сферы компьютерных игр и искусственного интеллекта (ИИ) развиваются в тесном симбиозе. Многие сейчас думают, что причина этого в улучшении качества и увлекательности игр, ведь действовать против умного противника или иметь толкового союзника гораздо интереснее, чем сталкиваться со случайным их поведением. Однако не все знают, что своим появлением современный ИИ во многом обязан компьютерным играм. То, что начиналось как простые алгоритмы для игр, превратилось в сложнейшие системы, способные обучаться, адаптироваться и в итоге превосходить человеческие возможности. Сейчас мы стоим на пороге нового этапа развития, где граница между игрой и реальностью становится всё более размытой. И, возможно, ИИ, выросший в игровых мирах, в будущем возьмёт на себя ответственность за решение сложнейших задач человечества в реальном мире.
Почему игры тесно связаны с ИИ?
Здесь можно задать встречный вопрос: а что ещё может стимулировать интерес к думающим машинам на начальном этапе развития науки и техники? То, что машины могут производить вычисления, стало понятно ещё в XVII веке, когда Блез Паскаль и Готфрид Лейбниц создали свои арифмометры. Дело было за технической реализацией, для которой тогда ещё не было базы. Но мышление человека всегда ассоциируется с решением логических задач, а вот среди них напрашивающимися для решения с помощью машин в первую очередь были игры. Так что до идеи заставить машины играть подобно человеку оставалось недолго.
Начать стоит с Чарльза Бэббиджа, разработавшего в середине XIX века проект первой универсальной цифровой вычислительной машины — прообраза современных компьютеров. Как и другие прагматичные учёные, он первоначально собирался создать всего лишь очень точный калькулятор для вычисления различных математических таблиц, в первую очередь логарифмических. Однако его помощница Ада Лавлейс, которую часто называют первым программистом, увидела в этой машине огромный потенциал. Будучи романтиком, как и её отец, великий поэт Джордж Байрон, она в статье в 1842 году написала пророческие слова: «Машина могла бы сочинять сложные научные и музыкальные произведения любой степени сложности или масштаба». Правда, сделав такой большой шаг к идее ИИ, одновременно она полагала, что машина не способна породить принципиально новое. Как ни парадоксально, но это отрицание сыграло большую роль в развитии идеи ИИ, поскольку впоследствии оно стимулировало многочисленные дебаты и опровержения, например, со стороны Алана Тьюринга в статье «Вычислительные машины и интеллект».
Лавлейс в определённой степени убедила Бэббиджа, и тот в 1864 году в дневнике записал, что для тестирования своей машины выбрал игру в шахматы. То есть не какую-то вычислительную задачу, а игру, требующую интеллекта. И хотя машина, по независящим от Бэббиджа причинам, так и не была построена, в конце жизни он описал общий алгоритм работы играющего автомата, который производит впечатление написанного в наши дни. Кроме этого, Бэббидж анализировал алгоритмы игры в крестики-нолики и карточного пасьянса.
Работы Бэббиджа вдохновили испанского изобретателя Леонардо Торрес-и-Кеведо, продолжившего его дело на основе электромеханических устройств. В том числе в 1911 году он создал первый в мире шахматный автомат, который уверенно ставил королём и ладьёй мат одинокому королю, управляемому человеком. Хотя этот автомат ещё не умел играть в полноценные шахматы, он сделал главное — показал жизнеспособность подхода.
С тех пор с подачи Бэббиджа шахматы стали «священной коровой» исследований ИИ. Разработка шахматных алгоритмов — их обязательная программа. Соображения, которыми руководствовались их создатели, очевидны: играя в шахматы, человек думает, следовательно, и машина станет мыслящей, если её обучить этой игре. Так что с самого начала развития вычислительной техники игры рассматривались не как развлечение, а как мерило интеллектуальных способностей машины. К тому же, вне всякого сомнения, если ИИ не будет способен обыгрывать человека в стратегические игры, значит, об успехах в решении стратегических задач в реальном мире можно только мечтать. Более того, авторы шахматной программы NSS (1958) Аллен Ньюэлл, Клифф Шоу и Герберт Саймон полагали, что создание успешной шахматной машины нужно не только для более глубокого понимания компьютеров и программ, необходимых для решения сверхсложных задач: это позволило бы проникнуть в самую суть человеческих интеллектуальных начинаний. И они были не одиноки в подобных ожиданиях.
Поэтому шахматные алгоритмы в 1940— 1950-х годах разрабатывали многие основоположники исследований в области ИИ. Среди них один из родоначальников современной вычислительной техники Алан Тьюринг, автор термина «искусственный интеллект» (1956) Джон Маккарти из Массачусетского технологического института (MIT) и даже математики из Лос-Аламоса, где велись работы над американским атомным проектом и трудился сам Джон фон Нейман. Некоторые исследователи разрабатывали также алгоритмы игры в шашки. Очень важную статью «Программирование компьютера для игры в шахматы» в 1950 году опубликовал основатель теории информации Клод Шеннон.
С середины 1950-х работы над шахматными программами начались и в СССР. Причём достаточно успешно. Во всяком случае, программа, разработанная в 1965 году в математическом отделе ИТЭФ, которым руководил один из родоначальников исследования ИИ в СССР Александр Семёнович Кронрод, в 1966—1967 годах одержала победу над программой Маккарти. Последний потом признавался, что хотя у Стэнфорда был лучше компьютер, у ИТЭФ была лучше программа. В 1974 году её усовершенствованная версия, получившая название «Каисса», стала чемпионом мира по компьютерным шахматам*.
* В. Хенкин. «Каисса» — чемпион мира по шахматам. «Наука и жизнь» № 1, 1975 г.
В историю вошла крылатая фраза Кронрода, выбранная эпиграфом к этой статье. Позже Маккарти заметил, что, с одной стороны, шахматы совершенно очевидно не являются «дрозофилой» для всех областей ИИ, но, с другой стороны, и дрозофила не является «дрозофилой» для всех исследований в области генетики.
Любопытный факт. В 1961 году комиссию, созданную Европейским сообществом по атомной энергии (Евратом) для изучения шахматного потенциала компьютеров, возглавил пятый чемпион мира по шахматам, Макс Эйве, блестящий шахматист и специалист в области компьютерных технологий. Примечательно, что комиссия занималась проблемами не только шахмат, но и моделирования человеческого стиля мышления**.
** Тем, кто хочет узнать подробную историю создания шахматных и других игровых программ, можно посоветовать книгу: С. Марков. Охота на электроовец. Большая книга искусственного интеллекта. — Москва, 2024.
Но вернёмся к Тьюрингу, который достоин отдельного упоминания. После окончания Второй Мировой войны Тьюринг трудился в Национальной физической лаборатории (NPL), где занимался разработкой одного из первых компьютеров — ACE (Automatic Computing Engine). В 1945 году в его отчёте среди задач, которые могли бы быть решены при помощи ACE, приведена и игра в шахматы. В 1948 году он вместе со своим другом Дэвидом Чемпернауном разработал алгоритм определения хода в шахматной игре на основе перебора вариантов на заданную глубину, получивший название «Тьюрочемп» (Turochamp). К сожалению, из-за смерти Тьюринга в 1954 году «Тьюрочемп» так и не превратился в компьютерную программу.
Кстати, знаменитый тест Тьюринга, предназначенный для определения, обладает ли машина интеллектом, тоже родился из игры — салонной «игры в имитацию» Викторианской эпохи. По её правилам мужчина и женщина, находящиеся в разных комнатах, беседуют друг с другом, передавая записки через посредника-следователя, которому нужно догадаться, где сидит мужчина, а где — женщина. Его задача усложняется тем, что мужчина пытается имитировать женщину и наоборот. В тесте Тьюринга один из участников общения заменён компьютером, и следователь должен понять, говорит ли он с машиной или с человеком. В случае если он не сможет этого сделать, по мнению Тьюринга, разумно заключить, что машина обладает интеллектом.
Две парадигмы ИИ
Почти сразу после появления работ по ИИ сформировались два направления его развития. Первое было основано на представлении о человеческом мышлении как о логической обработке имеющейся информации и заключалось в непосредственном переносе человеческих знаний в машину в виде наборов данных, правил и алгоритмов. Компьютер затем должен был подобно человеку по заданным логическим конструкциям производить анализ полученных данных. Поскольку всё это описывалось на некоем «человекочитаемом» формальном языке, подобные исследования получили название символического ИИ.
Второе направление строилось на принципиально иных основаниях. Его сторонники предлагали создать модель человеческого мозга и обучить её нужным операциям. Подобные модели они представляли в виде сетей из взаимосвязанных простых элементов, а потому этот подход получил название коннекционизма (от английского connect — связывать, соединять), или несимволического ИИ. Наиболее общей и развитой на этом пути стала идея ИИ как искусственно созданной нейронной сети (ИНС). Элементы в такой сети по аналогии с биологией получили название нейроны, а связи — синапсы. Первую математическую модель ИНС предложили Уоррен Маккалок и Уолтер Питтс в 1943 году. А в виде устройства — перцептрона её в 1958 году разработал Фрэнк Розенблатт. В 1960 году Розенблатт создал первый нейрокомпьютер — «Марк-1», который был способен распознавать некоторые буквы английского алфавита.
До 1990-х годов символический подход доминировал по двум причинам. Во-первых, он был понятен и обещал быстрые результаты, поскольку его сторонникам казалось, что для создания ИИ любой сложности достаточно написать соответствующие программы для компьютера — главное, чтобы его производительности хватило. Во-вторых, для решения сложных задач в альтернативном подходе требовались многослойные (глубокие) ИНС, а для их обучения до XXI века не было нужной технологии. Кроме того, в этом подходе, в отличие от ИНС, всегда можно было понять, почему ИИ принял конкретное решение. Однако добившись значительного успеха в играх, доказательстве теорем, решении задач и создании экспертных систем, символический ИИ плохо действовал при распознавании образов, обработке речи и компьютерном зрении. Здесь более работоспособным оказался несимволический подход.
В XXI веке произошла технологическая революция (немного о ней будет рассказано далее) и восторжествовали ИНС, которые в настоящее время легли в основу подавляющей части индустрии ИИ. Но не надо думать, что труды тех, кто посвятил жизнь символическому ИИ, пропали зря. В науке отрицательный результат — тоже важный результат, тем более что сделанные наработки нашли своё применение. К тому же, символический ИИ ушёл в тень, но не забыт окончательно. Впрочем, это тема для отдельного разговора, а пока вернёмся к играм.
У символического ИИ при всех его достоинствах есть врождённый фундаментальный недостаток, ограничивающий его возможности. Полнота и истинность знаний, закладываемых в систему, зависят от компетентности эксперта, который их предоставляет, а также от возможности их формализовать. Ведь даже умение великолепно играть в шахматы не означает, что игрок знает о них всё и что он способен чётко сформулировать правила, которыми руководствуется при игре. Великому шахматисту, шестому чемпиону мира по шахматам Михаилу Моисеевичу Ботвиннику его умение играть так и не помогло создать шахматную программу, играющую по заданным правилам, несмотря на то, что он потратил на неё последние 25 лет своей жизни.
Гроссмейстер способен дать оценку позиции на доске, лишь взглянув на неё, но он не в силах точно сформулировать весь набор правил, которыми пользовался. Да, он знает понятия слабого поля, слабой пешки, активности и развития фигур, защищённости короля и тому подобное, но их сложно записать в виде строгих логических выражений. А уж о выборе перспективных вариантов для анализа и говорить не приходится. Всё это опирается на интуицию, наработанную с опытом, а её невозможно перевести в математические формулы. Человеческий мозг в ходе обучения создаёт сложные методы анализа информации, которые человек не может полностью осознать.
Для тех, кто не разбирается в шахматах, приведу более простой пример. Я уверен, что вы, как и большинство людей, способны на фотографии отличить кошку от собаки. Однако попробуйте точно описать, как вы это делаете, чтобы человек, никогда не видевший кошек и собак, мог их однозначно различить. Для проверки попытайтесь сами следовать своим инструкциям. Боюсь, у вас будут проблемы.
Игры и технологии, которые ими порождены
Не имея возможности описать интуицию и опыт, создатели первых игровых программ пошли по другому пути. Разрабатывая шахматные программы, они пытались подражать в них игре людей в том смысле, что любой хороший шахматный игрок оценивает позицию и просчитывает разные варианты возможных ходов. Благо и шахматы, и шашки относятся к играм с полной информацией, в которых нет ничего скрытого, а значит, видны все последствия сделанных ходов, в отличие, например, от карточных игр. В этом смысле показателен ответ фон Неймана на вопрос, почему он выбрал первым объектом исследования покер, когда в 1920‑е годы занялся теорией игр. Он ответил, что шахматы — это не игра, а хорошо определённая форма вычислений. Возможно, вы не найдёте все ответы, но в теории должно быть решение для любой позиции. А Кронрод в своей книге «Беседы о программировании» (1964) с иронией заметил, что к шахматам они обратились, когда потерпели фиаско с подкидным дураком.
Но здесь возникла проблема огромного количества вариантов, которые надо рассмотреть, ведь в идеале следует перебрать все варианты своих ходов, затем все варианты ответов противника, затем снова все свои и так далее, пока не будет достигнута победа. Точное число возможных вариантов подсчитать трудно, и существуют разные его оценки. К примеру, Шеннон для партии из 40 ходов насчитал 10120 вариантов. Для сравнения, во всей известной Вселенной насчитывается около 1080 атомов. Даже современные суперкомпьютеры не смогут перебрать столько вариантов за обозримое время, что же говорить о том периоде. Число позиций в шашках значительно меньше, его оценивают в 5×1020, но оно всё равно очень велико. Вот здесь и начинается то, что в определённой степени можно назвать созданием ИИ: поиск эвристических, то есть основанных на интуиции и опыте, способов оценки позиций и последствий ходов, чтобы ограничить число комбинаций при поиске. Этот подход был сформулирован Шенноном в 1949 году. Заметим, что поиск решения просто полным перебором вариантов к интеллекту никакого отношения не имеет.
В следующие четыре десятилетия развитие успешных шахматных программ во многом шло по пути сочетания выборочного перебора вариантов и поиска быстрых и «умных» оценочных функций. Эта эпоха завершилась в 1997 году победой суперкомпьютера Deep Blue, разработанного компанией IBM, над чемпионом мира по шахматам Гарри Каспаровым***. Deep Blue был системой сверхмощного параллельного вычисления, способной анализировать 200 миллионов позиций в секунду. Дальнейшее развитие подобных систем практически достигло предела, но для более сложных игр, таких как го или компьютерные стратегии в реальном времени, нужны не просто огромная вычислительная мощь и жёстко заданные алгоритмы, а принципиально другой подход, который обеспечили ИНС.