ИИ — иллюзия интеллекта?
Наверное, нет темы сегодня более обсуждаемой и «горячей», чем искусственный интеллект. Что же это такое? Существует ли он на самом деле? Какие перспективы открывает? Какие опасности может таить? Как получить одно и избежать другого?
В диалоге — Константин Воронцов, доктор физико-математических наук, профессор РАН и Наталия Лескова, специальный корреспондент журнала «Наука и жизнь».
КВ: Искусственный интеллект — это название, которое в 1956-м году на Дартмутском семинаре придумали для новой области исследований. Тогда оно олицетворяло мечту учёных создавать умные компьютерные программы, способные решать интеллектуальные задачи, ранее посильные только людям. Время идёт, мечта развивается и обрастает подробностями. ИИ — это зонтичный термин, охватывающий большое число технологий. Я занимаюсь этой областью более тридцати лет, ещё со студенческих времён. Забавно наблюдать, как всё это время учёные придумывают новые термины и названия. Сами же хихикают, что опять нашу область переименовали. Каждый раз название подчёркивает какой-то новый аспект: распознавание образов, машинное обучение, большие данные, бизнес-аналитика, науки о данных — но, по существу, это всё то же самое, только под новым шильдиком. Что касается термина «искусственный интеллект», он был не в моде довольно долго. Когда я пришёл в науку в 90-е годы, затем и в нулевые, это было чуть ли не ругательством. Во-первых, потому, что вокруг ИИ всегда было много некомпетентных спекуляций, фантазий и просто словоблудия. Во-вторых, искусственным интеллектом называли технологии, которые как раз к тому времени себя слегка дискредитировали. Шла всемирная «зима искусственного интеллекта», уже вторая по счёту. Это была реакция научного и индустриального сообщества на перегретые ожидания. Сначала казалось, что вот-вот наступит эра умных программ, но на прорыв не хватило вычислительных мощностей, объёмов данных, хитроумной математики, и на исследования в области нейронных сетей опять урезали финансирование. В других направлениях исследования никогда и не прекращались — машинное обучение и анализ данных всегда находили массу применений. Ведь искусственный интеллект не есть что-то единое. Это и не объект, и не субъект, и не программа на каком-то сервере. Это общее название для множества разрозненных технологий, которые создаются разными командами в разных точках мира для решения очень разных задач.
НЛ: Понятно, что интеллект — это сумма технологий, как говорил Станислав Лем. А в смысле интеллекта — он существует? Мы ведь даже не понимаем, что такое человеческий интеллект, как же можем создавать искусственный?
КВ: Дело в том, что этот термин вырвался за пределы научного сообщества, где люди относятся к терминам легко и с долей иронии, понимая, откуда что взялось. Когда обыватель слышит про искусственный интеллект в СМИ, у него возникают в голове образы из массовой культуры, Терминатора или Матрицы, чего-то страшного или, наоборот, великого и всемогущего. У специалистов это вызывает раздражение, а в позитивном ключе — понимание, насколько огромен объём просветительской работы, которую необходимо проводить с людьми. Начиная с объяснения, что мы неправильно употребляем слова. Мы не вправе применять к искусственному интеллекту глаголы активного действия, якобы он что-то сделал, решил, впервые убил человека…
НЛ: На самом деле убил?
КВ: Да, была такая новость пару лет назад. Но даже в случае применения автономных видов вооружения на поле боя или в контртеррористических операциях приказ о применении беспилотника отдаётся и исполняется людьми. Обычные обывательские вопросы «а что, если он выйдет из-под контроля?» или «а что, если он начнёт уничтожать своих или гражданских?» в равной степени относятся к обращению с любым видом оружия, не обязательно высокотехнологичного. Ответственность всегда несут люди. Железка сама ничего не делает, её всегда кто-то запускает, даже если она с электроникой и самонаводящаяся.
НЛ: Истории о том, как беспилотники убивают людей, мы слышим сегодня чуть ли не каждый день. И понятно, что беспилотники делают это не по своей воле.
КВ: То, о чём мы слышим, — это, главным образом, беспилотники, которыми управляет оператор. Если беспилотник летит, ориентируясь по местности самостоятельно, а не по внешнему сигналу, то это уже весьма продвинутый искусственный интеллект с компьютерным зрением. Однако решение о выполнении боевой задачи всё равно будет принимать оператор. Делать беспилотники более автономными пока все боятся. Есть масса рисков, и нужно ещё много времени на исследования, прежде чем такого рода технологии станут по-настоящему надёжными.
НЛ: Учёные стремятся создавать всё более совершенные технологии, которые мы называем искусственным интеллектом. Может, у них в конце концов получится создать что-то, превосходящее человеческий интеллект? Во многих отношениях уже удалось — в том, например, чтобы считать большие данные.
КВ: Мы много уже создали такого, что по вычислительным возможностям превосходит человека. Компьютер может вычислять с такой скоростью и точностью, какие самым продвинутым гениям недоступны. Тем не менее мы это интеллектом не называем — это просто вычисления. Есть даже такое понятие — «эффект искусственного интеллекта», его ввела Памела Маккордак в книге 2004 года «Машины, которые думают». Допустим, мы создаём компьютерную систему для решения какой-нибудь трудной интеллектуальной задачи — выдачи кредитов, медицинской диагностики, разведки полезных ископаемых, игры в шахматы или в го. Так вот, каждый раз повторяется одна и та же история: когда технология создана и способ решения стал понятен, все говорят: «какой же это интеллект, опять всего лишь вычисления». Даже сейчас, когда появились большие языковые модели, впервые в истории ИИ обладающие сотнями эмерджентных способностей, мы всё равно говорим, что это не интеллект, а вычисления. Похоже, мы вообще не в состоянии провести чёткую грань между интеллектом и «просто вычислениями». Нейронные сети огромного размера обучились человеческому языку по текстам всего интернета, впитали его в себя, растворили в себе и теперь могут говорить с нами на все эти темы. Оставаясь вычислительной технологией.
НЛ: И мы это называем интеллектом.
КВ: Важно не как оно называется, а какие возможности даёт и что представляет собой по сути. По сути, это языковой интерфейс к знаниям, накопленным человечеством. Поисковые системы появились лет тридцать назад, и мы быстро привыкли ими пользоваться: написал запрос — получил ответ. Это был сильный прогресс: не надо ходить в библиотеки, любую информацию можно найти немедленно. Поисковик стал для нас обыденностью, и мы не называем его искусственным интеллектом, хотя зря — задачи ранжирования решаются именно методами искусственного интеллекта. Большие языковые модели дали нам новую возможность: теперь вместо коротких запросов и просмотра поисковой выдачи мы можем поговорить с чат-ботом о любой нужной нам теме, уточнить просьбу, получить разъяснения. А что поменялось? Внутри всё та же гигантская коллекция текстов из Интернета, изменился только способ её представления (он стал неточным) и способ коммуникации с пользователем (он стал на порядок удобнее). Никакого интеллекта подлинного, то есть похожего на человеческий, там и раньше не было, и теперь быть не может. Но это спор о терминах — что мы готовы называть интеллектом. Пока строгого определения не существует, это слово нельзя считать научным термином, сейчас это спекулятивное понятие.
НЛ: Интеллекта там не может быть вообще никогда или только на нынешнем этапе развития технологий?
КВ: Иллюзия интеллекта появилась из-за того, что нейронная сеть, большая языковая модель, была обучена по огромному массиву текстов, порождённых всей письменной историей человечества и оказавшихся в свободном доступе в Интернете. То есть это не собственный интеллект нейросети, а отражение коллективного человеческого разума, да ещё искажённое, прошедшее через «бутылочное горлышко» письменного текста. Однако скоро к этим текстам добавится поток картинок, видео, звука, речи, сигналов с любых датчиков. Возможно, такой огромный объём информации создаст новую, гораздо более мощную иллюзию интеллекта. Нам будет казаться, что такая модель способна понимать окружающий мир и эффективно действовать в нём. Но будет это делать каким-то новым, совершенно не человеческим, способом. Возможно, она будет чувствовать электромагнитные поля, радиацию или вибрации окружающей среды, как рыбы в воде.
НЛ: Это будет сверхсовершенная машина.
КВ: Машина со сверхчеловеческими сенсорными способностями. При этом она будет способна обо всём этом поговорить на человеческом языке, потому что все те же тексты Интернета ей будут по-прежнему доступны. Это тот путь к общему искусственному интеллекту, которым мы уже идём, всё это довольно скоро появится.
НЛ: Зачем это нужно?
КВ: Интеллектуальные роботы смогут ориентироваться по обстановке и выполнять те задачи, которые раньше можно было возложить только на человека, а может, и сверхзадачи — в космосе, в воздухе, в океане, в толще Земли. Потоки мультимодальной информации со всех сенсоров будут обрабатываться, переводиться в единое пространство внутренних описаний, смыслов. Это позволит роботам не только ориентироваться в окружающем мире, но и разговаривать обо всём этом с людьми. Сейчас мы идём к таким технологиям семимильными шагами.
НЛ: Но не станут ли эти роботы заменой человеку?
КВ: Станут, и слава богу. Космос и глубины океана бесконечно агрессивны по отношению к человеческому телу, и мне кажется, что не нужно людей туда отправлять. На предыдущем полувековом этапе развития космонавтики, воспетом фантастами, мы слишком привыкли к мечте о том, что люди сами полетят осваивать космическое пространство. Теперь ясно, что скорее произойдёт другое: машины, снабжённые сверхчеловеческим интеллектом и способностями к восприятию, легко преодолевая убийственные для человека радиацию, скорость и время, будут снабжать нас потоком информации о дальних планетах и космосе. Люди будут с Земли управлять миссией стратегически, а тактические задачи ИИ будет решать сам. Это может быть целый рой искусственных интеллектов, для повышения надёжности выполнения миссии.
НЛ: Какие ещё функции вы могли бы на них возложить?
КВ: Помощь в познании мира, в развитии науки и технологий. Помощь в защите Земли от всевозможных катаклизмов — от нас самих, от истощения ресурсов, изменения климата, падения астероидов. Это функции человеческой цивилизации на Земле. Нам будут нужны для этого всё более эффективные помощники.
НЛ: Познание мира — это удовлетворение своего любопытства?
КВ: Я бы так не сказал. Это довольно грубое упрощение. Познание — это нечто гораздо большее. Мы добываем и постоянно расширяем наши знания, чтобы создавать технологии и делать нашу жизнь удобнее. Мы всё больше узнаём о микромире, живой и неживой материи, о космосе, о самих себе, истории общества, эволюции жизни на Земле.
НЛ: О том, как мы сюда попали.
КВ: Да. Знания позволяют делать нашу жизнь сначала безопаснее, а затем и комфортнее. Уровень комфорта необходим, чтобы высвободить время для познания, творчества, изобретательства. Иначе мы бы только и делали, что выживали, как первобытные люди. Чем больше технологии ограждают нас от природных угроз, тем больше у нас появляется времени на познание и созидание. Эти процессы ускоряют друг друга. В этом и есть суть прогресса. Разумеется, не всё так гладко. Мы сами являемся хищными социальными животными, постоянно воюем за ресурсы и доминирование. Совершенствуя технологии, мы создаём всё больше угроз для самих себя, окружающей среды и жизни на Земле. Поэтому нам необходимы сдерживающие нас самих факторы — мораль, этика, закон, баланс возможностей и угроз технологического развития.
НЛ: Как вы думаете, у всех людей есть такая потребность творить, созидать, думать о морали и этике? Мне кажется, полно людей, которых вполне устраивает рутинный исполнительский труд.
КВ: Люди разные, в каждом намешано всего, в каких-то пропорциях. Многое зависит от воспитания, от среды. Если человек рос в агрессивной социальной среде, он всю жизнь будет озабочен самозащитой. Умников и мечтателей в такой среде закономерно презирают и осаживают. Такой социум обречён на стагнацию и прозябание. В цивилизованном обществе человек развивается в атмосфере эмпатии и творчества, где стремление к знаниям и овладение нужной обществу профессией одобряется и поощряется.