Мыслю — значит существую
Полгода назад я установил себе в смартфон приложение TikTok. Мне было интересно посмотреть на эту новую социальную сеть, которую почти каждый успел поругать и обвинить чуть ли не во всех смертных грехах. Её главная особенность — это бесконечная лента из коротких видеороликов, автоматически подстраивающаяся под ваши интересы. Первые несколько дней мне, скажем так, пришлось тяжело, наши интересы категорически не совпадали, но потом что-то произошло.
Занятных роликов стало попадаться всё больше и больше. Сеть очень быстро поняла, что мне нравится смотреть. Притом это не было в привычном для других социальных сетей стиле: «Тебе нравится космос — вот тебе ещё сто роликов про космос». Напротив, она весьма тонко «чувствовала», что и в каком количестве мне показывать, где попробовать какую-то новую тему и как удержать моё внимание. И тогда у меня возникло странное ощущение, как будто касание пальцем экрана смартфона это не результат моего желания смотреть или не смотреть видеоролик, а способ, каким нечто крайне любопытное пристально изучает меня. Поэтому, когда на записи одной радиопередачи я познакомился с человеком, знающим, как устроено это «нечто» по ту сторону смартфона, желание отдельно поговорить с ним об искусственном интеллекте появилось само собой. Этот человек — Игорь Пивоваров, главный аналитик Центра искусственного интеллекта, созданного на базе МФТИ, а ещё он директор конференции по искусственному интеллекту OpenTalks.AI, на которой разработчики машинного разума обсуждают технологии ИИ и бизнес, с ним связанный, а также то, о чём не любят говорить большие компании — об этике искусственного интеллекта.
— Игорь Олегович, чтобы создать искусственный интеллект, нам сначала нужно разобраться с тем, как работает наш «естественный» разум, как говорится, понять самих себя, или лучше пытаться создать интеллект с чистого листа?
— Сфера искусственного интеллекта — это такая большая область исследований, объединяющая самые разные направления, начиная от маленьких и понятных алгоритмов и заканчивая попытками построить искусственный супер-разум. Исследователи в этой области делятся на две большие группы. Одни изучают мозг человека как некоторый идеальный объект, который продуцирует мышление и сознание. Если мы изучим мозг целиком, научимся его моделировать, тогда, возможно, поймём, как устроено мышление и сознание. И мне ближе такой подход. Другие просто делают искусственный интеллект. Они говорят: зачем нам понимать, как устроен мозг. Нас интересует, условно, не «хард», а «софт». А софт не должен быть привязан к железу. Ведь если нужно сделать самолёт, совсем не обязательно повторять взмахи крыльев птиц, крыло самолёта использует другие принципы. В этом смысле вторая группа исследователей, которая ставит перед собой цель создать ИИ как процесс мышления и интеллекта, отбрасывает гипотезу, что мозг — это единственно возможный пример интеллекта.
— Сейчас планета у нас опутана глобальной паутиной интернет-сетей. Может быть, её как-то по-особенному структурировать, и за счёт огромного количества вычислительных ресурсов получится переход количества в качество?
— Вы правы, есть похожие идеи. Например, существует проект «SingularityNET», его основал Бен Гёрцель, математик и исследователь искусственного интеллекта. Смысл проекта в том, что это такой, уж простите за столько нерусских слов, онлайновый реалтаймовый маркетплейс алгоритмов искусственного интеллекта, решающих определённые задачи. По-простому это выглядит следующим образом. Возьмём робота Софию (разработка гонконгской компании Hanson Robotics. — Прим. ред.), которую возят по разным выставкам. На самом деле в ней самой никакого интеллекта нет. Это машина, с датчиками звука и изображения, способная что-то произносить. Тогда как сделать, чтобы София осмысленным образом понимала речь и реагировала на неё? Давайте в неё поставим модуль связи с интернетом и интерфейс, отправляющий определённый пакет аудиоданных в облако, если человек что-то сказал роботу. Дальше в сети объявляется «тендер» на расшифровку звукового файла. За миллисекунды собираются предложения, определяется победитель и он распознаёт аудиозапись, превращая её в текст. Затем объявляется следующий «микротендер» с заданием понять, как на этот текст надо ответить, и так далее.
Можно сказать, что это попытка построить настоящий сильный интеллект сборкой из множества отдельных микросервисов, решающих отдельные микрозадачи, но их так много и они так много решают, что в итоге всегда можно найти что-то, что отвечает текущей потребности. У подобного перехода к так называемому сильному искусственному интеллекту через прямое наращивание мощностей сервисов и обеспечение связи между ними есть свои сторонники. Хотя я не верю в такой подход.
— Вы сказали про сильный искусственный интеллект. Тогда получается, что должен быть и слабый? Как вообще измерить силу машинного интеллекта?
— Это пока не устоявшаяся терминология. Сейчас большинство специалистов склоняются к такому определению, что слабый ИИ — это некая система, которая способна выучиться и хорошо решать какую-то задачу, но только одну. Например, камера, а точнее алгоритм, который распознаёт номера автомобилей. Но поставь этому алгоритму задачу найти на улице Шэрон Стоун, и он уже не справится, потому что натаскан на другое.
Можно сделать алгоритм чуть шире, который сможет и номер распознавать, и людей находить. Но научить его переводить тексты с одного языка на другой уже не получится. А человек универсален, он способен научиться решать очень разные задачи. К тому же у современных алгоритмов искусственного интеллекта есть такая особенность — ката-строфическое забывание. Если модель натаскана на какую-то определённую задачу, а её переучиваешь на другую задачу, то она может и переучиться, но, скорее всего, забудет первую. То есть искусственный интеллект остался узким, просто фокус сместился на другое. Вот это называется слабым ИИ.
А сильный ИИ, его ещё называют «общий», это концепция системы, способной учиться неограниченному перечню задач, не забывая того, чему она научилась до этого! Есть такое определение, что интеллект — это способность адаптироваться к среде, обучаться и решать широкий круг задач, способствующих достижению целей в условиях неопределённости и ограниченности ресурсов. Понятно, что если такая система появится, то она будет учиться, учиться и ещё раз учиться и быстро превзойдёт человека, по крайней мере по спектру решаемых задач. Под сильным ИИ сейчас принято понимать примерно это.
Но есть исследователи, которые считают, что ИИ при этом должен быть ещё выше уровнем, чем человек во всех своих проявлениях. Дальше встаёт вопрос, а что такое уровень человека, люди же все разные, кто-то в шахматы играть не умеет, а кто-то гроссмейстер — с кем сравнивать? Так что сильный ИИ — это некая концепция, над ней много кто работает, и мы в том числе. Мои коллеги и я пытаемся понять, как работает мозг, сделать математические модели, чтобы разобраться, как устроены процессы целеполагания, мотивации, поведения, что нами движет и как это в мозге решается.
— Создание искусственного интеллекта — это теоретическая или практическая работа?
— Сейчас уже практическая, потому что именно последние лет пятнадцать у нас появились возможности ставить эксперименты. Я по образованию физик-теоретик. И одно дело, когда ты придумал теорию, сколь угодно красивую и сложную, но проверить её нельзя, а другое дело — когда ты можешь поставить эксперимент. Эйнштейн, например, создал свою теорию относительности, и она долго была лишь изящной математической конструкцией, а смогли проверить её только через полвека, когда измерили отклонения траекторий спутников. Вот тогда все сказали: «Вау!»