Мыслю, значит, существую
В конце 2023 года весь мир заговорил о сильном искусственном интеллекте. Поводом стало загадочное увольнение главы OpenAI Сэма Альтмана с последующим восстановлением в должности через пять дней. По слухам, одной из причин стал прорыв в создании машинного разума, ставящий под угрозу все человечество. Футуролог Данила Медведев помог «Цифровому Океану» оценить шансы разработчиков на создание сильного ИИ.
Данила Медведев
Российский общественный деятель, философ, футуролог, популяризатор науки. Один из создателей Российского трансгуманистического движения, с июня 2005 года член координационного совета Российского трансгуманистического движения. Председатель Совета директоров российской крио компании «КриоРус». Ведущий «Программы на будущее» на телеканале «Россия-2» (2011–2013). Кандидат экономических наук.
Сильный (общий, универсальный) искусственный интеллект — гипотетическая компьютерная система, способная мыслить, осознавать себя и самообучаться для решения любых задач
OpenAI — американская научно-исследовательская организация, разработчик систем искусственного интеллекта, в том числе GPT-4 и ChatGPT
Могли ли в OpenAI сделать сильный искусственный интеллект?
Зависит от того, что именно мы понимаем под сильным ИИ. Википедийное определение слишком широкое и позволяет всем участникам хайпа — разработчикам, венчурным инвесторам, СМИ — приукрашивать реальность в свою пользу.
Все более-менее согласны с тем, что своей универсальностью сильный ИИ подобен человеческому. Тогда не мешало бы условиться, какие требования мы предъявляем к самим людям. Отвечать на вопросы в чате — это один уровень. Управлять автомобилем, доставлять посылки, укладывать асфальт — другой. Ходить по Москве в теле робота и решать какие-то вопросы — третий. Наконец, создать новый жанр в искусстве или написать симфонию — четвертый.
Определить «общечеловеческий уровень» интеллекта сложно, потому что современное общество практически запрещает нам его измерять — а следом и изучать. Измерения приводят к сравнению, а это уже табу. Когда Джеймс Уотсон заикнулся о том, что уровень интеллекта может коррелировать с расой, он чуть не лишился карьеры — и неважно, что он нобелевский лауреат. В статье 2014 года психолог Эрл Хант указал, что из шести ведущих американских вузов с программами по психологии ни один не изучает интеллект — от греха подальше.
Пока мы стесняемся мериться интеллектами, разработчики натаскивают ИИ на решение «сложных человеческих задач» — учат его играть в шахматы, словно механического турка, сдавать экзамен на адвоката или сочинять рэп. Чтобы получать венчурные деньги, ИИ-стартапам необходимо демонстрировать эффектный «результат» в кратчайшие сроки.
Тот ИИ, который сможет читать рэп, водить машину и выступать в суде, и будет универсальным, разве не так?
Такой подход может направить разработчиков по ложному следу, особенно тех, у которых есть сто миллиардов долларов. Когда у тебя есть сто миллиардов долларов, ты мыслишь немного не так, как обычные люди. К примеру, у певицы Мэрайи Кери есть специальный сотрудник: он подает напитки, чтобы она пила из трубочки. Даже над самыми мелкими проблемами крупные корпорации предпочитают не думать, а просто закидывать их деньгами. В итоге половина людей в развитых странах занята тем, что Дэвид Гребер называл «буллшит джобс».
Применительно к ИИ принцип работает так. Со стороны рынка или даже сообщества экспертов поступают запросы: ваша модель должна уметь водить машину, сочинять сказки, управлять бизнесом. Разработчики оперативно добавляют в программу новые функции, демонстрируют результат — и при этом не делают внутри модели никаких структур, способных порождать интеллект. Так поступают все крупные компании: российские, американские, китайские.
Однако бесконечная сумма подпрограмм никогда не сравняется с универсальным интеллектом. Любой айтишник знает, что с ростом сложности системы затраты на ее поддержку растут квадратично или еще быстрее. Можно до бесконечности пытаться совместить перехватчик, разведчик и стелс-бомбардировщик в одной машине, но дешевле и эффективнее будет сделать три разных самолета.
Человек развил интеллект не потому, что по очереди учился разным вещам. Есть базовые принципы, они породили базовые механизмы, благодаря которым мы можем делать то, что мы делаем, — мыслить. Были буквально две-три функции, не пятьдесят и не сто, которые породили все наши способности.