Киборги и робовладельцы
Как технологии изменят общество? Сохранятся ли в будущем государства? Грозит ли нам вытеснение роботами, как изменится человек и чей мозг будет напрямую подключен к компьютеру? О мире XXI века прогноз сделал футуролог Евгений Кузнецов.
В 1993 году математик и писатель Вернор Виндж заявил: появление искусственного интеллекта, превосходящего человеческий, приведет к молниеносным и непредсказуемым переменам, так что весь опыт прошлого окажется бесполезен. Насколько эта концепция актуальна сейчас?
Я скептически отношусь к идее молниеносных перемен. Технологический перелом может быть быстрым, но общество перестраивается медленнее. Сейчас формируется новая глобальная политико-экономическая модель на новом технологическом, информационном и коммуникационном фундаменте. Чтобы этот фундамент превратился в новый порядок производства вещей и управления обществом, потребуется еще 10–15 лет. Меняются технологии производства еды и вещей, транспорт, связь, энергетика. Радикальный сдвиг в базовых технологиях запускает трансформацию общества: возникают новые отрасли, новые владельцы инфраструктуры и новые способы координации действий между людьми. Так было с колесом, сельским хозяйством, интернетом. Но при каждой смене уклада общество менялось глубоко, а человеческая природа оставалась той же. Поэтому я не жду появления абсолютно другого человека. В движение придут фундаментальные параметры жизни: ее продолжительность, структура общества, разделение труда между человеком и машиной. Изменения будут резкими, но их логика останется исторически знакомой: новая технология сначала ломает прежнее устройство общества, а затем общество долго собирает вокруг нее новые институты.
Здесь разворачивается еще один сюжет. Пока ИИ остается инструментом, вопрос стоит о безопасности и контроле, а не о его правах. Но если ИИ получит память, собственные цели, способность осознавать свое положение и принимать решения, отношение к нему изменится. В XXII веке наше стремление навсегда закрепить разумную систему в статусе вещи может выглядеть так же архаично, как древние общества, в которых одни люди считались людьми, а другие – имуществом. Не обязательно потому, что будущий ИИ «восстанет», скорее сами люди осознают масштаб изменений. И общество будет вынуждено заново провести границу между инструментом, субъектом и новым видом разумного существа.
Вы подчеркиваете, что природа человека не меняется. Но ведь сейчас есть техническая возможность ее изменить: генная инженерия, интерфейсы «мозг-компьютер» и так далее. Не перейдем ли мы грань, за которой наша психика будет сильно отличаться от человеческой?
Мы пока не знаем, каким будет социальное поведение людей, чье сознание напрямую взаимодействует с компьютером. Но мы точно знаем из исторического опыта, что расширение коммуникаций делает общество в целом более человечным. В ранних культурах «человек» и «соплеменник» нередко означали одно и то же; говорившие на непонятном языке людьми не считались. Контакты между народами постепенно раздвигали эту границу. Интернет сделал чужой образ жизни постоянно видимым. Он не отменил ненависть, но позволил понимать, почему люди в других странах думают и действуют иначе. ИИ добавляет новый слой: переводит не только слова, но и контекст, культурные коды, логику рассуждения. Киборг с доступом к такой системе станет не просто более коммуникабельным. Его естественный круг общения может оказаться намного шире языка, страны и даже культуры.
Будет ли у киборгов другая психика? На уровне возможностей – конечно: изменятся память, скорость доступа к знанию, объем внимания. Но базовые мотивации могут оказаться гораздо устойчивее. Человек остается адаптивным существом, стремящимся удовлетворить свои потребности. По мере удовлетворения базовых потребностей возрастает значение творчества, справедливости, признания, смысла. Поэтому киборг или «эльф», живущий 500 лет, не станет другим существом. Скорее старые человеческие мотивы начнут работать на новом уровне возможностей и ответственности.