Развитие искусственного интеллекта сделает нас бессмертными либо убьет

РБКHi-Tech

Алексей Турчин: «В этом веке решится судьба человечества»

0:00 /
599.002

Следующее десятилетие будет испытанием для футурологов, так как скоро станет понятно, чьи прогнозы верны, а чьи остались только в фантазиях. Так считает Алексей Турчин, трансгуманист и соавтор книги «Футурология. XXI век: бессмертие или глобальная катастрофа?». Испытание ожидает и все человечество: дальнейшее развитие искусственного интеллекта сделает нас бессмертными либо убьет.

Алексей Турчин — трансгуманист, футуролог, вице-президент фонда «Наука за продление жизни». Основатель проекта Digital Immortality Now, предоставляющего услуги по фиксации важной информации о человеке, которую можно будет использовать в будущем для возможного восстановления личности с помощью сильного ИИ. Соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?».

Технологическая сингулярность (момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. — РБК) предсказывалась еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Тем не менее уже в следующем десятилетии мы увидим, выходит ли волна прогресса на экспоненциальный рост или захлебывается.

В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, размер нейронных сетей, а именно число их параметров, при росте в десять раз за год к концу 2019 года достигло 11 млрд. Точно так же и количество вычислений, нужных для их тренировки, по подсчетам исследовательской компании OpenAI, удваивается каждые три месяца.

Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК). При этом вопрос о сильном ИИ — основная задача XXI века, так как от него зависит дальнейшая судьба цивилизации.

Почему так важен вопрос о сильном ИИ?

Потому что универсальный ИИ нас или убьет, или сделает бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: либо эволюции в сторону радикального продления жизни, либо перехода к тем или иным вариантам глобальной катастрофы.

И здесь возникает коллизия: будет ли быстрый прогресс более управляемым, чем медленный? Если сингулярность наступит, как предсказывалось, в 2030 году, то кто успеет ее оседлать? Не окажемся ли мы, как пауки в банке, в мальтузианской ловушке (ситуация, свойственная доиндустриальным обществам, в результате которой рост населения обгонял рост производства продуктов. — РБК)?

Если прогресс останавливается и мы остаемся с имеющимся набором технологий, то все существующие ресурсы становятся конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс. Если прогресс не останавливается, то мы в конечном счете создаем «сверхтехнологии»: ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.

Чего ждать от следующего десятилетия?

Во-первых, нужно наблюдать за скоростью развития искусственного интеллекта. Она покажет, начнется ли новая «зима» или будет достигнут какой-то «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.

Во-вторых, важно проследить, не выдохнется ли революция в электротранспорте и возобновляемых источниках энергии.

Затем важно определить, сможет ли «взрыв» числа стартапов в области longevity (от англ. долголетие. — РБК) трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни и какова будет судьба общественных движений, выступающих за это. Например, сможет ли немецкая «Партия за медицинские исследования» (Partei für Gesundheitsforschung) существенно улучшить свои результаты?

Наконец, нужно смотреть, в какую сторону будет развиваться политическая ситуация в мире и не приведет ли она в первую очередь к некой масштабной войне.

Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.

Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.

При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.

Будущее становится бесконечно неопределенным

Но над этой пеленой проступают гигантские утесы — это закономерные итоги будущего, несколько вариантов, чем все закончится. И если мы смотрим на весь XXI век, то это или бессмертие для всех, или глобальная катастрофа.

Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по вводимому в них плану. — РБК), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди нее.

Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК), возникает в конце любого мыслимого прогресса.

Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (а там же и бессмертие), или небытие.

Фото: Юлия Спиридонова для РБК

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

100 лучших вузов 100 лучших вузов

Рейтинг впервые возглавила Высшая школа экономики

Forbes
#инструктаж: как провести этичную рекламную кампанию в интернете #инструктаж: как провести этичную рекламную кампанию в интернете

Как заповедь «Не обидь» стала главной для интернет-маркетологов

РБК
20 вещей, которые могут тебе пригодиться в постели 20 вещей, которые могут тебе пригодиться в постели

Объекты и явления, при помощи которых твой секс будет еще великолепнее

Maxim
Под звон бокалов Под звон бокалов

Где встретить Новый год, провести праздничные каникулы или зимний отпуск?

Grazia
Берут – беги Берут – беги

Теневая экономика России настолько велика, что называть ее теневой даже неловко

Esquire
Федор Бондарчук — о новом российском кино, технике и Александре Петрове Федор Бондарчук — о новом российском кино, технике и Александре Петрове

Каким было уходящее десятилетие и чего не хватает в российском кино?

РБК
Пожиратели бюджетов Пожиратели бюджетов

Почему иногда строить дороги не нужно

Forbes
Опять не можешь уснуть? 8 продуктов, вызывающих бессонницу Опять не можешь уснуть? 8 продуктов, вызывающих бессонницу

Эти продукты виноваты в том, что ты не можешь сомкнуть глаз

Playboy
Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
Эрекция — волшебная палочка сердца. Отрывок из книги Йаэль Адлер «Человек противный» Эрекция — волшебная палочка сердца. Отрывок из книги Йаэль Адлер «Человек противный»

Йаэль Адлер раскрывает самые табуированные темы в жизни человека

СНОБ
Обри ди Грей: «Медицина может предложить совершенно другое качество жизни» Обри ди Грей: «Медицина может предложить совершенно другое качество жизни»

Почему богатые не смогут жить дольше бедных, а диктаторы — править вечно

РБК
5 главных технологий десятилетия: выбор венчурных инвесторов 5 главных технологий десятилетия: выбор венчурных инвесторов

Главные технологии прошедшего десятилетия и прогноз на следующее

Forbes
Анна Седокова Анна Седокова

Наверное, она уже привыкла к эпитетам «горячая», «аппетитная», «сочная»

Playboy
Лада Дэнс: «Охочусь за фэшнраритетами» Лада Дэнс: «Охочусь за фэшнраритетами»

Певица призналась, какие ошибки прошлого хотела бы сейчас исправить

StarHit
Системный администратор Системный администратор

Почему айтишники считают премьера Михаила Мишустина главным CIO страны

Forbes
Бремя первых: какие роботы использовались в Чернобыле Бремя первых: какие роботы использовались в Чернобыле

Сериал «Чернобыль» уверенно расположился на вершинах всех возможных рейтингов

Популярная механика
В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством

Размышления о будущем не всегда были свойственны людям

РБК
У каждого авто запах особый: развиваем нюх на неполадки У каждого авто запах особый: развиваем нюх на неполадки

Помните, как пахла ваша новая машина?

Популярная механика
Рейтинг брендов Рейтинг брендов

Бренды, которые стали заметны на рынке за год

Forbes
Подавленная агрессия: как не копить негатив Подавленная агрессия: как не копить негатив

Наши эмоции связаны с качеством дыхания

Psychologies
Замечания по адресу Замечания по адресу

Какую роль играет адрес в жизни человека, здания или учреждения

Forbes
Долгая счастливая жизнь Долгая счастливая жизнь

Ученые нашли ответ на вечный вопрос: как быть счастливым

Вокруг света
5 ключей к разумному оптимизму 5 ключей к разумному оптимизму

Как видеть в жизни хорошее, не вступая в противоречие со здравым смыслом

Psychologies
Со знаком плюс Со знаком плюс

Самая известная plus-size-модель Эшли Грэм скоро впервые станет мамой

Grazia
Больше не лезет Больше не лезет

Как вновь ощутить вкус к жизни?

GQ
К сексу нужно относиться с юмором К сексу нужно относиться с юмором

Богатый жизненный опыт «how to be playboy» Тимура Батрутдинова

Playboy
Большая свалка Большая свалка

Кто только не борется за вывоз, сортировку и утилизацию отходов россиян

Forbes
Татьяна Веденеева: «Благодарна за все чудеса, которые со мной происходили» Татьяна Веденеева: «Благодарна за все чудеса, которые со мной происходили»

Любимица детей Советского Союза не побоялась вернуться к актерскому ремеслу

Караван историй
С небес на землю: знаменитости тоже летают экономклассом С небес на землю: знаменитости тоже летают экономклассом

Звезды тоже путешествуют лоукостерами и стоят в очереди за багажом

GQ
Нейробиологи разгадали тайну новогоднего обжорства и пьянства Нейробиологи разгадали тайну новогоднего обжорства и пьянства

Как мозг человека вдруг дает организму команду съесть таз холодца, запив водкой

СНОБ
Открыть в приложении