Развитие искусственного интеллекта сделает нас бессмертными либо убьет

РБКHi-Tech

Алексей Турчин: «В этом веке решится судьба человечества»

0:00 /
599.002

Следующее десятилетие будет испытанием для футурологов, так как скоро станет понятно, чьи прогнозы верны, а чьи остались только в фантазиях. Так считает Алексей Турчин, трансгуманист и соавтор книги «Футурология. XXI век: бессмертие или глобальная катастрофа?». Испытание ожидает и все человечество: дальнейшее развитие искусственного интеллекта сделает нас бессмертными либо убьет.

Алексей Турчин — трансгуманист, футуролог, вице-президент фонда «Наука за продление жизни». Основатель проекта Digital Immortality Now, предоставляющего услуги по фиксации важной информации о человеке, которую можно будет использовать в будущем для возможного восстановления личности с помощью сильного ИИ. Соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?».

Технологическая сингулярность (момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. — РБК) предсказывалась еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Тем не менее уже в следующем десятилетии мы увидим, выходит ли волна прогресса на экспоненциальный рост или захлебывается.

В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, размер нейронных сетей, а именно число их параметров, при росте в десять раз за год к концу 2019 года достигло 11 млрд. Точно так же и количество вычислений, нужных для их тренировки, по подсчетам исследовательской компании OpenAI, удваивается каждые три месяца.

Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК). При этом вопрос о сильном ИИ — основная задача XXI века, так как от него зависит дальнейшая судьба цивилизации.

Почему так важен вопрос о сильном ИИ?

Потому что универсальный ИИ нас или убьет, или сделает бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: либо эволюции в сторону радикального продления жизни, либо перехода к тем или иным вариантам глобальной катастрофы.

И здесь возникает коллизия: будет ли быстрый прогресс более управляемым, чем медленный? Если сингулярность наступит, как предсказывалось, в 2030 году, то кто успеет ее оседлать? Не окажемся ли мы, как пауки в банке, в мальтузианской ловушке (ситуация, свойственная доиндустриальным обществам, в результате которой рост населения обгонял рост производства продуктов. — РБК)?

Если прогресс останавливается и мы остаемся с имеющимся набором технологий, то все существующие ресурсы становятся конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс. Если прогресс не останавливается, то мы в конечном счете создаем «сверхтехнологии»: ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.

Чего ждать от следующего десятилетия?

Во-первых, нужно наблюдать за скоростью развития искусственного интеллекта. Она покажет, начнется ли новая «зима» или будет достигнут какой-то «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.

Во-вторых, важно проследить, не выдохнется ли революция в электротранспорте и возобновляемых источниках энергии.

Затем важно определить, сможет ли «взрыв» числа стартапов в области longevity (от англ. долголетие. — РБК) трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни и какова будет судьба общественных движений, выступающих за это. Например, сможет ли немецкая «Партия за медицинские исследования» (Partei für Gesundheitsforschung) существенно улучшить свои результаты?

Наконец, нужно смотреть, в какую сторону будет развиваться политическая ситуация в мире и не приведет ли она в первую очередь к некой масштабной войне.

Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.

Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.

При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.

Будущее становится бесконечно неопределенным

Но над этой пеленой проступают гигантские утесы — это закономерные итоги будущего, несколько вариантов, чем все закончится. И если мы смотрим на весь XXI век, то это или бессмертие для всех, или глобальная катастрофа.

Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по вводимому в них плану. — РБК), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди нее.

Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК), возникает в конце любого мыслимого прогресса.

Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (а там же и бессмертие), или небытие.

Фото: Юлия Спиридонова для РБК

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Давид Рафаловский: «Весь мир уже в облаке, и Россия там будет» Давид Рафаловский: «Весь мир уже в облаке, и Россия там будет»

Давид Рафаловский переехал в Москву ради развития цифровой платформы Сбербанка

РБК
Козыри на руках ОПЕК: почему сокращение добычи все еще имеет смысл Козыри на руках ОПЕК: почему сокращение добычи все еще имеет смысл

Ограничение картелем добычи по-прежнему будет поддерживать цены

Forbes
Идея! Оставлять чаевые Идея! Оставлять чаевые

Учись правильно благодарить тех, кто оказывает тебе услуги

Maxim
Как несчастный случай помог американцу к 25 годам создать компанию, которая вступила в борьбу за $25 млрд Как несчастный случай помог американцу к 25 годам создать компанию, которая вступила в борьбу за $25 млрд

Карр любит говорить о том, что миссия компании — спасать жизни

Forbes
Карьера с пеленок: как развивается рынок тестов на врожденные способности Карьера с пеленок: как развивается рынок тестов на врожденные способности

Не за горами время, когда с помощью анализа ДНК можно будет моделировать карьеру

РБК
Итоги года: Январь, февраль, март Итоги года: Январь, февраль, март

Forbes представляет итоги 2019 года

Forbes
Неон-киллер Неон-киллер

Евгения Крегжде поразила нас в самое сердце

Maxim
Сергей Мазаев: «Я в оппозиции к идиотизму» Сергей Мазаев: «Я в оппозиции к идиотизму»

Легенде отечественного рока, солисту группы «Моральный кодекс», исполнилось 60

Cosmopolitan
Системный администратор Системный администратор

Почему айтишники считают премьера Михаила Мишустина главным CIO страны

Forbes
«Я вырос в ВТБ и восхищаюсь Костиным»: CEO Альфа-банка о трансформации в компании, слухах о переговорах с ВТБ и бессмысленных экосистемах «Я вырос в ВТБ и восхищаюсь Костиным»: CEO Альфа-банка о трансформации в компании, слухах о переговорах с ВТБ и бессмысленных экосистемах

Владимир Верхошинский рассказал о переходе из ВТБ в крупнейший частный банк

Forbes
20 вещей, которые могут тебе пригодиться в постели 20 вещей, которые могут тебе пригодиться в постели

Объекты и явления, при помощи которых твой секс будет еще великолепнее

Maxim
20-минутная тренировка груди в тренажерном зале, которая работает 20-минутная тренировка груди в тренажерном зале, которая работает

Гантели и коврик — все, что вам понадобится для эффективной тренировки груди

Cosmopolitan
Обри ди Грей: «Медицина может предложить совершенно другое качество жизни» Обри ди Грей: «Медицина может предложить совершенно другое качество жизни»

Почему богатые не смогут жить дольше бедных, а диктаторы — править вечно

РБК
Как поддержать здоровье спины? Как поддержать здоровье спины?

Во время беременности позвоночник женщины подвергается колоссальным нагрузкам

9 месяцев
Где лечиться? Где лечиться?

В какую поликлинику идти – государственную или частную

Домашний Очаг
Первые дни мамы и малыша дома: как ухаживать за новорожденным? Первые дни мамы и малыша дома: как ухаживать за новорожденным?

Впервые оставшись с ребенком одна, мама сталкивается с рядом вопросов и проблем

9 месяцев
Рейтинг брендов Рейтинг брендов

Бренды, которые стали заметны на рынке за год

Forbes
Крылья желания Крылья желания

Частные самолеты остаются главным синонимом тяжелого люкса

Tatler
В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством

Размышления о будущем не всегда были свойственны людям

РБК
Прекрасное сейчас: когда все хорошо и когда все плохо Прекрасное сейчас: когда все хорошо и когда все плохо

Из чего сделано счастье?

Yoga Journal
Доход с разумным риском Доход с разумным риском

Специалисты советуют инвесторам-физлицам повышать уровень финансовой грамотности

РБК
Виктория Дайнеко: «Жить без секса? Легко! Только зачем?» Виктория Дайнеко: «Жить без секса? Легко! Только зачем?»

Певица – об идеальном мужчине, поддержке близкого друга и о жизни с дочерью

StarHit
Одинаковы с лица Одинаковы с лица

Каждый пятый предмет современного искусства с аукционов был тиражным

Forbes
Новогодняя лихорадка Новогодняя лихорадка

Как разумно спланировать праздник и не разориться на подарках

Лиза
Кино, кино и домино Кино, кино и домино

Два брата дают вторую жизнь заброшенным советским кинотеатрам в Москве

Forbes
В поисках Гипербореи В поисках Гипербореи

Загадочных гиперборейцев древние греки считали существующими в реальности

Дилетант
Один на всех Один на всех

Максим Семеляк обнаруживает сбывшиеся пророчества в фильме «Брат 2»

Esquire
Линор Горалик — о «Лолите» как книге про любовь, русской классике и поэтах, навсегда изменивших ее жизнь Линор Горалик — о «Лолите» как книге про любовь, русской классике и поэтах, навсегда изменивших ее жизнь

Книжная полка: Любимые книги поэтессы и писательницы Линор Горалик

Esquire
«Я потерял свое тело» – мультфильм про руку, который разорвет вам сердце «Я потерял свое тело» – мультфильм про руку, который разорвет вам сердце

«Я потерял свое тело» Жереми Клапена – хит анимационного фестиваля в Анси

GQ
Без драк и скандалов: самые приличные участницы «Дома-2» за всю историю Без драк и скандалов: самые приличные участницы «Дома-2» за всю историю

О героях проекта «Дома-2», за которых зрителям не стыдно

Cosmopolitan
Открыть в приложении