Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Колесо Сансары Колесо Сансары

Кем считают себя сами индийцы?

Вокруг света
Любимая дача императоров Любимая дача императоров

Поводы посетить Гатчину — официальную столицу Ленинградской области 2023 года

Лиза
Жизнь в плену имени Жизнь в плену имени

Марк Юний Брут: история и жизнь того, кто лишил жизни Гая Юлия Цезаря

Дилетант
Как сериал «Криминальное прошлое» говорит о насилии и расизме без морализаторства Как сериал «Криминальное прошлое» говорит о насилии и расизме без морализаторства

«Криминальное прошлое» — сериал о домашнем насилии и diversity

Forbes
Настоящий имперец Настоящий имперец

Ни один другой немецкий политик не был использован так сильно, как Бисмарк

Дилетант
Влюбиться в оппу и сделать эгье: разбираемся в корейских терминах и традициях Влюбиться в оппу и сделать эгье: разбираемся в корейских терминах и традициях

Какие культурные обычаи Южной Кореи могут вас удивить?

Psychologies
Был ли аншлюс ГДР? Был ли аншлюс ГДР?

Читаем новый единый учебник всеобщей истории для 11 класса

Дилетант
Как правильно краситься после 50 лет: 7 гениальных лайфхаков, которые изменят твою жизнь Как правильно краситься после 50 лет: 7 гениальных лайфхаков, которые изменят твою жизнь

Трюки возрастного макияжа, которые придадут твоему лицу свежий и подтянутый вид

VOICE
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Как молочный король спас «Смешариков» и что им не дало выйти на международный уровень Как молочный король спас «Смешариков» и что им не дало выйти на международный уровень

Как «Смешарики» прорывались на мировые экраны и с какими проблемами сталкивались

Forbes
Зонд Неймана Зонд Неймана

Серая слизь: сценарий апокалипсиса

Вокруг света
«Я в домике» «Я в домике»

Что такое дефлексия и в чем особенности этого защитного механизма

Лиза
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Турне за океан Турне за океан

Что же это за яхта, которую британская верфь не стала показывать в Каннах?

Y Magazine
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Местечковая застава: почему не получилось заселить Приамурье евреями Местечковая застава: почему не получилось заселить Приамурье евреями

Почему евреев в СССР переселяли на Дальний Восток и что из этого вышло?

Forbes
«Не допрос, а исповедь» «Не допрос, а исповедь»

Кульминация операции в отношении «антисоветской интеллигенции»

Дилетант
Герпес после увеличения губ: почему он появляется и как это предотвратить Герпес после увеличения губ: почему он появляется и как это предотвратить

Как не омрачить бьюти-процедуру неприятными последствиями в виде вируса

VOICE
Тимур и его столица Тимур и его столица

Как Тимур стал эффективным сити-менеджером

Вокруг света
Россиянки рассказали, в каких случаях красота помогает им (порой неожиданно) Россиянки рассказали, в каких случаях красота помогает им (порой неожиданно)

Может ли привлекательная внешность навредить своим обладательницам?

Psychologies
Первый митинг хунвейбинов Первый митинг хунвейбинов

«Убивайте, убивайте их!» — призывали китайские газеты…

Дилетант
Соль замещенного циклопентадиенильного катиона оказалась стабильна при комнатной температуре Соль замещенного циклопентадиенильного катиона оказалась стабильна при комнатной температуре

Ученые синтезировали соль замещенного циклопентадиенильного катиона

N+1
Цифровое бессмертие Цифровое бессмертие

Sensorium Galaxy – VR-платформа, которая способна преобразить нашу жизнь

Популярная механика
Что на самом деле скрывается за понятием Что на самом деле скрывается за понятием

Что значит "любить себя"?

VOICE
Угрозы Земле. Градации апокалипсиса Угрозы Земле. Градации апокалипсиса

В мифологических представлениях особое место занимают учения о конце света

Зеркало Мира
Доступность пищи позволила орангутанам-мигрантам больше учиться у местных Доступность пищи позволила орангутанам-мигрантам больше учиться у местных

От чего зависит социальное обучение у орангутанов-мигрантов?

N+1
Попала в ДТП Попала в ДТП

Что делать, если в ДТП виновата ты

Лиза
Почему люди, которые работают в сверхурочное время, оказываются менее продуктивными Почему люди, которые работают в сверхурочное время, оказываются менее продуктивными

Люди, которые стремятся работать сверхурочно, как правило, менее продуктивны

Forbes
Вдыхаемые наносенсоры помогут определить рак легких на ранней стадии Вдыхаемые наносенсоры помогут определить рак легких на ранней стадии

Ученые разработали систему скрининговой диагностики рака легких

N+1
Фарминдустрия жмет тяжелый вес Фарминдустрия жмет тяжелый вес

Как новые «эликсиры стройности» работают с точки зрения науки?

Монокль
Открыть в приложении