Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Азбучные неистины Азбучные неистины

Перечислим несколько «азбучных истин» из учебников, опровергнутых временем

Вокруг света
Путин и Песков протестировали вездеходы на Чукотке. Что это за машины Путин и Песков протестировали вездеходы на Чукотке. Что это за машины

Подробности о вездеходах, которые использовал Путин при поездке по Чукотке

РБК
Тень Карафуто Тень Карафуто

Южная половина острова Сахалин исторически была тесно связана с японцами

Вокруг света
Вдыхаемые наносенсоры помогут определить рак легких на ранней стадии Вдыхаемые наносенсоры помогут определить рак легких на ранней стадии

Ученые разработали систему скрининговой диагностики рака легких

N+1
Белых пятен больше нет Белых пятен больше нет

Десять удивительных географических объектов, открытых в XX и XXI веке

Вокруг света
Как научиться играть на гитаре быстро и без скуки Как научиться играть на гитаре быстро и без скуки

Как подойти к обучению на гитаре так, чтобы не терять задор и мотивацию?

ТехИнсайдер
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
9 вещей, о которых можно врать детям и не стыдиться 9 вещей, о которых можно врать детям и не стыдиться

Что делать, если маленький человек еще не готов к правде? Врать!

Maxim
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Две стороны «Честного знака» Две стороны «Честного знака»

Производители и инициаторы «Честного знака» не сходятся в оценке работы системы

Агроинвестор
Настоящий имперец Настоящий имперец

Ни один другой немецкий политик не был использован так сильно, как Бисмарк

Дилетант
Наелись и обнулились: почему не стоит садиться на диету в январе Наелись и обнулились: почему не стоит садиться на диету в январе

Почему садиться на диету после праздников — бесполезное занятие?

Psychologies
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Первая женщина-психоаналитик и любовница Юнга: что известно о россиянке Сабине Шпильрейн Первая женщина-психоаналитик и любовница Юнга: что известно о россиянке Сабине Шпильрейн

Глава из книги «50 историй российских девушек, изменивших мир»

Psychologies
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
«Хранительница очага» «Хранительница очага»

Руками Голды Меир строилось государство Израиль. Один из символов Израиля

Дилетант
Польша между двух рек и трёх спичек Польша между двух рек и трёх спичек

Как Большая тройка определяла границы, статус и политическое устройство Польши

Дилетант
Попасть под пресс: как накачать желаемые «кубики» Попасть под пресс: как накачать желаемые «кубики»

Узнали у эксперта все, что вы стеснялись спросить насчет пресса

Правила жизни
Вопрос-ответ Вопрос-ответ

Реальна ли лебединая верность, как обучается нейросеть и другие вопросы

Вокруг света
Как молочный король спас «Смешариков» и что им не дало выйти на международный уровень Как молочный король спас «Смешариков» и что им не дало выйти на международный уровень

Как «Смешарики» прорывались на мировые экраны и с какими проблемами сталкивались

Forbes
Единым фронтом Единым фронтом

Сразу после вторжения Франции в Алжир стало понятно, что спокойно тут не будет

Дилетант
Обманул первого президента США! История доктора-шарлатана Элиша Перкинса Обманул первого президента США! История доктора-шарлатана Элиша Перкинса

Даже известные личности и мыслители попадались на удочку обманщиков

ТехИнсайдер
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Утопия Богданова не стала образцом для общества, но его романы перечитывали

Наука и жизнь
Рассыпчатый и мягкий: как правильно варить рис Рассыпчатый и мягкий: как правильно варить рис

Правильно сварить рис — целая наука!

ТехИнсайдер
Бедная Газа Бедная Газа

Как живет сектор Газа до и после теракта 7 октября

Монокль
Попала в ДТП Попала в ДТП

Что делать, если в ДТП виновата ты

Лиза
В доме Лорки В доме Лорки

Гарсиа Лорка: необычная судьба, ранняя смерть и музей памяти поэта

Знание – сила
«Непрерывная война с собой и другими»: 2 ошибки, которые допускают все на пути изменений «Непрерывная война с собой и другими»: 2 ошибки, которые допускают все на пути изменений

Правда ли добиться жизненных перемен можно, только если все время ломать себя?

Psychologies
Я — сноб: актриса Елена Подкаминская Я — сноб: актриса Елена Подкаминская

Актриса Елена Подкаминская — о новых проектах и «блеске чешуей» в профессии

СНОБ
Арест брата, смерть сына: трудная судьба главного принца советского кино — Алексея Консовского из «Золушки» Арест брата, смерть сына: трудная судьба главного принца советского кино — Алексея Консовского из «Золушки»

Реальная жизнь актера Алексея Консовского была далека от сказки

VOICE
Открыть в приложении