Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Свержение Аполлона Свержение Аполлона

Как возник «лунный заговор» — главная теория фальсификации XX века

Вокруг света
Мем на $12 млн: в США показали одну из лучших спонсорских активаций в истории Мем на $12 млн: в США показали одну из лучших спонсорских активаций в истории

Что такое студенческие боулы и как они могут принести спонсорам миллионы?

Forbes
Параллельные люди Параллельные люди

С какими альтернативными человечествами мы могли бы делить Землю?

Вокруг света
Богатырский конь Богатырский конь

Лошадей, которые могут тяжеленные грузы возить, выводят с давних времен

Зеркало Мира
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
5 приложений, которые помогут начать питаться осознанно: подборка от нейропсихолога 5 приложений, которые помогут начать питаться осознанно: подборка от нейропсихолога

Приложения для тренировки сознательного пищевого поведения

Psychologies
Гитлер. Поход во власть Гитлер. Поход во власть

Человек, создавший Третий рейх, был, несомненно, злым гением

Дилетант
6 самых востребованных китайских художников у коллекционеров современного искусства 6 самых востребованных китайских художников у коллекционеров современного искусства

Передовые современные художники из Поднебесной

Правила жизни
Клин с клином Клин с клином

Клинопись – древнейшая известная человечеству система письма

Вокруг света
MAXIM одним из первых посмотрел фильм «Брат-3»: всех нас жестоко и нагло надули MAXIM одним из первых посмотрел фильм «Брат-3»: всех нас жестоко и нагло надули

Мы ждали от «Брата-3» худшего, а получили еще более другое.

Maxim
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Высшее образование значительно сокращает риск смерти Высшее образование значительно сокращает риск смерти

Образование спасает жизни независимо от возраста, пола и местоположения

ТехИнсайдер
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Получите, распишитесь Получите, распишитесь

Как оформить электронную подпись и где ей можно пользоваться

Лиза
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Как научиться играть на гитаре быстро и без скуки Как научиться играть на гитаре быстро и без скуки

Как подойти к обучению на гитаре так, чтобы не терять задор и мотивацию?

ТехИнсайдер
Темные миры Темные миры

Таинственные тоннели, подземные водоемы, удивительной красоты сталактиты

Вокруг света
Покупка пятого поколения Subaru Outback (2014-2019) Покупка пятого поколения Subaru Outback (2014-2019)

На что обратить внимание, покупая Subaru Outback (2014-2019)?

4x4 Club
Забыть нельзя вспомнить Забыть нельзя вспомнить

Почему нам трудно сосредоточиться или освоить функции в новом смартфоне?

Psychologies
Есть ли личная жизнь после рождения ребенка: история от первого лица Есть ли личная жизнь после рождения ребенка: история от первого лица

Как пережить первые месяцы после рождения ребенка, когда привычный мир рушится

Psychologies
Проповедники убийств Проповедники убийств

Жан-Поль Марат, Максимилиан Робеспьер и Жорж Дантон — идеологи террора

Дилетант
Со скольких лет можно сдавать на права и когда их можно получить Со скольких лет можно сдавать на права и когда их можно получить

С какого возраста разрешено учиться в автошколе и во сколько лет выдают ВУ

РБК
Лена Ужинова Лена Ужинова

Лена Ужинова — одна из самых известных и титулованных российских художников

Правила жизни
Пенсия с 18 лет и два океана: кто и зачем переезжает в Панаму и как там живется Пенсия с 18 лет и два океана: кто и зачем переезжает в Панаму и как там живется

Рассказываем, как россияне осваиваются в Панаме и что их туда привело

Forbes
Микаэл Таривердиев «И Дон Кихот, и Дон Жуан в одном лице - это про него» Микаэл Таривердиев «И Дон Кихот, и Дон Жуан в одном лице - это про него»

«Люблю, люблю, но реже говорю об этом. Люблю нежней...» Звучал родной голос

Коллекция. Караван историй
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Достоверные чудеса прогресса

Наука и жизнь
Насилие порождает насилие: в чем суть треугольника Карпмана и мышления жертвы Насилие порождает насилие: в чем суть треугольника Карпмана и мышления жертвы

Можно ли остановить цикл насилия? Ищем ответы в книге психотерапевта

Psychologies
Почему возле каждого барбершопа висят трехцветные столбики: история Barber’s pole Почему возле каждого барбершопа висят трехцветные столбики: история Barber’s pole

Это не обычная декорация, а символ парикмахерских, появившийся в средние века

ТехИнсайдер
10 вещей, которые современное общество требует от мужчин 10 вещей, которые современное общество требует от мужчин

Мужчины стали заложниками стереотипов о классической маскулинности

Maxim
Лайфхаки для хозяйки Лайфхаки для хозяйки

Как быстро и легко все отмыть, отчистить, отстирать и приготовить

Лиза
Открыть в приложении