Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Был ли аншлюс ГДР? Был ли аншлюс ГДР?

Читаем новый единый учебник всеобщей истории для 11 класса

Дилетант
Как ухаживать за кожей в холода: 10 зимних бьюти-лайфхаков, которые нужно знать каждой Как ухаживать за кожей в холода: 10 зимних бьюти-лайфхаков, которые нужно знать каждой

Что же предпринять, чтобы улучшить состояние кожи лица и тела зимой?

VOICE
Лес у реки Лес у реки

«Зеленые легкие планеты, первобытная среда обитания»

Вокруг света
Мириам, сестра пророка Моисея Мириам, сестра пророка Моисея

Удивительная, неординарная личность, чья судьба неотделима от подвигов братьев

Знание – сила
По следам первопроходцев По следам первопроходцев

Следы эпохи Великих географических открытий – во всей нашей жизни

Вокруг света
Почему партнер пропадает после пары свиданий: 8 историй мужчин и женщин, которые занимались гостингом Почему партнер пропадает после пары свиданий: 8 историй мужчин и женщин, которые занимались гостингом

Почему мы сталкиваемся с гостингом и как после этого сохранить самооценку?

Psychologies
Вопрос времени Вопрос времени

Чем прошлое отличается от будущего и почему время течет в одном направлении?

Вокруг света
Человек-сканер Человек-сканер

Профайлер: чем он занимается, сколько зарабатывает и как им стать

Лиза
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Миролюбивая сила Миролюбивая сила

Именно Москва начала давить на Каир, принуждая его перейти к переговорам

Дилетант
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Паузы в речи: как сделать из них инструмент для воздействия на собеседника Паузы в речи: как сделать из них инструмент для воздействия на собеседника

Как правильно использовать паузы в речи?

Psychologies
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы

Ученые исследовали останки древних людей из памятника Жаботикаба-II

N+1
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Дольмены. Неразгаданная тайна древней цивилизации Дольмены. Неразгаданная тайна древней цивилизации

Для чего дольмены строили наши древние предки, в чем заключалась их роль?

Зеркало Мира
Хозяева древних морей Хозяева древних морей

Кем были самые опасные морские хищники прошлого?

Вокруг света
Что добавить в воду, чтобы удалить пятна соли и реагентов с обуви Что добавить в воду, чтобы удалить пятна соли и реагентов с обуви

Не откладывай удаление пятен соли с обуви, иначе отметины останутся навсегда!

VOICE
Вокруг Петрограда Вокруг Петрограда

Весной 1919 в России проходил вооружённый плебисцит

Дилетант
9 признаков, что вы действительно умный человек 9 признаков, что вы действительно умный человек

И вовсе необязательно козырять умными терминами к месту и не к месту.

Maxim
Юрий Стоянов: «Чувства юмора у искусственного интеллекта не будет никогда!» Юрий Стоянов: «Чувства юмора у искусственного интеллекта не будет никогда!»

Юрий Стоянов о перезагрузке карьеры, увлечении ножами и пользе от интернета

СНОБ
Что такое гибридный цвет волос и как он помогает маскировать появление седины Что такое гибридный цвет волос и как он помогает маскировать появление седины

Как скрыть серебряные пряди в общем объеме волос?

VOICE
Чудеса системы Сатурна: два безумных океана Чудеса системы Сатурна: два безумных океана

Система Сатурна – настоящее собрание диковин и чудес

Наука и техника
Дело доктора Франкенштейна Дело доктора Франкенштейна

Реально ли создать идеального человека, а не монстра?

Вокруг света
Михаил Боярский: «Нужна только любовь, больше ничего» Михаил Боярский: «Нужна только любовь, больше ничего»

«Есть у вас слизняки, змеи, тарантулы?» — «Михаил Сергеевич, уже приготовили»

Коллекция. Караван историй
Что есть до и после разных типов тренировок: советы диетолога Что есть до и после разных типов тренировок: советы диетолога

Какого рациона придерживаться, чтобы занятия фитнесом были эффективными?

VOICE
Пакуйте чемоданы: 10 хороших фильмов, после которых захочется отправиться в путешествие Пакуйте чемоданы: 10 хороших фильмов, после которых захочется отправиться в путешествие

Фильмы, которые подскажут, где провести отпуск

Правила жизни
Будущее в кубе Будущее в кубе

В каких зданиях будет жить и работать человечество в ближайшие сто лет

Вокруг света
Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос

Зачем придумали малозольные масла, в чем их минусы и плюсы?

ТехИнсайдер
Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи

Почему количество самоубийств среди молодежи растет по всему миру?

Inc.
Открыть в приложении