Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Что делать, когда скучно: самые необычные варианты развлечь себя Что делать, когда скучно: самые необычные варианты развлечь себя

Интересные и полезные занятий, которые точно не дадут вам «умереть от скуки»

ТехИнсайдер
Великая степь Великая степь

Великая степь была всегда, сколько себя помнит человечество

Вокруг света
Идеальная фигура или низкий голос: что делает вас сексуально привлекательными в чужих глазах? Идеальная фигура или низкий голос: что делает вас сексуально привлекательными в чужих глазах?

Что заставляет нас считать определенных людей сексуально привлекательными?

Psychologies
Подельники Подельники

Девять (помимо Брута) самых интересных заговорщиков против Цезаря

Дилетант
3 верных признака фальшивой улыбки 3 верных признака фальшивой улыбки

Может ли быть улыбка неискренней и, если да, как это понять?

Psychologies
Тихие американцы Тихие американцы

Что ждет коренных американцев в будущем?

Вокруг света
10 лучших триллеров последних лет, которые стоит посмотреть 10 лучших триллеров последних лет, которые стоит посмотреть

Триллеры с харизматичными героями, которым хочется сопереживать

Правила жизни
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Чтобы спасти рифы Карибского моря, экологи готовы пересадить кораллы из Индийского океана Чтобы спасти рифы Карибского моря, экологи готовы пересадить кораллы из Индийского океана

Можно ли восстановить рифы, пересаживая кораллы из других регионов?

ТехИнсайдер
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
Покупка пятого поколения Subaru Outback (2014-2019) Покупка пятого поколения Subaru Outback (2014-2019)

На что обратить внимание, покупая Subaru Outback (2014-2019)?

4x4 Club
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
«Царь дефицита»: как и за что судили директора «Елисеевского» гастронома «Царь дефицита»: как и за что судили директора «Елисеевского» гастронома

На судебном заседании по делу Гастронома №1 собрались сотрудники КГБ...

ТехИнсайдер
Клин с клином Клин с клином

Клинопись – древнейшая известная человечеству система письма

Вокруг света
Древний Аркаим. Магнит для ученых, эзотериков и туристов Древний Аркаим. Магнит для ученых, эзотериков и туристов

Среди загадочных мест России особое значение имеет древний город Аркаим

Зеркало Мира
«Рано или поздно цивилизация начинает сходить с ума и уничтожает себя. Как мы сейчас» «Рано или поздно цивилизация начинает сходить с ума и уничтожает себя. Как мы сейчас»

Что такое экзопланеты? Как они были открыты? Может ли на них существовать жизнь?

Наука
Почему солнечные электростанции зашли горнякам, фермерам… и насекомым Почему солнечные электростанции зашли горнякам, фермерам… и насекомым

У фотоэлектрических панелей обнаружились сразу три новых преимущества

ТехИнсайдер
Шоу имени Гитлера Шоу имени Гитлера

Олимпиада 1936 года — грандиозный идеологический успех нацистской Германии

Дилетант
Тренд на естественную красоту: как меняется индустрия пластической хирургии Тренд на естественную красоту: как меняется индустрия пластической хирургии

Какие новейшие процедуры помогут поддержать красоту

Forbes
Вопрос-ответ Вопрос-ответ

Реальна ли лебединая верность, как обучается нейросеть и другие вопросы

Вокруг света
Любимый альбом музыканта «Твое далеко» Сергея Пастуха — «Начальник Камчатки» группы «Кино» Любимый альбом музыканта «Твое далеко» Сергея Пастуха — «Начальник Камчатки» группы «Кино»

Обсудили третий альбом «Кино» — «Начальник Камчатки», выпущенный в 1984 году

СНОБ
Немирное «земледелие» Немирное «земледелие»

Как работает система залпового минирования

Популярная механика
Алексей Герман: «Отец не считал, что режиссеру нужно дружить с актерами» Алексей Герман: «Отец не считал, что режиссеру нужно дружить с актерами»

Как и отец, я живу и работаю здесь и уезжать никуда не собираюсь

Караван историй
Внедорожники становятся всё шире, не помещаясь на городских дорогах Внедорожники становятся всё шире, не помещаясь на городских дорогах

Почему внедорожники и пикапы становятся такими же широкими, как автобусы

4x4 Club
Упражнения на грудь: девять вариантов для дома и зала Упражнения на грудь: девять вариантов для дома и зала

Упражнения, которые помогут вам эффективно и безопасно накачать грудные мышцы

РБК
Песнь льда: как богатая наследница Луиза Арнер-Бойд покоряла Арктику Песнь льда: как богатая наследница Луиза Арнер-Бойд покоряла Арктику

Луиза Арнер-Бойд: женщина, которая не боялась ни холода, ни предубеждений

Forbes
Кто виноват? Евреи! Кто виноват? Евреи!

Студенческие забастовки стали одним из характерных явлений на сломе XIX–XX веков

Дилетант
Как журналистка Ориана Фаллачи добивалась откровенности от Киссинджера и Индиры Ганди Как журналистка Ориана Фаллачи добивалась откровенности от Киссинджера и Индиры Ганди

Ориана Фаллачи заставляла политиков и знаменитостей спуститься с небес на землю

Forbes
Советские знаменитости, которые родились в звездных семьях Советские знаменитости, которые родились в звездных семьях

Непо-бейбис СССР: вспоминаем таланты, которые родились у знаменитых родителей

Maxim
Открыть в приложении