Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Схема мироздания Схема мироздания

Что объединяет орнамент, тело человека, элементарные частицы и земной шар?

Вокруг света
Когда возникает травма брошенности: 5 основных факторов Когда возникает травма брошенности: 5 основных факторов

Откуда берется травма брошенности и как от нее можно избавиться?

Psychologies
Был ли аншлюс ГДР? Был ли аншлюс ГДР?

Читаем новый единый учебник всеобщей истории для 11 класса

Дилетант
Как вырастить из ИИ человека* Как вырастить из ИИ человека*

Перспективы развития искусственного интеллекта и его влияние на нашу жизнь

Монокль
Парус, лыжи, кошки, спиннинг… Парус, лыжи, кошки, спиннинг…

В кратер вулкана на лыжах и неделя «вне зоны действия сети»

Вокруг света
Тест Роршаха | The Rorschach Test: Тест Роршаха | The Rorschach Test:

О роли знаний и практиках управления ими в филантропических организациях

Позитивные изменения
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Прощаемся с новогодней красавицей: как правильно утилизировать живую ель после праздников Прощаемся с новогодней красавицей: как правильно утилизировать живую ель после праздников

\Рассказываем, как правильно утилизировать живое новогоднее дерево

ТехИнсайдер
Зонд Неймана Зонд Неймана

Серая слизь: сценарий апокалипсиса

Вокруг света
Интересный факт! Вот почему вы не найдете в магазинах индюшиные яйца Интересный факт! Вот почему вы не найдете в магазинах индюшиные яйца

Почему в магазинах нет индюшиных яиц и почему их продажа нецелесообразна

ТехИнсайдер
Гитлер. Поход во власть Гитлер. Поход во власть

Человек, создавший Третий рейх, был, несомненно, злым гением

Дилетант
Миролюбивая сила Миролюбивая сила

Именно Москва начала давить на Каир, принуждая его перейти к переговорам

Дилетант
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
От Оруэлла до «Мастера и Маргариты»: 7 книг, которые запрещали в СССР От Оруэлла до «Мастера и Маргариты»: 7 книг, которые запрещали в СССР

Запрещенные книги из СССР, которые заслуженно стали классикой

Правила жизни
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
«Я не вторая Алла Пугачева»: племянница Максима Галкина рассказала о карьере певицы и семье — эксклюзив VOICE «Я не вторая Алла Пугачева»: племянница Максима Галкина рассказала о карьере певицы и семье — эксклюзив VOICE

Что Алина Галкина думает о хейте в соцсетях и своих знаменитых родственниках

VOICE
Миротворцы Миротворцы

Гражданская война, расколовшая Соединённые Штаты, продолжалась четыре года

Дилетант
Переосмысление ИИ: ученые выявили экономические ограничения автоматизации рабочих мест Переосмысление ИИ: ученые выявили экономические ограничения автоматизации рабочих мест

Неужели ИИ отнимет наши рабочие места? Обоснована ли эта тревога?

ТехИнсайдер
Две жизни Хеди Ламарр Две жизни Хеди Ламарр

Скандальная кинозвезда или женщина, без которой не было бы Bluetooth и Wi-Fi

Вокруг света
Почему кожа выглядит хуже во время простуды: 5 бьюти-ошибок, из-за которых появляются сухость, покраснения и прыщи Почему кожа выглядит хуже во время простуды: 5 бьюти-ошибок, из-за которых появляются сухость, покраснения и прыщи

Как простуда влияет на нашу кожу?

VOICE
Мы из будущего Мы из будущего

Кто же такие эти промт-дизайнеры или AI-тренеры?

ТехИнсайдер
Автомобильное завтра: 5 самых безумных технологических трендов, увидевших свет в 2023 году Автомобильное завтра: 5 самых безумных технологических трендов, увидевших свет в 2023 году

Кресла с вибратором и грузовики с руками: безумные автомобильные тренды 2023

ТехИнсайдер
Лики Вики Лики Вики

До съемки в нашем презренном журнале снизошла богиня «Инстаграма» Вики Одинцова

Maxim
Как снимать крутые селфи: выбираем монопод или селфи-палку Как снимать крутые селфи: выбираем монопод или селфи-палку

До сих пор не знаете, чем отличается монопод от селфи-палки?

CHIP
В переплетенных около 1600 года книгах нашли фрагменты англосаксонской Псалтыри XI века В переплетенных около 1600 года книгах нашли фрагменты англосаксонской Псалтыри XI века

Лингвист Тийс Порк проанализировал 21 фрагмент средневекового пергамента

N+1
Семь продуктов, в которых содержится много йода: список Семь продуктов, в которых содержится много йода: список

Какие продукты надо есть, чтобы держать йод в организме в норме

РБК
«Напрасно впадать в уныние»: памяти Льва Рубинштейна «Напрасно впадать в уныние»: памяти Льва Рубинштейна

Каким был основоположник московского концептуализма Лев Рубинштейн?

Правила жизни
Падение дома Эрихов: трагическая судьба знаменитой династии рестлеров Падение дома Эрихов: трагическая судьба знаменитой династии рестлеров

Вспоминаем фон Эрихов и пытаемся найти рациональное объяснение мрачной легенде

Правила жизни
7 главных ошибок при хранении продуктов в морозильной камере: их допускает каждый второй 7 главных ошибок при хранении продуктов в морозильной камере: их допускает каждый второй

Как хранить замороженные овощи и мясо, чтобы они не испортились?

ТехИнсайдер
Партнёры-соперники Партнёры-соперники

Как ни готовься к войне, она практически всегда наступает внезапно

Дилетант
Открыть в приложении