Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Уоллис и гром Уоллис и гром

Актриса Аннабелль Уоллис — о бриллиантах, комедиях и наболевшем

Vogue
Страховка в постельном режиме Страховка в постельном режиме

Страховщики обсуждают инициативу по вводу страхования по долгосрочному уходу

РБК
Оказывается, моча очень пригодится в космосе Оказывается, моча очень пригодится в космосе

На Луне с помощью мочи можно построить хоть замок

GQ
Мы разобрались, как работает тикток Мы разобрались, как работает тикток

Как угодить алгоритмам и попасть в «Рекомендованное» в TikTok?

GQ
Финская и русская любовь Вилле Хаапасало Финская и русская любовь Вилле Хаапасало

Кому может не понравится брутальный, но в то же время милый финский парень?

Cosmopolitan
Показательная порка: звезды, которые ответили за проступки перед всем миром Показательная порка: звезды, которые ответили за проступки перед всем миром

Каким знаменитостям были предъявлены серьезные обвинения в нарушении закона

Cosmopolitan
Как один сайт может предотвратить смерть миллионов российских пчел Как один сайт может предотвратить смерть миллионов российских пчел

Как новые технологии спасут пчел от вымирания

Forbes
Магические травы в славянской культуре Магические травы в славянской культуре

Как с помощью трав отыскать клад, стать храбрым и научиться понимать язык зверей

Культура.РФ
Как относились друг к другу Тютчев и Фет? Как относились друг к другу Тютчев и Фет?

Тютчев и Фет не только были знакомы, но и относились друг к другу с теплом

Культура.РФ
«Жены сами провоцируют измены своих мужей» «Жены сами провоцируют измены своих мужей»

Правда ли, что жены тех, с кем она встречалась, сами способствуют их неверности

Psychologies
Как правильно хранить хлеб: несколько полезных советов Как правильно хранить хлеб: несколько полезных советов

Всем хорош хлеб, одна беда - хранится недолго и быстро портится.

Популярная механика
Конец любви: как меняется наш основной инстинкт Конец любви: как меняется наш основной инстинкт

Любовь, влечение и секс будут у человечества всегда? Как бы не так!

Psychologies
7 работ Валентина Серова и их история 7 работ Валентина Серова и их история

В начале XX века Валентин Серов был одним из самых известных и модных художников

Культура.РФ
Карта детского мира: какие города считаются лучшими для жизни с детьми Карта детского мира: какие города считаются лучшими для жизни с детьми

В этих городах хорошо жить, удобно растить и учить детей

Forbes
10 фильмов для тех, кто хочет узнать больше о проблеме расизма в США 10 фильмов для тех, кто хочет узнать больше о проблеме расизма в США

Фильмы, которые раскрывают проблему системного расизма в США

Esquire
Как продавать свой продукт в федеральных сетях Как продавать свой продукт в федеральных сетях

Как региональному производителю попасть в крупные супермаркеты?

Inc.
Симптомы пищевой зависимости: 7 распространенных признаков Симптомы пищевой зависимости: 7 распространенных признаков

Неуправляемая потребность в вкусной еде — тревожный знак

РБК
Удачная идея! Удачная идея!

Семь способов быстро обновить дачный интерьер

Лиза
Где искали женихов и невест в XIX веке Где искали женихов и невест в XIX веке

Как выбирали выгодную партию для брака в Москве и Петербурге в XIX веке?

Культура.РФ
Живая смерть: что такое биологическое оружие Живая смерть: что такое биологическое оружие

Полковник медицинской службы запаса объясняет, что такое биологическое оружие

Популярная механика
Марк Фош: «Поварам нужно работать, а не витать в облаках» Марк Фош: «Поварам нужно работать, а не витать в облаках»

Марк Фош — мой настоящий учитель

Bones
Метамфетамин помог лекарствам пройти через гематоэнцефалический барьер Метамфетамин помог лекарствам пройти через гематоэнцефалический барьер

Низкие дозы метамфетамина облегчают кавеолярный транспорт других веществ

N+1
5 ответов на важные вопросы о родинках на нашем теле 5 ответов на важные вопросы о родинках на нашем теле

Профессор-онколог ответил на самые распространенных вопросы о невусах

РБК
Униформа в моде и современной культуре Униформа в моде и современной культуре

За что рынок моды так любит спецодежду?

СНОБ
Скульптор Антон Иванов Скульптор Антон Иванов

Созданные Антоном Ивановым произведения стали достоянием отечественной культуры

Наука и жизнь
Планы выпускников университетов 2020 года Планы выпускников университетов 2020 года

Выпускники вузов об учебе, выбранной профессии и желании реализоваться в России

СНОБ
Как стать жестким, волевым человеком и развить уверенность в себе: подробное руководство Как стать жестким, волевым человеком и развить уверенность в себе: подробное руководство

В современном мире никуда без силы воли и твердости характера

Playboy
100 лучших вузов 100 лучших вузов

Рейтинг впервые возглавила Высшая школа экономики

Forbes
«Пятеро одной крови» Спайка Ли – очень актуальное и важное кино со слабой драматургией «Пятеро одной крови» Спайка Ли – очень актуальное и важное кино со слабой драматургией

Персонажи фильма о войне во Вьетнаме получились слишком плоскими

GQ
Открыть в приложении