Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Ножки-сухарики. История одного воспоминания Ножки-сухарики. История одного воспоминания

Порой достаточно свести двух умирающих людей, чтобы тем самым продлить их жизнь

СНОБ
Кощей: разбор по косточкам Кощей: разбор по косточкам

Две возможные модели существования Кощея Бессмертного

Вокруг света
Правила жизни Фрэнсис Макдорманд Правила жизни Фрэнсис Макдорманд

Правила жизни актрисы Фрэнсис Макдорманд

Esquire
7 экспериментов по созданию гибрида человека и животного 7 экспериментов по созданию гибрида человека и животного

Ученые по всему миру проводят эксперименты по скрещиванию человека и животного

Популярная механика
«Я всегда считал, что обязан Вам жизнью» «Я всегда считал, что обязан Вам жизнью»

Единственный защитник заключённого, реальный его защитник — лагерный врач

Дилетант
Светлана Иванова: «Сегодня важно быть готовой к любой ситуации» Светлана Иванова: «Сегодня важно быть готовой к любой ситуации»

Светлана Иванова рассказала о плюсах и минусах изоляции

Здоровье
Кто стоит за самыми перспективными стартапами по версии Forbes Кто стоит за самыми перспективными стартапами по версии Forbes

Кто стоит за стартапами, которые в скором времени могут подорожать до $1 млрд

Forbes
Парижский синдром: почему у японских туристов, приезжающих во Францию, развиваются психические расстройства Парижский синдром: почему у японских туристов, приезжающих во Францию, развиваются психические расстройства

Почему японцы болеют "парижским синдромом" и стоит ли его опасаться туристам

Esquire
35 откровенных вопросов, которые стоит задать своей девушке (чтобы узнать, что ей нравится в постели) 35 откровенных вопросов, которые стоит задать своей девушке (чтобы узнать, что ей нравится в постели)

Открытое общение между любовниками — залог более приятного секса

Playboy
История «Кодабры»: как девушка из поселка, которого нет на карте, создала школу программистов для IT-гигантов История «Кодабры»: как девушка из поселка, которого нет на карте, создала школу программистов для IT-гигантов

Отрывок из книги «Дельфины капитализма 2.0»

Inc.
Забывание сработало по принципу «все или ничего» и не повлияло на точность памяти Забывание сработало по принципу «все или ничего» и не повлияло на точность памяти

Ассоциирование помогло запомнить событие в целом, но детали забылись

N+1
«Папины деньги — это папины деньги. Строить за детей жизнь я не буду». Правила воспитания бизнесмена и отца 23 детей Романа Авдеева «Папины деньги — это папины деньги. Строить за детей жизнь я не буду». Правила воспитания бизнесмена и отца 23 детей Романа Авдеева

Какими правилами руководствуется отец 23 детей, из которых 17 усыновленных

Forbes
Летняя резиденция Летняя резиденция

Интерьеры суперъяхты M/Y Dream: 106 метров и 6 палуб абсолютного дизайна

SALON-Interior
Что такое феромоны и как работают афродизиаки Что такое феромоны и как работают афродизиаки

Как работают особые молекулы запаха, придающие телу притягательность

РБК
6 гурманских супов, приготовить которые сможет даже новичок 6 гурманских супов, приготовить которые сможет даже новичок

Супы тоже еда, особенно те, варить которые чуть ли не легче, чем яичницу!

Maxim
20 лучших фильмов про вампиров 20 лучших фильмов про вампиров

Фильмы о вампирах: от классики до новаторских интерпретаций

Esquire
Движение роялистов Движение роялистов

На нью-йоркской фабрике Steinway & Sons всё работает как по нотам

Robb Report
Стандарты — ищите золотую середину Стандарты — ищите золотую середину

В ресторане все должно работать по часам и на самом высоком уровне

Bones
Лили Джеймс, актриса Лили Джеймс, актриса

Лили Джеймс называют восходящей звездой Голливуда

Худеем правильно
Слова, придуманные русскими писателями Слова, придуманные русскими писателями

Русский язык во многом обогатила фантазия русских писателей

Культура.РФ
Как перестать себя оценивать и начать ценить Как перестать себя оценивать и начать ценить

Привычки мышления усваиваются в детстве и сопровождают нас всю жизнь

Psychologies
Как стать жестким, волевым человеком и развить уверенность в себе: подробное руководство Как стать жестким, волевым человеком и развить уверенность в себе: подробное руководство

В современном мире никуда без силы воли и твердости характера

Playboy
«Не надо бояться, что вам начнут дышать в спину». Карьерные советы главы Unilever «Не надо бояться, что вам начнут дышать в спину». Карьерные советы главы Unilever

Глава Unilever Регина Кузьмина дает полезные карьерные советы

Forbes
Микрофлюидика помогла смоделировать эмбриональное развитие нервной трубки Микрофлюидика помогла смоделировать эмбриональное развитие нервной трубки

Ее клетки дифференцировались по путям разных отделов мозга

N+1
Как марка Kenneth Ize переосмысляет культуру Нигерии Как марка Kenneth Ize переосмысляет культуру Нигерии

Kenneth Ize – пример симбиоза ремесленнических традиций и современного дизайна

GQ
Режиссер Дэвид Кроненберг — о теориях заговора, рептилоидах и всемогущей русской мафии Режиссер Дэвид Кроненберг — о теориях заговора, рептилоидах и всемогущей русской мафии

Почему люди хотят верить в рептилоидов, козни иллюминатов и самолет с мертвецами

Esquire
Новые записки Хендрика Груна из амстердамской богадельни Новые записки Хендрика Груна из амстердамской богадельни

Главы из дневника Хендрика Груна — жителя амстердамского дома опеки

СНОБ
Методы варки кофе: научный взгляд на кофеин и вкусовые качества Методы варки кофе: научный взгляд на кофеин и вкусовые качества

Споры о том, какой способ приготовления кофе считать правильным, ведутся издавна

Популярная механика
Королевы подиума Королевы подиума

Вспоминаем супермоделей 90-х, на которых мы мечтали быть похожими

Лиза
Открыть в приложении