Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
Восточный гамбит: как китайцы обвели Porsche вокруг пальца Восточный гамбит: как китайцы обвели Porsche вокруг пальца

Поучительная история Porsche С88

Maxim
Самый быстрый «единорог» в истории: сервис онлайн-мероприятий Hopin за год вырос с нуля до оценки в $2,1 млрд Самый быстрый «единорог» в истории: сервис онлайн-мероприятий Hopin за год вырос с нуля до оценки в $2,1 млрд

Выручка стартапа за полгода выросла в 50 раз — с $450 тысяч до $25 млн

VC.RU
В зеркале чужих взглядов В зеркале чужих взглядов

Мы все нуждаемся в оценках окружающих, в их реакциях на наши слова и поступки

Psychologies
Гид для начинающих любителей БДСМ Гид для начинающих любителей БДСМ

Вам придется разобраться в том, что значат все эти слова

GQ
Что можно найти в своем подвале: 4 пугающих истории Что можно найти в своем подвале: 4 пугающих истории

Покупая дом, где уже кто-то жил до вас, тщательно обследуйте каждый его уголок

Популярная механика
Уши, ключицы, шея, декольте — места, которые ты не красишь, а зря Уши, ключицы, шея, декольте — места, которые ты не красишь, а зря

Какие детали образа стоит подчеркнуть, чтобы выглядеть безупречно

Cosmopolitan
Личные данные: что о вас знают Google и Facebook Личные данные: что о вас знают Google и Facebook

Что о вас знают интернет-гиганты и как используют полученную информацию

РБК
Дамы-этнографы царской России Дамы-этнографы царской России

В эпоху турнюров и корсетов они пускались в рискованные экспедиции

Культура.РФ
Судят по себе: какие письма пишут себе заключенные, приговоренные к длительным срокам Судят по себе: какие письма пишут себе заключенные, приговоренные к длительным срокам

Как один неверный выбор может изменить всю жизнь

Esquire
Терраса на крыше, бассейн и парк для горожан: «Яндекс» показал свой новый офис Терраса на крыше, бассейн и парк для горожан: «Яндекс» показал свой новый офис

«Яндекс» построит себе новую штаб-квартиру на юго-западе столицы

Forbes
План спасения План спасения

Если вам кажется, что мир обречен и ничего уже не исправить, вы не одиноки

Вокруг света
Подслушано у звезд: 12 фитнес-приемов от тренеров самых спортивных актрис Подслушано у звезд: 12 фитнес-приемов от тренеров самых спортивных актрис

Главные секреты тренировок и самые эффективные упражнения от инструкторов

Cosmopolitan
Что любил есть Максим Горький? Что любил есть Максим Горький?

Максим Горький был вегетарианцем

Культура.РФ
Александр Колмановский: «Детские сады — зло, которого нужно избегать» Александр Колмановский: «Детские сады — зло, которого нужно избегать»

Что не так в детсадовской системе и опасна ли она для детской психики

Psychologies
Это нас не защитит: что не так с новым законопроектом о домашнем насилии? Это нас не защитит: что не так с новым законопроектом о домашнем насилии?

В чём разница между редакциями законопроекта о профилактике семейного насилия

Cosmopolitan
Стимуляция гипоталамуса ввела мышей в оцепенение Стимуляция гипоталамуса ввела мышей в оцепенение

Нейроны, обеспечивающие спячку, есть даже у тех, кто никогда в нее не впадает

N+1
12 вариантов семьи — многомужество, групповой брак, полигиния и другие забавы 12 вариантов семьи — многомужество, групповой брак, полигиния и другие забавы

Сколько нужно жен для гармоничного брака?

Maxim
Короли небылиц: звёзды, которые придумали себе биографии, — и все им поверили Короли небылиц: звёзды, которые придумали себе биографии, — и все им поверили

Добавив небылиц в свои биографии, они обманули фанатов

Cosmopolitan
Тараканы: откуда они берутся в доме и куда уходят Тараканы: откуда они берутся в доме и куда уходят

Выясняем, откуда тараканы пришли в наши дома – и куда пропали теперь

Популярная механика
Стимуляция запястья на треть снизила тики при синдроме Туретта Стимуляция запястья на треть снизила тики при синдроме Туретта

Ритмичная стимуляция в мю-диапазоне помогла купировать тики при синдроме Туретта

N+1
Назад в восьмидесятые: 13 лучших фильмов декады Назад в восьмидесятые: 13 лучших фильмов декады

Квентин Тарантино как-то назвал восьмидесятые худшей вехой в истории кино

Esquire
Маттиас Брешан (CEO Rado): «У вас должно быть столько часов, сколько вы можете себе позволить» Маттиас Брешан (CEO Rado): «У вас должно быть столько часов, сколько вы можете себе позволить»

Интервью с генеральным директором Rado – Маттиас Брешан

GQ
Серый, бурый, малиновый: с каким цветом сочетается оранжевый Серый, бурый, малиновый: с каким цветом сочетается оранжевый

Не знаешь, с чем лучше сочетать рыжую рубашку или апельсиновые кеды?

Cosmopolitan
Что решил рассказать Путин своей статьей накануне парада Что решил рассказать Путин своей статьей накануне парада

Как Путин смотрит на историю XX века

СНОБ
Без паники, Илон. 8 автомобилей, которые могли улететь в космос Без паники, Илон. 8 автомобилей, которые могли улететь в космос

Проекты, которые способны удивить главу Tesla

РБК
Кофейная зависимость: интересные факты о напитке Кофейная зависимость: интересные факты о напитке

Рассказываем самое важное о кофе - напитке, который завоевал весь мир

Популярная механика
Вреден ли кальян для здоровья и опаснее ли он сигарет? Ответы на все волнующие вопросы Вреден ли кальян для здоровья и опаснее ли он сигарет? Ответы на все волнующие вопросы

К чему приводит увлечение кальяном

Playboy
Гувернантки в имперской России Гувернантки в имперской России

История гувернерства от петровских времен до революции

Культура.РФ
Одна вокруг света на карантине: как не стать чьим-то ужином в дикой природе Одна вокруг света на карантине: как не стать чьим-то ужином в дикой природе

74-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Открыть в приложении