Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Как сформулировать миссию компании Как сформулировать миссию компании

Выполнив конкретный процесс, вы можете создать миссию своей компании

Inc.
Радость бытия Радость бытия

Квартира для девушки-студентки в стиле фьюжн

Идеи Вашего Дома
Правила жизни Жака-Ива Кусто Правила жизни Жака-Ива Кусто

Правила жизни французского исследователя Мирового океана Жака-Ива Кусто

Esquire
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Когда длина имеет значение: почему одни фотоны убивают, а другие нет Когда длина имеет значение: почему одни фотоны убивают, а другие нет

О проявлениях одного и того же физического явления: электромагнитного излучения

Популярная механика
Как прокачать soft skills в компании в условиях затяжного стресса Как прокачать soft skills в компании в условиях затяжного стресса

Как в любой ситуации поддержать сотрудников и сохранить их эффективность

Inc.
«Я за свою ошибку заплатил сполна»: главред «Медузы» Иван Колпаков впервые рассказал свою версию инцидента с харассментом «Я за свою ошибку заплатил сполна»: главред «Медузы» Иван Колпаков впервые рассказал свою версию инцидента с харассментом

Иван Колпаков прокомментировал обвинения в харрассменте

Esquire
Возбуждающие нейроны гиппокампа мышей превратились в тормозные при взрослении Возбуждающие нейроны гиппокампа мышей превратились в тормозные при взрослении

Активность ГАМК-нейронов может привести к непредсказуемым результатам

N+1
Охота к перемене дат Охота к перемене дат

Праздничный календарь на пороге новых перемен

Огонёк
10 главных заблуждений и фактов о наркотиках 10 главных заблуждений и фактов о наркотиках

Главные заблуждения о психоактивных веществах и зависимости от них

Популярная механика
Как обслуживают машины в России, Европе и США. Таблица Как обслуживают машины в России, Европе и США. Таблица

Почему российские автомобилисты чаще проходят регулярный технический осмотр

РБК
Как можно с Кореей Как можно с Кореей

Южнокорейские айдолы становятся главными мировыми инфлюенсерами

Vogue
Детектор темной материи XENON1T зарегистрировал аномально большое число событий Детектор темной материи XENON1T зарегистрировал аномально большое число событий

Коллаборация XENON1T сообщила о новых результатах

N+1
Стоит ли открывать душу партнеру Стоит ли открывать душу партнеру

Мы одновременно хотим и не хотим, чтобы партнер был искренен с нами

Psychologies
Хинь да зрятина Хинь да зрятина

Горький в повести «В людях» заставляет ощутить беспросветную тщетность жизни

Наука и жизнь
10 лучших зарубежных фильмов о подростках 10 лучших зарубежных фильмов о подростках

Мы собрали список из 10 лучших зарубежных фильмов о взрослении

Esquire
Восточный гамбит: как китайцы обвели Porsche вокруг пальца Восточный гамбит: как китайцы обвели Porsche вокруг пальца

Поучительная история Porsche С88

Maxim
О рыбачке и рыбке О рыбачке и рыбке

Как русская уха покорила Францию

Огонёк
«Жена выгнала, спал в машине». Автомобилиста лишили прав на полтора года «Жена выгнала, спал в машине». Автомобилиста лишили прав на полтора года

Водителя лишили прав за пьяную езду после того, как он уснул в своем авто

РБК
Азоту придали кристаллическую структуру черного фосфора Азоту придали кристаллическую структуру черного фосфора

Ученые впервые смогли получить полимерную модификацию азота

N+1
Недосчитались алмазов в пещерах каменных Недосчитались алмазов в пещерах каменных

Запасы некоторых полезных ископаемых уменьшаются быстрее, чем прирастают

Эксперт
Экстренное увлажнение Экстренное увлажнение

Пыль города, стрессы – всё это влияет на качество кожи и делает её обезвоженной

Здоровье
Без паники, Илон. 8 автомобилей, которые могли улететь в космос Без паники, Илон. 8 автомобилей, которые могли улететь в космос

Проекты, которые способны удивить главу Tesla

РБК
Одна вокруг света на карантине: камнепад и индийская Венеция Одна вокруг света на карантине: камнепад и индийская Венеция

76-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Менторство. Как оно помогает карьере повара Менторство. Как оно помогает карьере повара

Важный аспект развития молодых поваров – это обмен опытом со старшими коллегами

Bones
Штрихи на бумаге: кто и когда изобрел карандаш Штрихи на бумаге: кто и когда изобрел карандаш

Этот инструмент почти без изменений дошел из Средневековья до наших дней

Популярная механика
Мясной клуб Мясной клуб

Даже в разгар сезона овощей многие не мыслят жизни без мяса

Худеем правильно
Джеймс Роллинс: Последняя одиссея Джеймс Роллинс: Последняя одиссея

Герои книги Джеймса Роллинса «Последняя одиссея» исследуют ледники Гренландии

СНОБ
Как составить план работы на день Как составить план работы на день

Почему у нас не получается реалистично распределять свое время

Reminder
Открыть в приложении