Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Катастрофа Superjet: испытатель за год предупреждал об аварии Катастрофа Superjet: испытатель за год предупреждал об аварии

«РР» нашел эксклюзивные документы

Русский репортер
Мужчина и его собака: дизайнер бренда «Союз» Максим Иванов и его стаффордширский терьер Джесси Мужчина и его собака: дизайнер бренда «Союз» Максим Иванов и его стаффордширский терьер Джесси

Наш герой о том, как он решил завести питомца — и что последовало за этим

Esquire
Толкование сновидений Толкование сновидений

Главная работа отца психоанализа

kiozk originals
Не в ресурсе: почему мы кричим на детей и причем тут эмоциональное выгорание Не в ресурсе: почему мы кричим на детей и причем тут эмоциональное выгорание

Почему иногда в общении с детьми так сложно удержаться от крика

Forbes
Снова в школы Снова в школы

Для чего и кому нужна глобальная реформа МГУ

Forbes
«Я за свою ошибку заплатил сполна»: главред «Медузы» Иван Колпаков впервые рассказал свою версию инцидента с харассментом «Я за свою ошибку заплатил сполна»: главред «Медузы» Иван Колпаков впервые рассказал свою версию инцидента с харассментом

Иван Колпаков прокомментировал обвинения в харрассменте

Esquire
Я + Ты = (не)идеальная пара Я + Ты = (не)идеальная пара

Почему невозможно быть идеальной парой

Psychologies
Кормушки позволили самкам больших синиц не экономить энергию зимними ночами Кормушки позволили самкам больших синиц не экономить энергию зимними ночами

С кормушками самки синиц легче переживают зиму

N+1
Парижский синдром: почему у японских туристов, приезжающих во Францию, развиваются психические расстройства Парижский синдром: почему у японских туристов, приезжающих во Францию, развиваются психические расстройства

Почему японцы болеют "парижским синдромом" и стоит ли его опасаться туристам

Esquire
«Лето будет “тихим”»: креативные агентства о том, как пандемия изменила их бизнес и чего ждать в будущем «Лето будет “тихим”»: креативные агентства о том, как пандемия изменила их бизнес и чего ждать в будущем

Клиенты креативных агентств урезали бюджеты на продвижение

VC.RU
Тонкая работа Тонкая работа

Старинный художественный промысел родом из Ростова Великого

Лиза
Содержание углекислого газа в атмосфере стало рекордным за 23 миллиона лет Содержание углекислого газа в атмосфере стало рекордным за 23 миллиона лет

Два столетия назад содержание CO2 в атмосфере резко начало расти

N+1
«Пользователи ищут славы и денег»: старое интервью сооснователя Musical.ly о создании и монетизации сообщества «Пользователи ищут славы и денег»: старое интервью сооснователя Musical.ly о создании и монетизации сообщества

Интервью основателя Musical.ly до объединения с TikTok

VC.RU
Стимуляция гипоталамуса ввела мышей в оцепенение Стимуляция гипоталамуса ввела мышей в оцепенение

Нейроны, обеспечивающие спячку, есть даже у тех, кто никогда в нее не впадает

N+1
Вместе или врозь Вместе или врозь

Всё чаще можно услышать, что огурцы не «дружат» с помидорами

Худеем правильно
Встать, суд идиот! 10 самых нелепых приговоров Встать, суд идиот! 10 самых нелепых приговоров

Иногда быть униженным и оскорбленным — очень выгодное дело

Maxim
«У этой женщины было все» — но она пыталась убить мужа семь раз «У этой женщины было все» — но она пыталась убить мужа семь раз

Рут вела роскошную жизнь, у нее было все, чего она желала, кроме одного

Cosmopolitan
Метамфетамин помог лекарствам пройти через гематоэнцефалический барьер Метамфетамин помог лекарствам пройти через гематоэнцефалический барьер

Низкие дозы метамфетамина облегчают кавеолярный транспорт других веществ

N+1
Закат Византийской империи Закат Византийской империи

Одна из глав книги «Краткая история: Византийская империя»

СНОБ
От Азии до Америки От Азии до Америки

Делюсь с вами впечатлениями из нескольких интересных поездок

Bones
Опасная классика: как не ошибиться с выбором красной помады Опасная классика: как не ошибиться с выбором красной помады

Боишься носить красную помаду, потому что считаешь, что она тебе не идет?

VOICE
«Люди на Луне. Главные ответы» «Люди на Луне. Главные ответы»

Был ли достаточно развит технический уровень в 1960-е годы для полета на Луну

N+1
Он сшил форму, в которой побеждает Хабиб, и увеличил выручку в 16 раз за два года. Он сшил форму, в которой побеждает Хабиб, и увеличил выручку в 16 раз за два года.

Это история предпринимателя из Пензы, который нашел голубой океан

Inc.
Правила жизни Майка Тайсона Правила жизни Майка Тайсона

Правила жизни знаменитого боксера Майка Тайсона

Esquire
Кавказ был «генетически пёстрым» уже в раннем железном веке Кавказ был «генетически пёстрым» уже в раннем железном веке

Генетики впервые исследовали ДНК носителей кобанской историко-культурной области

Наука и жизнь
Правила жизни Зинедина Зидана Правила жизни Зинедина Зидана

Правила жизни выдающегося французского футболиста и тренера Зинедина Зидана

Esquire
12 вариантов семьи — многомужество, групповой брак, полигиния и другие забавы 12 вариантов семьи — многомужество, групповой брак, полигиния и другие забавы

Сколько нужно жен для гармоничного брака?

Maxim
Почему подростки ничего не хотят? Почему подростки ничего не хотят?

Почему подростки валяются целыми днями на кровати с телефоном и ничего не делают

Здоровье
От 40 до 40: Звезды шоу-бизнеса и спорта От 40 до 40: Звезды шоу-бизнеса и спорта

Рейтинг российских звезд шоу-бизнеса и спорта до 40 лет

Forbes
«Древо жизни»: почему нам важно знать историю своего рода «Древо жизни»: почему нам важно знать историю своего рода

О том, почему нам нужно знать о собственных корнях

Psychologies
Открыть в приложении