Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
«Хаббл» запечатлел, как умирают двойные звездные системы «Хаббл» запечатлел, как умирают двойные звездные системы

В объектив телескопа попали две необычные планетарные туманности

National Geographic
«Все напрасно»: что такое выученная беспомощность и как ее преодолеть «Все напрасно»: что такое выученная беспомощность и как ее преодолеть

Ощущение беспомощности может серьезно влиять на эмоциональное состояние

РБК
Леди Диана: история жизни, любви и разочарований принцессы людских сердец Леди Диана: история жизни, любви и разочарований принцессы людских сердец

Вспомнили самые яркие и драматичные моменты из биографии принцессы Уэльской

Cosmopolitan
6 способов выйти из положения, если у вас разный темперамент 6 способов выйти из положения, если у вас разный темперамент

Рассказываем, что делать, если у тебя и твоего партнера разные темпераменты

Cosmopolitan
На дорогах Европы ежегодно погибает более 200 миллионов животных На дорогах Европы ежегодно погибает более 200 миллионов животных

Новое исследование определило масштаб гибели животных на европейских дорогах

National Geographic
Правила жизни Рона Джереми Правила жизни Рона Джереми

Правила жизни порноактера и режиссера Рона Джереми

Esquire

Архивное интервью с писателем Джеймсом Болдуином о расизме

Esquire
Оказывается, моча очень пригодится в космосе Оказывается, моча очень пригодится в космосе

На Луне с помощью мочи можно построить хоть замок

GQ
Трансгенные козы дали противораковое молоко Трансгенные козы дали противораковое молоко

Молоко оказались эффективнее препарата, который повсеместно используют сейчас

N+1
Возбуждающие нейроны гиппокампа мышей превратились в тормозные при взрослении Возбуждающие нейроны гиппокампа мышей превратились в тормозные при взрослении

Активность ГАМК-нейронов может привести к непредсказуемым результатам

N+1
Отношения новые – ошибки старые? Отношения новые – ошибки старые?

В юности, строя первые серьезные отношения, ты делаешь кучу ошибок

Лиза
Кресло на миллион Кресло на миллион

Каждый год появляются новые галереи, специализирующиеся на коллекционном дизайне

Robb Report
Аноним раскрыл секреты жителей маленького городка — и шантажировал их 10 лет Аноним раскрыл секреты жителей маленького городка — и шантажировал их 10 лет

За несколько недель в далеком 1976 году город переменился до неузнаваемости

Cosmopolitan
От «Терминатора» до «ВАЛЛ-И»: 5 лучших фильмов про роботов и киборгов От «Терминатора» до «ВАЛЛ-И»: 5 лучших фильмов про роботов и киборгов

Искусственные устройства остаются популярной темой для фильмов

Популярная механика
Женщины-режиссеры, которых важно знать Женщины-режиссеры, которых важно знать

Работы этих женщин-режиссеров по праву считаются классикой кинематографа

Культура.РФ
Сон без белья, вода с лимоном и другие полезные ежедневные привычки Сон без белья, вода с лимоном и другие полезные ежедневные привычки

Советы, которые изменят ваше самочувствие и здоровье

Cosmopolitan
Едко, токсично, опасно: какую бытовую химию нельзя смешивать Едко, токсично, опасно: какую бытовую химию нельзя смешивать

Эти средства доступны, эффективны и очень часто применяются в быту

Популярная механика
Так ты точно будешь выглядеть безупречно. 14 советов для удачных снимков Так ты точно будешь выглядеть безупречно. 14 советов для удачных снимков

Мы докажем, что нет понятия «нефотогеничность»

Cosmopolitan
Седьмой шейный позвонок: где живет воля? Седьмой шейный позвонок: где живет воля?

Точка Да Чуэй позволяет воздействовать на волю и энергию

Psychologies
Правила жизни Джорджа Майкла Правила жизни Джорджа Майкла

Правила жизни британского певца и поэта Джорджа Майкла

Esquire
Катя катит кругосветку Катя катит кругосветку

Третий этап кругосветки. На этот раз Мексика

Мото
Габриэль Витткоп: Наследства Габриэль Витткоп: Наследства

Отрывок из нового романа французской писательницы Габриэль Витткоп

СНОБ
Коррекция бровей: как сделать модную форму самой — советы мастера Коррекция бровей: как сделать модную форму самой — советы мастера

Как лучше корректировать брови самостоятельно, чтобы потом об этом не пожалеть

Cosmopolitan
Виктор Цой — человек своей эпохи или «вечный подросток»? Виктор Цой — человек своей эпохи или «вечный подросток»?

Виктор Цой — порождение и отражение определенной эпохи и музыкант на все времена

Psychologies
Как вежливо отказать работодателю после собеседования: полезное руководство Как вежливо отказать работодателю после собеседования: полезное руководство

Не на каждое же предложение соглашаться

Playboy
Лига выдающихся идиотов. Саванты — люди с самыми потрясающими мозгами на свете Лига выдающихся идиотов. Саванты — люди с самыми потрясающими мозгами на свете

Аутисты способны делать вещи для нас непосильные

Maxim
Порошок кости из сибирской пещеры помог качественно прочесть геном неандерталки Порошок кости из сибирской пещеры помог качественно прочесть геном неандерталки

Ученые секвенировали геном неандертальца из сибирской пещеры Чагырская

N+1
7 способов избавиться от прошлого 7 способов избавиться от прошлого

Что делать, если нам порой кажется, что лучшее осталось в прошлом

Psychologies
Как продать русский продукт американцам Как продать русский продукт американцам

Американский рынок просто нужно адаптировать под русские реалии и вкусы

Inc.
Открыть в приложении