Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Кавказ был «генетически пёстрым» уже в раннем железном веке Кавказ был «генетически пёстрым» уже в раннем железном веке

Генетики впервые исследовали ДНК носителей кобанской историко-культурной области

Наука и жизнь
Уроки испанки Уроки испанки

Как экономика переживет «неожиданную остановку»

Forbes
Зачем современному школьнику предпринимательские проекты Зачем современному школьнику предпринимательские проекты

Что такое «школьный mindset»?

СНОБ
Минный пол Минный пол

20 вещей, которых мы боимся в женщинах

Maxim
Нина Тарасова: «Следовать за мечтой всегда тяжело, но как жить иначе?» Нина Тарасова: «Следовать за мечтой всегда тяжело, но как жить иначе?»

Как Нина Тарасова из режиссера стала шеф-кондитером

Bones
Вопрос психологу: что такое коучинг и так ли он хорош на самом деле? Вопрос психологу: что такое коучинг и так ли он хорош на самом деле?

Последние пару лет интернет и соцсети так и пестрят термином «коучинг»

Esquire
Пока не приняли закон: отрывок из книги Дианы Садреевой «Ты не виновата: почему домашнее насилие – это не про любовь» Пока не приняли закон: отрывок из книги Дианы Садреевой «Ты не виновата: почему домашнее насилие – это не про любовь»

Фрагмент пятой части книги Дианы Садреевой о домашнем насилии

Esquire
Бумажный флуоресцентный сенсор определил рекордно низкую концентрацию углекислого газа Бумажный флуоресцентный сенсор определил рекордно низкую концентрацию углекислого газа

Бумажный сенсор, способный детектировать концентрации углекислого газа

N+1
Месть Чингисхана Месть Чингисхана

Вторжение монголов положило конец господству половцев в Великой степи

Дилетант
Диета при подагре: убираем лишнее, добавляем необходимое Диета при подагре: убираем лишнее, добавляем необходимое

Диета при подагре – практически первая необходимость

Cosmopolitan
«Время кризиса — время повышать эффективность» «Время кризиса — время повышать эффективность»

Каковы перспективы проектов в рамках делового сотрудничества России и Германии

РБК
Одна вокруг света на карантине: как не стать чьим-то ужином в дикой природе Одна вокруг света на карантине: как не стать чьим-то ужином в дикой природе

74-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Пять экранизаций русских книг, которые мы ждем в 2020 году Пять экранизаций русских книг, которые мы ждем в 2020 году

Пять современных русских романов, экранизацию которых мы очень ждем прямо сейчас

Esquire
Эмиссия невыполнима: как живет секретный клуб, печатающий альтернативные российские валюты Эмиссия невыполнима: как живет секретный клуб, печатающий альтернативные российские валюты

Этот секретный клуб собирается составить конкуренцию Центробанку

Esquire
Как научиться читать иконы Как научиться читать иконы

Что можно узнать, взглянув на икону, если вы новичок в древнерусском искусстве

Культура.РФ
«Если ребенок — наркоман». Советы матерям «Если ребенок — наркоман». Советы матерям

Что делать матери, если ее взрослый ребенок — наркоман или алкоголик?

Psychologies
Низкие налоги, круглосуточные магазины и все опаздывают: почему иностранцам нравится работать в России Низкие налоги, круглосуточные магазины и все опаздывают: почему иностранцам нравится работать в России

Почему не стоит забывать о том, что Россия — страна карьерных возможностей

Forbes
Правила бойни. Гласный и негласный этикет «благородной» войны Правила бойни. Гласный и негласный этикет «благородной» войны

Чем убивать нечестно и можно ли отвести на пленном снайпере душу

Maxim
Уоллис и гром Уоллис и гром

Актриса Аннабелль Уоллис — о бриллиантах, комедиях и наболевшем

Vogue
Открыть магазин крафтового чая: сколько нужно вложений, как удерживать клиентов и сколько можно на этом заработать Открыть магазин крафтового чая: сколько нужно вложений, как удерживать клиентов и сколько можно на этом заработать

Своим опытом поделились владельцы магазинов бутикового чая

VC.RU
Без паники, Илон. 8 автомобилей, которые могли улететь в космос Без паники, Илон. 8 автомобилей, которые могли улететь в космос

Проекты, которые способны удивить главу Tesla

РБК
Почему детям нужны разочарования и как помочь с ними справиться Почему детям нужны разочарования и как помочь с ними справиться

Чего мы лишаем детей, когда не даем им почувствовать разочарование

Psychologies
Иностранные ремейки советских фильмов Иностранные ремейки советских фильмов

На основе этих советских фильмов свои картины снимали зарубежные режиссеры

Культура.РФ
Договор на берегу: 5 советов, как подготовиться к декрету Договор на берегу: 5 советов, как подготовиться к декрету

План по подготовке к декрету с точки зрения финансовой безопасности

Forbes
Не время хоронить Не время хоронить

Василий Степанов о первом фильме фем-бондианы

Weekend
«Да, шеф!» Как проходят стажировки на ресторанных кухнях «Да, шеф!» Как проходят стажировки на ресторанных кухнях

Как пережить бесконечные смены и получить максимум от каждого дня на чужой кухне

Bones
«Мне казалось, весь мир у моих ног» «Мне казалось, весь мир у моих ног»

История топ-модели Катрин Барк напоминает сказку

OK!
Кирилл Нагиев Кирилл Нагиев

Артист Театра Ленсовета сыграл барчука в главном блокбастере 2019 года «Холоп»

Собака.ru
Интервью с академиком Михаилом Предтеченским Интервью с академиком Михаилом Предтеченским

Интервью с академиком о грядущем «карбоновом веке»

СНОБ
Открыть в приложении