Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Недопустимый TON Недопустимый TON

Криптовалютный проект Павла Дурова был высоко оценен инвесторами

Forbes
Тот еще Видок: История знаменитого преступника, ставшего еще более знаменитым сыщиком Тот еще Видок: История знаменитого преступника, ставшего еще более знаменитым сыщиком

Никогда не поздно развернуть свою жизнь на 180 градусов

Maxim
В городской тиши В городской тиши

Как можно улучшить город, пока он на карантине

Forbes
Извержение вулкана на Аляске ускорило падение Римской республики Извержение вулкана на Аляске ускорило падение Римской республики

Как извержение вулкана повлияло на политические процессы в Древнем Риме

Популярная механика
Поля морей Поля морей

Новые технологии сельского хозяйства: фермы в океане

Популярная механика
Одна вокруг света на карантине: как не стать чьим-то ужином в дикой природе Одна вокруг света на карантине: как не стать чьим-то ужином в дикой природе

74-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Московское метро: как строился подземный город Московское метро: как строился подземный город

У Московского метро хватает своих легенд и занимательных фактов

Популярная механика
Генпродюсер компании «Рики» Илья Попов создал культовых «Смешариков» и сделал Петербург столицей российской анимации. Генпродюсер компании «Рики» Илья Попов создал культовых «Смешариков» и сделал Петербург столицей российской анимации.

Чтобы создавать успешную анимацию — нельзя выходить из детства

Собака.ru
Почему в России поймут лозунг американских протестов Почему в России поймут лозунг американских протестов

Граждане России понимают, что такое не иметь привилегий в общении с силовиками

СНОБ
Спайк Ли: «Трамп войдет в историю как худший президент США» Спайк Ли: «Трамп войдет в историю как худший президент США»

Спайк Ли о том, кого считает виновным в полицейском произволе

GQ
Клятва Гиппократа. 9 мифов об отце медицины Клятва Гиппократа. 9 мифов об отце медицины

Поджигатель, правитель, автор основополагающего труда в истории медицины…

Вокруг света
Горько! Горько!

Горький вкус полезен для здоровья и похудения

Худеем правильно
«Она отказала мне два раза». Что не так с «короткими» ОСАГО «Она отказала мне два раза». Что не так с «короткими» ОСАГО

В нескольких страховых компаниях водителю отказали в оформлении ОСАГО

РБК
Польза фиников для мужчин: 11 классных эффектов, которые тебе понравятся Польза фиников для мужчин: 11 классных эффектов, которые тебе понравятся

Сладкие и очень полезные

Playboy
«Космос. Иллюстрированная история астрономии и космологии» «Космос. Иллюстрированная история астрономии и космологии»

Попытки Жозефа Луи Лагранжа и Пьера-Симона Лапласа объяснить ускорение Луны

N+1
Как правильно бриться станком: преимущества разных видов и пошаговая инструкция Как правильно бриться станком: преимущества разных видов и пошаговая инструкция

Пора освоить этот необходимый скилл

Playboy
Сколько оперативной памяти нужно для компьютерных игр? Сколько оперативной памяти нужно для компьютерных игр?

Вопрос для геймера: хватит ли 8 Гбайт или заряжаться сразу под 32?

CHIP
«Пятеро одной крови» Спайка Ли: первый фильм лета с хэштегом #BlackLivesMatter «Пятеро одной крови» Спайка Ли: первый фильм лета с хэштегом #BlackLivesMatter

Новый фильм Спайка Ли бросает в один котел все жанры, какие только можно

РБК
Трофейный автопарк СССР. Какие машины вывезли из Германии Трофейный автопарк СССР. Какие машины вывезли из Германии

Трофейные автомобили, которые оставили свой след в истории СССР

РБК
The Bell сообщил о скором «разводе» Сбербанка и «Яндекса» при участии Абрамовича и ВТБ The Bell сообщил о скором «разводе» Сбербанка и «Яндекса» при участии Абрамовича и ВТБ

«Яндекс» и Сбербанк могут прекратить партнерство в совместных проектах

Forbes
Личные данные: что о вас знают Google и Facebook Личные данные: что о вас знают Google и Facebook

Что о вас знают интернет-гиганты и как используют полученную информацию

РБК
Ментальные искажения: почему мы мыслим нерационально Ментальные искажения: почему мы мыслим нерационально

Что нам мешает мыслить рационально и делать логичные выводы

Популярная механика
Майк Науменко. Бегство из зоопарка Майк Науменко. Бегство из зоопарка

Отрывок из биографии основателя и солиста советской рок-группы «Зоопарк»

СНОБ
Активный гиппокамп запомнил слова лучше неподготовленного Активный гиппокамп запомнил слова лучше неподготовленного

Эффективность запоминания стимула определяет состояние гиппокампа

N+1
«Сила ветра» «Сила ветра»

Сделать яхтинг доступным и быть на одной волне с московскими банкирами

Inc.
Наука и искусство: 5 примеров вдохновения художников Наука и искусство: 5 примеров вдохновения художников

Что общего между картиной «Крик» Эдварда Мунка и картой Нью-Йорка из дрожжей

Популярная механика
Что такое энзимная косметика и кому она подойдет Что такое энзимная косметика и кому она подойдет

Почему энзимная косметика так быстро набирает популярность?

Psychologies
Кража с обломом. 20 cамых смешные ограбления двухтысячных Кража с обломом. 20 cамых смешные ограбления двухтысячных

Идиотами оказываются то грабители, то пострадавшие

Maxim
«У нас прирост на 400%». Как «Кинопоиск», IVI, Start и Premier подняли бизнес во время пандемии «У нас прирост на 400%». Как «Кинопоиск», IVI, Start и Premier подняли бизнес во время пандемии

Как изменилась аудитория крупнейших онлайн-кинотеатров

Forbes
Успех без мужей и наследства: победительницы рейтинга «30 до 30» о том, почему деньги больше не имеют значения Успех без мужей и наследства: победительницы рейтинга «30 до 30» о том, почему деньги больше не имеют значения

Успех больше не измеряется деньгами и мужьями

Forbes
Открыть в приложении