Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Недопустимый TON Недопустимый TON

Криптовалютный проект Павла Дурова был высоко оценен инвесторами

Forbes
Мини-приложения App Clips для быстрого запуска сервисов: как они работают, чем могут помочь бизнесу и зачем нужны Apple Мини-приложения App Clips для быстрого запуска сервисов: как они работают, чем могут помочь бизнесу и зачем нужны Apple

Как использовать App Clips в бизнесе?

VC.RU
Как на Олимпиаде наших ломали: все скандалы с русскими спортсменами в Токио Как на Олимпиаде наших ломали: все скандалы с русскими спортсменами в Токио

Олимпийские игры в Токио закончились, а послевкусие осталось

Cosmopolitan
12 способов испортить первое свидание 12 способов испортить первое свидание

Темы, которые нежелательно поднимать на первом свидании

Maxim
Микрочип: схема, изменившая мир Микрочип: схема, изменившая мир

Изобретения, которые значительно увеличили скорость технологического прогресса

Популярная механика
10 лучших зарубежных фильмов о подростках 10 лучших зарубежных фильмов о подростках

Мы собрали список из 10 лучших зарубежных фильмов о взрослении

Esquire
Лили Джеймс, актриса Лили Джеймс, актриса

Лили Джеймс называют восходящей звездой Голливуда

Худеем правильно
Андрей Жданов: «Текучки у нас почти нет» Андрей Жданов: «Текучки у нас почти нет»

Aq Kitchen — это высочайший уровень, с которого уже невозможно спуститься

Bones
Мост в никуда: СУЭК миллиардера Мельниченко может потерять $200 млн из-за аварии под Мурманском Мост в никуда: СУЭК миллиардера Мельниченко может потерять $200 млн из-за аварии под Мурманском

К чему приведет обрушение железнодорожного моста под Мурманском

Forbes
Павел Пригара Павел Пригара

Экс-чиновник и бизнесмен стал главным арт-менеджером Петербурга

Собака.ru
Почему детям нужны разочарования и как помочь с ними справиться Почему детям нужны разочарования и как помочь с ними справиться

Чего мы лишаем детей, когда не даем им почувствовать разочарование

Psychologies
12 людей, поневоле ставших известными писателями 12 людей, поневоле ставших известными писателями

Иногда, чтобы стать классиком, достаточно сломать ногу

Maxim
“Панголина”: уникальный суперкар-самоделка родом из СССР “Панголина”: уникальный суперкар-самоделка родом из СССР

“Панголина” — символ советского движения "самавто"

Популярная механика
«Против часовой стрелки: Что такое старение и как с ним бороться» «Против часовой стрелки: Что такое старение и как с ним бороться»

Почему возрастные изменения — это не всегда плохо. Объясняет Полина Лосева

N+1
40 недооцененных мужских талантов 40 недооцененных мужских талантов

Ты ими гордишься в глубине души, а люди воспринимают их как должное. Обидно!

Maxim
«Яндекс» показал новое поколение беспилотников на базе Hyundai Sonata «Яндекс» показал новое поколение беспилотников на базе Hyundai Sonata

Российская компания впервые разработала беспилотник

VC.RU
В появлении кратера на Ямале обвинили метан из тающей многолетней мерзлоты В появлении кратера на Ямале обвинили метан из тающей многолетней мерзлоты

Все возможные причины его образования связаны с таянием многолетней мерзлоты

N+1
10 фактов об Альберте Эйнштейне 10 фактов об Альберте Эйнштейне

Подборка интересных деталей из биографии Альберте Эйнштейне

Популярная механика
«Это нужно отметить»: как распознать первые признаки алкогольной зависимости «Это нужно отметить»: как распознать первые признаки алкогольной зависимости

Алкоголизм и его последствия ежегодно уносят жизни огромного количества людей

Psychologies
Твин пиксель Твин пиксель

Модные бренды играют на опережение

Vogue
Назад в 2000-й: бензин по 7 рублей, строительство ТТК и массовые иномарки Назад в 2000-й: бензин по 7 рублей, строительство ТТК и массовые иномарки

С чего начался XXI век в автомобильной отрасли России

РБК
Трансгенные козы дали противораковое молоко Трансгенные козы дали противораковое молоко

Молоко оказались эффективнее препарата, который повсеместно используют сейчас

N+1
Как клип трансформирует город Как клип трансформирует город

Будущее всегда стремилось к целостности — у нас первый раз не так

Weekend
Черное сокровище Сицилии: виноград, который подойдет для Крыма и Северного Кавказа Черное сокровище Сицилии: виноград, который подойдет для Крыма и Северного Кавказа

Как сицилийский сорт красного винограда стал главным для производства вин

Forbes
Терраса на крыше, бассейн и парк для горожан: «Яндекс» показал свой новый офис Терраса на крыше, бассейн и парк для горожан: «Яндекс» показал свой новый офис

«Яндекс» построит себе новую штаб-квартиру на юго-западе столицы

Forbes
Обаятельный боец Обаятельный боец

Как Даниил Медведев стал звездой мирового тенниса и героем рекламных кампаний

Forbes
Как мотивировать команду работать в стрессовых условиях Как мотивировать команду работать в стрессовых условиях

В жизни стартапа бывают моменты, когда всей команде приходится работать на износ

Inc.
Скромность украшает Скромность украшает

Ева Грин в роли хозяйки борделя в остросюжетной драме «Светила»

Grazia
Кино шума и времени Кино шума и времени

Ксения Рождественская о Шанталь Акерман

Weekend
Японский коллайдер SuperKEKB установил рекорд светимости Японский коллайдер SuperKEKB установил рекорд светимости

На электрон-позитронном коллайдере SuperKEKB был поставлен рекорд светимости

Популярная механика
Открыть в приложении