Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Мини-город на районе: зачем бизнес-центрам общественные пространства и что это даёт жителям вокруг Мини-город на районе: зачем бизнес-центрам общественные пространства и что это даёт жителям вокруг

Чем сильнее развита инфраструктура, тем дороже там стоит жилье

VC.RU
Вспомогательные элементы Вспомогательные элементы

Какие витамины и макроэлементы нужны беременной женщине

Здоровье
Лет ми рид: 5 простых правил, которые помогут вам начать читать по-английски Лет ми рид: 5 простых правил, которые помогут вам начать читать по-английски

Инструкция для тех, кто еще не читает по-английски, но очень хочет начать

Esquire
Минный пол Минный пол

20 вещей, которых мы боимся в женщинах

Maxim
6 операций по обслуживанию автомобиля, которые ты можешь сделать сам 6 операций по обслуживанию автомобиля, которые ты можешь сделать сам

Как сэкономить на обслуживании автомобиля? Вот так!

Maxim
Временное искусство и ландшафтный размах: 5 фактов о художнике Христо Явашеве Временное искусство и ландшафтный размах: 5 фактов о художнике Христо Явашеве

Ушел из жизни американский скульптор и художник Христо Явашев

Esquire
Уоллис и гром Уоллис и гром

Актриса Аннабелль Уоллис — о бриллиантах, комедиях и наболевшем

Vogue
Война за воспитание Война за воспитание

Что делать, если в семье ругань из-за педагогических методов

Psychologies
4 имитации Марса на Земле 4 имитации Марса на Земле

О том, что удалось выяснить о жизни на красной планете

Популярная механика
Чтобы кожа сияла Чтобы кожа сияла

Всего за неделю у моря кожа становится ухоженной и отдохнувшей

Худеем правильно
«Я совсем не радикальная феминистка» «Я совсем не радикальная феминистка»

Юлдус Бахтиозина о своем фильме «Дочь рыбака» и татарском барокко

Weekend
Елена Проклова, Наталья Селезнева и еще 8 советских актрис в купальниках Елена Проклова, Наталья Селезнева и еще 8 советских актрис в купальниках

Мы решили вспомнить самые яркие образы советских актрис в купальниках

Cosmopolitan
«Из Египта»: мемуары автора «Назови меня своим именем» Андре Асимана — о детстве в Александрии, вынужденной эмиграции и семье «Из Египта»: мемуары автора «Назови меня своим именем» Андре Асимана — о детстве в Александрии, вынужденной эмиграции и семье

Отрывок из мемуаров писателя Андре Асимана

Esquire
Красная книга: редкие автомобили на дорогах советской Москвы Красная книга: редкие автомобили на дорогах советской Москвы

Смотрите нашу подборку редких фотографий автомобилей СССР

Популярная механика
Правила жизни Канье Уэста Правила жизни Канье Уэста

Музыкант, Лос-Анджелес, 43 года

Esquire
Радуйтесь кошмарным снам — они помогают справиться с кризисом Радуйтесь кошмарным снам — они помогают справиться с кризисом

Как кошмарные сны помогают прожить кризис в жизни быстрее и эффективнее

Psychologies
Зинаида Серебрякова: жизнь в картинах. Часть первая Зинаида Серебрякова: жизнь в картинах. Часть первая

Начало непростой истории Зинаиды Серебряковой, 1884 — 1924 года

Культура.РФ
8 самых провальных ремейков французских комедий, сделанных в Голливуде 8 самых провальных ремейков французских комедий, сделанных в Голливуде

Кажется, будто в Америке не так часто копируют французские фильмы

Maxim
Что нужно знать о декабристах Что нужно знать о декабристах

Феномен декабристов в цифрах и фактах

Культура.РФ
Правила жизни Мэрил Стрип Правила жизни Мэрил Стрип

Актриса, Солсбери, штат Коннектикут, 71 год

Esquire
В любую точку Вселенной за минуту: новое о червоточинах В любую точку Вселенной за минуту: новое о червоточинах

Червоточины или туннели в ткани пространства-времени ужасно неустойчивы

Популярная механика
Три раза в день после еды Три раза в день после еды

Надо ли любить свои недостатки, особенно если это удается с трудом

Psychologies
«Она отказала мне два раза». Что не так с «короткими» ОСАГО «Она отказала мне два раза». Что не так с «короткими» ОСАГО

В нескольких страховых компаниях водителю отказали в оформлении ОСАГО

РБК
Микроскопический жароустойчивый гриб оказался чемпионом мутаций Микроскопический жароустойчивый гриб оказался чемпионом мутаций

Скорость накопления мутаций у гриба нейроспоры густой оказалась высокой

N+1
10 самых скандальных фильмов всех времен 10 самых скандальных фильмов всех времен

Жестокие, провокационные и (неспроста) запрещенные к прокату ленты

Esquire
Колибри различили четыре неспектральных цвета Колибри различили четыре неспектральных цвета

Человек видит только один из множества цветов, которые видит колибри

N+1
У двойника Солнца нашли потенциального двойника Земли У двойника Солнца нашли потенциального двойника Земли

Небесное тело, похожее на Землю, может находиться в потенциально обитаемой зоне

N+1
Уши, ключицы, шея, декольте — места, которые ты не красишь, а зря Уши, ключицы, шея, декольте — места, которые ты не красишь, а зря

Какие детали образа стоит подчеркнуть, чтобы выглядеть безупречно

Cosmopolitan
Он подсадил на десерты Александра Овечкина, Филиппа Киркорова и Егора Крида Он подсадил на десерты Александра Овечкина, Филиппа Киркорова и Егора Крида

Интервью с Ренатом Агзамовым – о тортах, тортах и ни о чем, кроме тортов

GQ
Открыть в приложении