Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Праздник, которого нет: 45 лет Studio 54. Расцвет и падение тусовочной империи Праздник, которого нет: 45 лет Studio 54. Расцвет и падение тусовочной империи

Studio 54 — клуб, изменивший клубную индустрию США и мира

Esquire
Телескоп и фотодиод помогли подслушать речь по дрожащей лампочке Телескоп и фотодиод помогли подслушать речь по дрожащей лампочке

Ученые представили Lamphone — метод дистанционного подслушивания

N+1
Долгая совместная жизнь: сколько в России платят за преданность супругам Долгая совместная жизнь: сколько в России платят за преданность супругам

Платят за брак: как регионы поощряют семейные пары

Ведомости
«В каком-то смысле каждый предприниматель должен лгать своим сотрудникам». Навал Равикант — о богатстве, свободе и ответственности «В каком-то смысле каждый предприниматель должен лгать своим сотрудникам». Навал Равикант — о богатстве, свободе и ответственности

Навал Равикант — о богатстве, свободе и ответственности

Inc.
Мы выбираем друг друга не случайно Мы выбираем друг друга не случайно

Выбор партнера предопределен всем предшествующим ходом нашей жизни

Psychologies
Сальто над пропастью Сальто над пропастью

Лучший риск — хорошо организованный

Вокруг света
Коррекция бровей: как сделать модную форму самой — советы мастера Коррекция бровей: как сделать модную форму самой — советы мастера

Как лучше корректировать брови самостоятельно, чтобы потом об этом не пожалеть

Cosmopolitan
Как выйти на новый уровень в кризис: чек-лист для личной перезагрузки Как выйти на новый уровень в кризис: чек-лист для личной перезагрузки

Как найти новые точки опоры, проработать страхи и переоценить убеждения

Psychologies
Ролевые игры для двоих взрослых: интересные сценарии и советы для новичков Ролевые игры для двоих взрослых: интересные сценарии и советы для новичков

Приготовьтесь, это будет горячо!

Playboy
Во всем блеске: как использовать глиттер для макияжа глаз и не только Во всем блеске: как использовать глиттер для макияжа глаз и не только

Лето – самое подходящее время для различных экспериментов с макияжем

Cosmopolitan
«Странные ландыши» «Странные ландыши»

Приятно свернуть на прогулке в знойный летний день в тенистый лес

Наука и жизнь
Сон без белья, вода с лимоном и другие полезные ежедневные привычки Сон без белья, вода с лимоном и другие полезные ежедневные привычки

Советы, которые изменят ваше самочувствие и здоровье

Cosmopolitan
Топологическая квантовая коррекция ошибок избавилась от дистилляции Топологическая квантовая коррекция ошибок избавилась от дистилляции

Квантовая коррекция ошибок поможет выполнять устойчивые квантовые операции

N+1
Разработчики систем прослушки нарастили выручку на десятки процентов благодаря «закону Яровой» Разработчики систем прослушки нарастили выручку на десятки процентов благодаря «закону Яровой»

Как «закон Яровой» повлиял на рынок в 2019 году

Forbes
Чего я не знала, начиная бизнес: Марина Могилко, Linguatrip Чего я не знала, начиная бизнес: Марина Могилко, Linguatrip

Марина Могилко основала первую компанию, когда ей был 21 год, вложив в нее $300

Inc.
Технологию CAR-T применили для борьбы со старением клеток в легких и печени Технологию CAR-T применили для борьбы со старением клеток в легких и печени

Ученые впервые использовали Т-лимфоциты для борьбы с сенесцентными клетками

N+1
Как и когда девушка понимает, что у тебя с ней «все серьезно» Как и когда девушка понимает, что у тебя с ней «все серьезно»

Как женщины понимают, что клиент дозрел

Maxim
Правила бойни. Гласный и негласный этикет «благородной» войны Правила бойни. Гласный и негласный этикет «благородной» войны

Чем убивать нечестно и можно ли отвести на пленном снайпере душу

Maxim
Семечки не работают: как мотивировать сотрудников после окончания карантина Семечки не работают: как мотивировать сотрудников после окончания карантина

Как руководители смогут мотивировать сотрудников в мире после пандемии

Forbes
Почему меня возбуждают очкарики? Почему меня возбуждают очкарики?

Их выбор неизменно останавливается на мужчинах в очках

Psychologies
Фонд LETA Capital составил портрет типичного русскоязычного IT-предпринимателя на основе больших данных Фонд LETA Capital составил портрет типичного русскоязычного IT-предпринимателя на основе больших данных

Как выглядит среднестатистический IT-предприниматель?

Inc.
«Мне казалось, весь мир у моих ног» «Мне казалось, весь мир у моих ног»

История топ-модели Катрин Барк напоминает сказку

OK!
Как отбить девушку у другого парня: действенные советы и рекомендации Как отбить девушку у другого парня: действенные советы и рекомендации

Надеемся, ты осознаешь, на что именно идешь

Playboy
Ася Волошина Ася Волошина

Пьесы яркого драматурга новой школы Аси Волошиной ставят театры от БДТ до МХТ

Собака.ru
Почетный гость: как искусственный интеллект и диджитализация изменят наши любимые рестораны в будущем Почетный гость: как искусственный интеллект и диджитализация изменят наши любимые рестораны в будущем

Рестораны и кафе оказались сферой, по которой сильнее других ударил кризис

Esquire
Какой вышла «Баллада о певчих птицах и змеях» — приквел «Голодных игр» о том, что злодеем может стать каждый хороший человек Какой вышла «Баллада о певчих птицах и змеях» — приквел «Голодных игр» о том, что злодеем может стать каждый хороший человек

История о том, что каждый из нас может стать злодеем

Esquire
Как один сайт может предотвратить смерть миллионов российских пчел Как один сайт может предотвратить смерть миллионов российских пчел

Как новые технологии спасут пчел от вымирания

Forbes
«Сегодня я не стану кричать на ребенка». Нужно ли исправлять свои родительские ошибки «Сегодня я не стану кричать на ребенка». Нужно ли исправлять свои родительские ошибки

Отрывок из книги детского психолога Екатерины Кес о трудностях воспитания

Forbes
Моргенштерн: жуткая звезда Средневековья Моргенштерн: жуткая звезда Средневековья

Моргенштерн - отличное средство против тяжелой брони!

Популярная механика
Зря мы мечтали быть Кэрри Брэдшоу! 10 киногероинь, которые жестоко нас обманули Зря мы мечтали быть Кэрри Брэдшоу! 10 киногероинь, которые жестоко нас обманули

В этих 10 фильмах тебе навешают лапши на уши

Cosmopolitan
Открыть в приложении