Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Второй номер: почему Ольге Бузовой сложно превращать славу в деньги Второй номер: почему Ольге Бузовой сложно превращать славу в деньги

Почему Ольге Бузовой не удалось стать успешной бизнес-вуман

Forbes
Семь фото автомобилей столетней давности Семь фото автомобилей столетней давности

Автомобили из прошлого века

Maxim
Тактильный голод: почему нам так нужны прикосновения Тактильный голод: почему нам так нужны прикосновения

Живое касание — это одно из самых сильных ощущений

Psychologies
Гид для начинающих любителей БДСМ Гид для начинающих любителей БДСМ

Вам придется разобраться в том, что значат все эти слова

GQ
Сон без белья, вода с лимоном и другие полезные ежедневные привычки Сон без белья, вода с лимоном и другие полезные ежедневные привычки

Советы, которые изменят ваше самочувствие и здоровье

Cosmopolitan
Открыть огонь! Открыть огонь!

Приготовление кебаба — почти священнодействие

Вокруг света
Стесняюсь спросить: 8 вопросов дерматологу о том, как победить проблему черных точек на лице Стесняюсь спросить: 8 вопросов дерматологу о том, как победить проблему черных точек на лице

Почему появляются черные точки и как с ними бороться?

Esquire
Куда и за сколько поехали отдыхать россияне в этом году Куда и за сколько поехали отдыхать россияне в этом году

Туроператоры фиксируют существенный рост спроса на российские направления

Forbes
Поэт, романтик, рыцарь и идеалист Поэт, романтик, рыцарь и идеалист

Мы поговорили с музыкантом Loc-Dog о том, что всё не так легко, как кажется

OK!
Ускорить испытания лекарств с помощью генной инженерии: компания по производству человеческих клеток привлекла $41,5 млн Ускорить испытания лекарств с помощью генной инженерии: компания по производству человеческих клеток привлекла $41,5 млн

Технология, которая удешевит выращивание человеческих клеток

VC.RU
Женский алкоголизм объяснили восприимчивостью к половым гормонам Женский алкоголизм объяснили восприимчивостью к половым гормонам

Возможно, механизмы развития зависимости от этанола у мужчин и женщин разные

N+1
Трофейный автопарк СССР. Какие машины вывезли из Германии Трофейный автопарк СССР. Какие машины вывезли из Германии

Трофейные автомобили, которые оставили свой след в истории СССР

РБК
Совсем не смешно Совсем не смешно

Как не превращать юмор в оружие буллинга?

Лиза
Светлана Иванова: «Сегодня важно быть готовой к любой ситуации» Светлана Иванова: «Сегодня важно быть готовой к любой ситуации»

Светлана Иванова рассказала о плюсах и минусах изоляции

Здоровье
«Брошена на землю»: рассказ поэтессы и прозаика Аллы Горбуновой «Брошена на землю»: рассказ поэтессы и прозаика Аллы Горбуновой

Отрывок из сборника рассказов Аллы Горбуновой про героев из девяностых и нулевых

Esquire
Разговорчики в строю Разговорчики в строю

Адвокат Добровинский выполняет заявки читателей

Tatler
Как организовать досуг для ребенка в городе. Советы педагога Как организовать досуг для ребенка в городе. Советы педагога

Как организовать жизнь с ребенком в городе летом

СНОБ
Эксклюзив Cosmo: Айза Анохина о романе с Олегом Майами, разводе и новом шоу Эксклюзив Cosmo: Айза Анохина о романе с Олегом Майами, разводе и новом шоу

Мы расспросили Айзу о разводе, отношениях с Олегом Майами и сложностях в семье

Cosmopolitan
Синяя или зеленая: Зои Салдана и ее невероятные перевоплощения на экране Синяя или зеленая: Зои Салдана и ее невероятные перевоплощения на экране

Зои Салдана — талантливая актриса, которая еще не достигла карьерного пика

Cosmopolitan
От 40 до 40: Звезды шоу-бизнеса и спорта От 40 до 40: Звезды шоу-бизнеса и спорта

Рейтинг российских звезд шоу-бизнеса и спорта до 40 лет

Forbes
Это родинка моя: как и зачем следить за родимыми пятнами? Это родинка моя: как и зачем следить за родимыми пятнами?

Составляем «карту тела» и инструктируем, как проверить родинки дома

Cosmopolitan
Так ты точно будешь выглядеть безупречно. 14 советов для удачных снимков Так ты точно будешь выглядеть безупречно. 14 советов для удачных снимков

Мы докажем, что нет понятия «нефотогеничность»

Cosmopolitan
Как Стефани Майер оказалась литературной освободительницей Как Стефани Майер оказалась литературной освободительницей

Как эта «сумеречной» сага изменила литературную и не только повестку

РБК
Как эмигрантка из Тайваня стала главой AMD и первой женщиной, возглавившей список самых богатых гендиректоров Как эмигрантка из Тайваня стала главой AMD и первой женщиной, возглавившей список самых богатых гендиректоров

Журнал Barron’s объявил Лизу Су одним из 50 лучших директоров компаний

Forbes
Юлия Каплина: «Мы знаем, что китайская сборная находится на спортивной базе с самого начала эпидемии» Юлия Каплина: «Мы знаем, что китайская сборная находится на спортивной базе с самого начала эпидемии»

Рекордсменка мира в скалолазании – о неравенстве, которое переживают спортсмены

GQ
Женщины-режиссеры, которых важно знать Женщины-режиссеры, которых важно знать

Работы этих женщин-режиссеров по праву считаются классикой кинематографа

Культура.РФ
Габриэль Витткоп: Наследства Габриэль Витткоп: Наследства

Отрывок из нового романа французской писательницы Габриэль Витткоп

СНОБ
6 безумно дорогих вещей, купленных за бесценок на блошином рынке 6 безумно дорогих вещей, купленных за бесценок на блошином рынке

Случайно стать обладателем чего-то ценного — хрустальная мечта романтиков

Maxim
Теоретики установили верхний предел для фундаментального периода времени Теоретики установили верхний предел для фундаментального периода времени

Эта универсальная единица определяет предельную точность физических часов

N+1
Открыть в приложении