Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Женщина 20 лет не убирала в доме, но он оставался чистым. Почему? Женщина 20 лет не убирала в доме, но он оставался чистым. Почему?

Думаете, дом, который не убирался больше 20 лет был похож на свалку?

Популярная механика
Я для себя. Светлана Бондарчук Я для себя. Светлана Бондарчук

В 2020‑м жизнь Светланы Бондарчук сильно изменилась

Glamour
«Я старше всех в команде»: история тестировщицы, сменившей профессию почти в 40 лет «Я старше всех в команде»: история тестировщицы, сменившей профессию почти в 40 лет

QA-инженер рассказала о смене профессии в зрелом возрасте

VC.RU
«Верность семье важнее верности государству»: писатель Ю Несбё о локдауне в Норвегии, вселенной Харри Холе и концепции зла «Верность семье важнее верности государству»: писатель Ю Несбё о локдауне в Норвегии, вселенной Харри Холе и концепции зла

Ю Несбё о скандинавском триллере, Федоре Достоевском и книге «Королевство»

Forbes
Cadillac XT6. Всё включено Cadillac XT6. Всё включено

К Cadillac у нас отношение особое

4x4 Club
Пьянящий актив Пьянящий актив

Власти Крыма продают «Массандру» вместе с сотнями тысяч бутылок вина

Forbes
Астрономы нашли аналог Девятой планеты Астрономы нашли аналог Девятой планеты

Эта экзопланета совершает один оборот вокруг родительских звезд за 15 тысяч лет

N+1
Чигозие Обиома: Оркестр меньшинств. Первая глава Чигозие Обиома: Оркестр меньшинств. Первая глава

Отрывок из нового романа Чигозие Обиомы о борьбе с судьбой

СНОБ
Экономика доверия: как осторожность граждан сказывается на развитии страны Экономика доверия: как осторожность граждан сказывается на развитии страны

Уровень ВВП в России мог быть выше, если бы мы друг другу доверяли

Forbes
Какой бывает пластик и можно ли его весь перерабатывать Какой бывает пластик и можно ли его весь перерабатывать

Что значат эти треугольники на пластиковых вещах?

Популярная механика
Безумства храбрых Безумства храбрых

«Так высоко, как Ольга Кузьмина, на этом проекте не летает никто»

OK!
Подземная изоляция Подземная изоляция

Кроты настолько асоциальны, насколько это возможно для млекопитающих

Вокруг света
Как сформировать у ребенка правильные финансовые привычки Как сформировать у ребенка правильные финансовые привычки

В каком возрасте и как правильно знакомить ребенка с деньгами?

Psychologies
Пора на маркет: почему бизнес подключается к маркетплейсам Пора на маркет: почему бизнес подключается к маркетплейсам

Почему маркетплейсы всё более популярны, и чем они выгодны компаниям?

Inc.

Актеры, для которых съемки в сценах с обнажением стали травмирующим опытом

Cosmopolitan
Ученые синтезировали супергидрид европия с 54 атомами Ученые синтезировали супергидрид европия с 54 атомами

Ученые синтезировали и рассчитали некоторые физические свойства гидридов европия

N+1
Новый год к нам мчится Новый год к нам мчится

Устроим себе виртуальное новогоднее путешествие

Лиза
«В горящую избу войдет»: почему женщины в России спасают мужчин от долгов «В горящую избу войдет»: почему женщины в России спасают мужчин от долгов

Как россиянки попадают в долговую яму и становятся потенциальными банкротами

Psychologies
Всё только начинается Всё только начинается

Леонид Барац об отцовстве, кризисе среднего возраста в кино и в жизни

OK!
Время московское Время московское

Какой была Москва в 1991-м году

GQ
Как слушать и слышать того, с кем вы не согласны Как слушать и слышать того, с кем вы не согласны

Как попробовать разобраться в чужой позиции?

Psychologies
Моя терапия: «Я перестала бояться праздников» Моя терапия: «Я перестала бояться праздников»

Как нашей героине удалось изменить своё отношение к праздникам

Psychologies
Пьеха, Кустинская и другие советские звезды, ставшие жертвами домашнего насилия Пьеха, Кустинская и другие советские звезды, ставшие жертвами домашнего насилия

Домашнее насилие в семьях советских знаменитостей

Cosmopolitan
Если вас бросили перед праздниками: 6 шагов, чтобы поддержать себя Если вас бросили перед праздниками: 6 шагов, чтобы поддержать себя

Что делать, если накануне праздников любимый сообщил о расставании?

Psychologies
Наталья Ветошникова Наталья Ветошникова

99-летняя теннисистка собрала все возможные трофеи Ленинграда

Собака.ru
Как растут бренды Как растут бренды

О чем не знают маркетологи

kiozk originals
Самый быстрый «единорог» в истории: сервис онлайн-мероприятий Hopin за год вырос с нуля до оценки в $2,1 млрд Самый быстрый «единорог» в истории: сервис онлайн-мероприятий Hopin за год вырос с нуля до оценки в $2,1 млрд

Выручка стартапа за полгода выросла в 50 раз — с $450 тысяч до $25 млн

VC.RU
Как дизайн-мышление помогает DeepTech-компаниям создавать новые технологии Как дизайн-мышление помогает DeepTech-компаниям создавать новые технологии

Как использовать дизайн-мышление, чтобы изобретать новое и проектировать будущее

Inc.
Почему и зачем злодей в «Чудо-женщине: 1984» так похож на Дональда Трампа Почему и зачем злодей в «Чудо-женщине: 1984» так похож на Дональда Трампа

Как создатели «Чудо-женщины: 1984» скрывают слабости картины

GQ
Джоуи Де Майо Джоуи Де Майо

Поспешили поговорить с Джоуи Де Майо, пока валькирии не забрали его в Вальгаллу

Maxim
Открыть в приложении