Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Апокалипсис, которого не было Апокалипсис, которого не было

Знаменитая история о том, как одна ГМ-бактерия едва не погубила мир

Популярная механика
Пряное золото: как подделывают специи на Рождество и Новый Год Пряное золото: как подделывают специи на Рождество и Новый Год

Вы уверены, что мята, корица и шалфей в вашем супермаркете настоящие?

Популярная механика
4 шага, чтобы наладить диалог со своей Тенью 4 шага, чтобы наладить диалог со своей Тенью

Что общего между перфекционизмом, заниженной самооценкой и трудной судьбой?

Psychologies
Остался за бортом Остался за бортом

Как помочь мужу пережить потерю работы?

Лиза
20 ответов на простые вопросы о сексе 20 ответов на простые вопросы о сексе

Честные ответы на самые простые вопросы про это

Playboy
Главные книги 2020 года — по версии писателей, критиков и публицистов Главные книги 2020 года — по версии писателей, критиков и публицистов

О литературных впечатлениях 2020 года рассказали писатели, критики и публицисты

Esquire
7 секретов стиля Грейс Келли, которые сделали ее модной иконой 7 секретов стиля Грейс Келли, которые сделали ее модной иконой

В чем секрет обворожительной Грейс Келли?

Cosmopolitan
Хихийный пошив: самая нелепая форма футболистов мира Хихийный пошив: самая нелепая форма футболистов мира

Как хорошеет футбол, когда за дело берутся дизайнеры одежды!

Maxim
Как стать принцессой Как стать принцессой

Эмма Коррин – о роли принцессы Дианы в четвертом сезоне сериала «Корона»

Grazia
Список: альтернативы сервису Maps.me с офлайн-картами для путешествий Список: альтернативы сервису Maps.me с офлайн-картами для путешествий

Сервисы онлайн-карт, которые могут стать альтернативой maps.me

VC.RU
Астрономы объявили о загадочном исчезновении самой большой черной дыры во Вселенной Астрономы объявили о загадочном исчезновении самой большой черной дыры во Вселенной

Черные дыры не могут исчезать бесследно... Или могут?

Популярная механика
Карабах не выдержит двоих Карабах не выдержит двоих

Если ты ничего не понимаешь в армяно-азербайджанском конфликте, читай эту статью

Maxim
Что нужно сделать разработчику, чтобы получить грант от государства Что нужно сделать разработчику, чтобы получить грант от государства

Кому из создателей программного обеспечения государство готово помогать?

VC.RU
App-ревью: лучшие приложения 2020 года по версии Playboy App-ревью: лучшие приложения 2020 года по версии Playboy

Самые оптимальные приложения-помощники на все случаи жизни

Playboy
Как снимать кино о мафии: уроки мастера Как снимать кино о мафии: уроки мастера

Как кровавая эпическая сага Мартина Скорсезе пришла к успеху

Playboy
Все наследство псу под хвост: самые странные пункты из завещаний звезд Все наследство псу под хвост: самые странные пункты из завещаний звезд

Звезды отличаются оригинальностью даже в своих завещаниях

Cosmopolitan
Одна вокруг света: американские аллигаторы и ночная остановка в Южной Каролине Одна вокруг света: американские аллигаторы и ночная остановка в Южной Каролине

99-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Легко не будет Легко не будет

Как построить бизнес, когда вопросов больше, чем ответов

kiozk originals
У берегов Пуэрто-Рико обнаружили новый вид глубоководных гребневиков У берегов Пуэрто-Рико обнаружили новый вид глубоководных гребневиков

На глубине около 3900 метров обнаружен новый вид гребневиков

N+1
Животноводство в бедных странах перестали считать угрозой для климата Животноводство в бедных странах перестали считать угрозой для климата

Но оно остается ей во многих развитых странах

N+1
Любимые рецепты Лали Чочия. Брауни полной луны Любимые рецепты Лали Чочия. Брауни полной луны

Готовим полезные брауни: с миндалем, овсянкой и шоколадом

Seasons of life
47 м² 47 м²

Квартира-трансформер по проекту бюро ZE | Workroom Studio

AD
Стоп-сигнал Стоп-сигнал

Мы перестали ходить на каблуках, но стали ли от этого счастливее наши ноги?

Tatler
Глава Fix Price: «Чтобы с нами конкурировать, надо инвестировать сотни миллионов долларов. Кто готов? Мы таких не знаем» Глава Fix Price: «Чтобы с нами конкурировать, надо инвестировать сотни миллионов долларов. Кто готов? Мы таких не знаем»

Глава Fix Price — о бизнесе и стратегии успеха

VC.RU
Известные люди, которые считались предателями у себя на родине Известные люди, которые считались предателями у себя на родине

Как быстро растут чужие предатели!

Maxim
Последняя любезность: как Елизавета II навестила своего умирающего дядю Последняя любезность: как Елизавета II навестила своего умирающего дядю

Как королева почтила своим визитом Эдуарда VIII незадолго до его смерти

Cosmopolitan
4 самые кровожадные женщины-маньячки в истории 4 самые кровожадные женщины-маньячки в истории

Мужчина-маньяк — это банально

Maxim
Как это по-английски! Как это по-английски!

Бренду Paul Smith исполнилось 50 лет. Пол Смит – об индустрии марки

Grazia
77 м² 77 м²

Квартира в Казани, в которой сохранились исторические колонны

AD
Русский балет за рубежом Русский балет за рубежом

В начале XX века русские хореографы диктовали моду в балетном искусстве

Культура.РФ
Открыть в приложении