Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Токсичная маскулинность и гомофобия: откуда растут корни? Токсичная маскулинность и гомофобия: откуда растут корни?

Чем чревата гомофобия для физического и ментального здоровья мужчин

Esquire
Как обнаружить радиацию при помощи смартфона Как обнаружить радиацию при помощи смартфона

Насколько точны мобильные приложения, превращающие телефоны в дозиметры?

Популярная механика
Дела дачные Дела дачные

Загородный дом в стиле старой петербургской дачи

SALON-Interior
Как связаны жуткая засуха XIV века и современное глобальное потепление Как связаны жуткая засуха XIV века и современное глобальное потепление

Ученые: экстремальные погодные явления указывают на быстрые изменения климата

Популярная механика
Две мумии гамадрилов рассказали о дальних морских путешествиях египтян Две мумии гамадрилов рассказали о дальних морских путешествиях египтян

Родиной мумий гамадрилов оказался регион, охватывающий Эфиопию и соседние страны

N+1
Последний «Звонок» Последний «Звонок»

О расцвете и закате самой известной хоррор-франшизы и о пользе ужасов

Weekend
Русская Tesla: 5 отечественных автомобилей, которые удивили Русская Tesla: 5 отечественных автомобилей, которые удивили

Все что нужно знать о новых российских электромобилях

РБК
80 м² 80 м²

Дизайнер Лидия Трубецких оформила квартиру в нейтральных природных оттенках

AD
Дизайнер, который не боялся присвоить своё имя всему: чем запомнится в бизнесе Пьер Карден Дизайнер, который не боялся присвоить своё имя всему: чем запомнится в бизнесе Пьер Карден

Кто такой Пьер Карден?

VC.RU
15 вопросов о татаро-монгольском иге 15 вопросов о татаро-монгольском иге

Ответы на самые популярные вопросы о татаро-монгольском иге

Arzamas
Как нарядить «зеленую» елку: 7 экологичных идей новогодних украшений Как нарядить «зеленую» елку: 7 экологичных идей новогодних украшений

Как украсить дом к Новому году без лишних затрат и вреда для окружающей среды

РБК
Четыре серийных маньяка, которых так и не удалось поймать Четыре серийных маньяка, которых так и не удалось поймать

Четыре причины порадоваться, что ты живешь в эпоху ДНК-тестов

Maxim
Ореховый торт без муки Ореховый торт без муки

Старинный рецепт поразительного орехового бисквита

Weekend
Как изобрели санки и почему они стали традиционной зимней забавой? Как изобрели санки и почему они стали традиционной зимней забавой?

Как и когда появились русские сани?

Культура.РФ
На бильярдных шарах и зараженных сосисках: самые нелепые дуэли в истории На бильярдных шарах и зараженных сосисках: самые нелепые дуэли в истории

Каких-то двести лет назад споры разрешали более энергозатратным способом

Maxim
До сих пор не верим! Супонев, Насыров, Бодров и другие погибшие кумиры 90-х До сих пор не верим! Супонев, Насыров, Бодров и другие погибшие кумиры 90-х

Они были талантливы и любимы, но их жизни оборвались...

Cosmopolitan
Разгладить по пробору Разгладить по пробору

Что делать, если выпадают волосы?

Худеем правильно
Зоологи заявили об открытии нового вида клюворылых китов у берегов Мексики Зоологи заявили об открытии нового вида клюворылых китов у берегов Мексики

Его обнаружили у западного побережья Мексики

N+1
Произнести тост и не попасть впросак: 6 правил для оратора Произнести тост и не попасть впросак: 6 правил для оратора

Советы из книги Андрея Ланда, в которой собраны принципы успешных выступлений

Psychologies
10 мужских профессий, востребованных даже в кризис! 10 мужских профессий, востребованных даже в кризис!

Десять профессий, над которыми не властны инфляция, санкции и творческие кризисы

Maxim
«Я могла сделать карьеру в супермаркете» «Я могла сделать карьеру в супермаркете»

Актриса Жюльетт Бинош — о своем пути в кино

Огонёк
MAXIM рецензирует русский сиквел «Неадекватные люди 2» MAXIM рецензирует русский сиквел «Неадекватные люди 2»

Долгожданный фильм о сложной судьбе людей со сложными щами

Maxim
Каспийское море может обмелеть на треть к концу века Каспийское море может обмелеть на треть к концу века

Обмеление Каспийского моря угрожает множеству видов

National Geographic
Еще один повод Еще один повод

Знаменитости, которые играли свадьбы и родились в Новый год

Лиза
Оторви и брось Оторви и брось

Как Ария Кулина пыталась следовать советам из отрывного календаря для женщин

Cosmopolitan
Кот в мешке: на мусоросортировочном комплексе в пакете нашли домашнего питомца Кот в мешке: на мусоросортировочном комплексе в пакете нашли домашнего питомца

Не первый случай, когда домашних животных в прямом смысле выбрасывают в мусор

National Geographic
19 м² 19 м²

Двухуровневая квартира Александры Ермиловой из BüroBlanc в здании бывшей фабрики

AD
Цена счастья Цена счастья

За деньги счастье не купишь?

Robb Report
Лучшие турецкие сериалы на русском: хиты и новинки, от которых не оторваться Лучшие турецкие сериалы на русском: хиты и новинки, от которых не оторваться

Список лучших и новых турецких мелодрам для длинных новогодних каникул

Cosmopolitan
Открыть в приложении