Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Звездная ночь Звездная ночь

Предлагаем повторить прическу, которую выбрали для себя знаменитости

Лиза
Андрей Мостовой: «В чемпионской раздевалке я был самым активным» Андрей Мостовой: «В чемпионской раздевалке я был самым активным»

Футболист Андрей Мостовой рассказал о победе «Зенита» и что думает о Дзюбе

GQ
73 м² 73 м²

Марина Кутузова спроектировала современный интерьер с классическими деталями

AD
20 ответов на простые вопросы о сексе 20 ответов на простые вопросы о сексе

Честные ответы на самые простые вопросы про это

Playboy
7 слов, помогающих жить в неопределенности 7 слов, помогающих жить в неопределенности

Как существовать в эти смутные времена полноценно, не теряя ни дня своей жизни?

Psychologies
Произнести тост и не попасть впросак: 6 правил для оратора Произнести тост и не попасть впросак: 6 правил для оратора

Советы из книги Андрея Ланда, в которой собраны принципы успешных выступлений

Psychologies
«Чем больше связей между двумя странами, тем легче осуществлять бизнес» «Чем больше связей между двумя странами, тем легче осуществлять бизнес»

Специфика работы в России подразделения крупной международной финансовой группы

РБК
В будущее возьмут Петербург В будущее возьмут Петербург

Петербургскую модель городских преобразований стоит взять с собой в 2020-е годы

Собака.ru
Как не набрать вес зимой Как не набрать вес зимой

Три совета для тех, кто хочет удержать вес в зимнее время года

Худеем правильно
Тюлени Уэдделла пообщались с сородичами ультразвуком Тюлени Уэдделла пообщались с сородичами ультразвуком

Ранее считалось, что ластоногие не производят ультразвук

N+1
Константин Воробьев и Ольга Самошина. «Ни в парше, ни в парче, а так, вообче» Константин Воробьев и Ольга Самошина. «Ни в парше, ни в парче, а так, вообче»

Они поженились восемнадцатилетними, на втором курсе театрального института

Караван историй
Фантастические твари и где они обитают: как выглядит человек-иноагент Фантастические твари и где они обитают: как выглядит человек-иноагент

Почему власть чрезмерно реагирует на внешние угрозы?

Forbes
«Неизвестный порномагнат»: кто тайно владеет Pornhub, RedTube и YouPorn с общей выручкой $460 млн в год «Неизвестный порномагнат»: кто тайно владеет Pornhub, RedTube и YouPorn с общей выручкой $460 млн в год

По данным Financial Times, главными порносайтами мира управляет Бернард Бергемар

VC.RU
Новое счастье Новое счастье

Почему новая любовь никак не приходит?

Cosmopolitan
Эпоха радикальных перемен: автомобильные двигатели конца ХХ века Эпоха радикальных перемен: автомобильные двигатели конца ХХ века

К концу ХХ века в создании автомобильных двигателей внезапно назрела революция

Популярная механика
Почему покушение на Навального касается всех нас Почему покушение на Навального касается всех нас

Те, кто по должности отвечает в России за порядок, на деле творят беззаконие

СНОБ
Экономика доверия: как осторожность граждан сказывается на развитии страны Экономика доверия: как осторожность граждан сказывается на развитии страны

Уровень ВВП в России мог быть выше, если бы мы друг другу доверяли

Forbes
Правила жизни Тайгера Вудса Правила жизни Тайгера Вудса

Правила жизни великого гольфиста Тайгера Вудса

Esquire
Дружба, безопасность и домашние обязанности: советы психолога для детей Дружба, безопасность и домашние обязанности: советы психолога для детей

Отрывок из книги «Веселая психология для детей. Дома и в школе»

Psychologies
Зрачки указали на депрессивные симптомы Зрачки указали на депрессивные симптомы

Ученые: реакция зрачков на вознаграждение зависит от состояния психики

N+1
Чай пуэр: как правильно заваривать и чем может быть полезен китайский напиток Чай пуэр: как правильно заваривать и чем может быть полезен китайский напиток

Потенциальные польза и вред чая пуэр, способы его заварки

Playboy
Ученые измерили расстояние до самой дальней галактики во Вселенной Ученые измерили расстояние до самой дальней галактики во Вселенной

До самой старой и дальней галактики 13,4 миллиарда лет

Популярная механика
Выходим из праздников Выходим из праздников

Способы ликвидировать последствия новогоднего переедания

Худеем правильно
Людей обвинили в гибели 75 процентов видов нелетающих птиц Людей обвинили в гибели 75 процентов видов нелетающих птиц

Если бы не человек, на Земле жило бы более двухсот видов нелетающих птиц

N+1
Дергается глаз, чешутся руки — о чем это говорит и что делать? Дергается глаз, чешутся руки — о чем это говорит и что делать?

О самых частых «стрессовых» проявлениях и способах восстановления организма

Cosmopolitan
Диета «Любимая»: примеры рациона и комментарии нутрициолога Диета «Любимая»: примеры рациона и комментарии нутрициолога

В чем причина популярности диеты, о которой не слышали западные врачи?

РБК
Не только мама: как искать работу после декрета Не только мама: как искать работу после декрета

Советы для тех, кто планирует искать работу после декрета

Psychologies
Не ждите, пока в голове загорится лампочка: как придумать прорывную идею для бизнеса Не ждите, пока в голове загорится лампочка: как придумать прорывную идею для бизнеса

Не ждите, что бизнес-идея, как ньютоновское яблоко, сама свалится на голову

Forbes
Родом с гоночной трассы Родом с гоночной трассы

Какие технологии пришли в серийные автомобили от гоночных Porsche

Популярная механика
Открыть в приложении