Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бутилированная вода: чем вреден пластик и стоит ли переходить на фильтрованную воду Бутилированная вода: чем вреден пластик и стоит ли переходить на фильтрованную воду

Об особенностях бутилированной воды

Популярная механика
9 продуктов, которые только притворяются вегетарианскими 9 продуктов, которые только притворяются вегетарианскими

Даже еде в собственном холодильнике верить нельзя!

Maxim
Азбука Marvel: гид по одной из самых сложных киновселенных от А до Я Азбука Marvel: гид по одной из самых сложных киновселенных от А до Я

Подробный гид по миру супергероев Марвел

Esquire
[отыграть назад] [отыграть назад]

Прямо сейчас любимая резиденция Екатерины Великой идет на поправку

Собака.ru
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Игорь Вдовин: «Было бы прекрасно, если бы музыка спасала от паники» Игорь Вдовин: «Было бы прекрасно, если бы музыка спасала от паники»

Композитор Игорь Вдовин о свободе самовыражения и раздражающую музыку в кафе

РБК
Распишитесь в получении перемен: каким оказался 2020-й Распишитесь в получении перемен: каким оказался 2020-й

Что мы поняли, чему научились и как изменились в 2020 году

РБК
Любить до самой смерти: звездные романы с трагичным концом Любить до самой смерти: звездные романы с трагичным концом

Эти знаменитые пары не дошли до алтаря и не создали семьи

Cosmopolitan
Gram против доллара Gram против доллара

Американская Комиссия по ценным бумагам и биржам закрыла проект Павла Дурова TON

Forbes
Как решить проблему неприязни к маленьким детям Как решить проблему неприязни к маленьким детям

Вас раздражают чужие младенцы?

СНОБ
Почему подход Waymo к автопилоту может оказаться надёжнее подхода Tesla Почему подход Waymo к автопилоту может оказаться надёжнее подхода Tesla

Чем примечателен подход Waymo к автономным такси?

VC.RU
Жизнь после МКС: куда летать космонавтам с 2025 года Жизнь после МКС: куда летать космонавтам с 2025 года

Давайте разберемся, действительно ли МКС разваливается

N+1
Книга о власти над собой Книга о власти над собой

Тони Роббинс о том, как найти себя цели и осуществить их

kiozk originals
Актриса в разводе и бунтарь: история романа принца Гарри и Меган Маркл Актриса в разводе и бунтарь: история романа принца Гарри и Меган Маркл

Какие испытания прошли Меган и Гарри, чтобы остаться вместе?

Cosmopolitan
Мария Ревякина. Неравный бой Мария Ревякина. Неравный бой

Интервью с директором Театра Наций Марией Ревякиной

СНОБ
Биология творчества и шедевры душевнобольных Биология творчества и шедевры душевнобольных

Отрывок из книги Эрика Канделя «Расстроенная психика»

СНОБ
Что будет, если ездить с затертыми номерами. Юристы все объяснили Что будет, если ездить с затертыми номерами. Юристы все объяснили

Удастся ли обмануть инспектора и дорожные камеры, если стереть краску с номера?

РБК
Страшные тайны королевских браков: измены, внебрачные дети и скандальный развод Страшные тайны королевских браков: измены, внебрачные дети и скандальный развод

Королевский брак может казаться сказкой, но за ним кроются ограничения

Cosmopolitan
Самые популярные позы для сидения на диване с девушкой и что они значат Самые популярные позы для сидения на диване с девушкой и что они значат

Что значат самые ходовые позы для обнимашек на диване

Maxim
«Самое ужасное то, что я еще 43 года назад предвидел политкорректность» «Самое ужасное то, что я еще 43 года назад предвидел политкорректность»

Рэй Брэдбери дал это интервью американскому PLAYBOY в мае 1996-го

Playboy
Бионические руки не помогли перепрошить осязание Бионические руки не помогли перепрошить осязание

Возможно ли перестроить биологическую обратную связь в протезе руки

N+1
Навигатор Навигатор

Для странствий духа тоже нужна карта, считали сибирские шаманы

Вокруг света
Разгладить по пробору Разгладить по пробору

Что делать, если выпадают волосы?

Худеем правильно
Технологии будущего: как они преобразят жизнь человека в следующие несколько лет Технологии будущего: как они преобразят жизнь человека в следующие несколько лет

Как технологии будущего позволят человеку выйти за рамки тесной реальности

Forbes
Родительский контроль: стоит ли читать переписку ребенка? Родительский контроль: стоит ли читать переписку ребенка?

О чем говорит желание знать все о жизни своего ребенка?

Psychologies
Прикоснуться к сердцу Прикоснуться к сердцу

Завтрак съешь сам — этого правила неизменно придерживаются на юге Китая

Вокруг света
Как в 2021 приумножить капитал или начать копить на будущее Как в 2021 приумножить капитал или начать копить на будущее

Как хранить деньги? Во что вложиться?

СНОБ
Четыре случая в истории, наглядно показывающие, что с радиацией шутки плохи Четыре случая в истории, наглядно показывающие, что с радиацией шутки плохи

Радиация vs. человеческая глупость — 1:0

Maxim
Забытый автор памятника Екатерине II в Моршанске Забытый автор памятника Екатерине II в Моршанске

Кто же таинственный создатель моршанского бюста Екатерины II?

Наука и жизнь

Актеры, для которых съемки в сценах с обнажением стали травмирующим опытом

Cosmopolitan
Открыть в приложении