Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Внутренний Париж Внутренний Париж

Современный дом, интегрированный в исторический особняк эпохи ар–нуво

SALON-Interior
Возьми себя в руки и прочти: 5 признаков того, что ты очень плох в постели Возьми себя в руки и прочти: 5 признаков того, что ты очень плох в постели

5 самых ужасных ошибок с вашей стороны, которые делают вас «плохим любовником»

Playboy
«Российского венчурного рынка не существует». Илья Кобяков, «ТилТех капитал» — об итогах года и главных сделках фонда «Российского венчурного рынка не существует». Илья Кобяков, «ТилТех капитал» — об итогах года и главных сделках фонда

«ТилТех капитал» планирует инвестировать в потребительский сектор 1 млрд руб

Inc.
Криптовалюты. Поколение второе Криптовалюты. Поколение второе

От «цифрового золота» к полноценным деньгам

Популярная механика
Топ лучших новогодних фильмов на ТВ, без которых праздник не праздник Топ лучших новогодних фильмов на ТВ, без которых праздник не праздник

Топ лучших новогодних фильмов — как старых, так и новых

Cosmopolitan
Алексей Герман и Елена Окопная Алексей Герман и Елена Окопная

Как Ленинградский рок-клуб диктовал моду и почему барахолки — великий источник

Собака.ru
Привести планету в порядок Привести планету в порядок

Как это — жить по-человечески?

Seasons of life
«Неплатежи достигли небывалых размеров» «Неплатежи достигли небывалых размеров»

О главных проблемах и грядущих нововведениях в сфере ЖКХ

Огонёк
Юлия Коричнева: Как научить детей самостоятельности Юлия Коричнева: Как научить детей самостоятельности

Как избежать инфантилизма

СНОБ
Астрономы заметили избыток лития в атмосфере грязного белого карлика Астрономы заметили избыток лития в атмосфере грязного белого карлика

Он попал туда из планетезималей

N+1
Гюстав Флобер Гюстав Флобер

Гюстав Флобер глазами Дмитрия Быкова

Дилетант
Как перестать тонуть в водовороте дел Как перестать тонуть в водовороте дел

Считаете, что у вас забот невпроворот?

Psychologies
Кто куда, а я – в баню! Кто куда, а я – в баню!

Баня никогда не выходит из моды

Здоровье
«Вечный свет» и другое модное кино «Вечный свет» и другое модное кино

Кинопроекты, в которых мода не столько про одежду, сколько про смыслы

Seasons of life
Как в 2021 приумножить капитал или начать копить на будущее Как в 2021 приумножить капитал или начать копить на будущее

Как хранить деньги? Во что вложиться?

СНОБ
5 лучших кинообзоров BadComedian 5 лучших кинообзоров BadComedian

Обзоры BadComedian как вокзальный чебурек

Maxim
Из-за бабы?! Самые яркие и кровопролитные побоища, спровоцированные женщинами Из-за бабы?! Самые яркие и кровопролитные побоища, спровоцированные женщинами

Иногда причиной военного конфликта становилась обычная женщина

Maxim
MAXIM рецензирует русский сиквел «Неадекватные люди 2» MAXIM рецензирует русский сиквел «Неадекватные люди 2»

Долгожданный фильм о сложной судьбе людей со сложными щами

Maxim
Женщина и город: модные советы от Александра Васильева Женщина и город: модные советы от Александра Васильева

Какой видит современную горожанку историк моды Александр Васильев?

Cosmopolitan
Процесс Процесс

Чем Виктора Добронравова привлекла роль пожарного и что выводит его из себя

OK!
Что такое патриотизм и почему мы должны любить нашу Родину Что такое патриотизм и почему мы должны любить нашу Родину

Как формируется чувство патриотизма и кому оно больше свойственно

Maxim
Награды и премии, которые никто не хочет получить! Награды и премии, которые никто не хочет получить!

Награды, которых победители боятся как чумы

Maxim
Европейцы отказали искусственному интеллекту в праве убивать людей Европейцы отказали искусственному интеллекту в праве убивать людей

Решение об использовании вооружения должен принимать человек

N+1
Каким был первый новогодний фильм в истории? Каким был первый новогодний фильм в истории?

В Российской империи первые новогодние фильмы выпустили в 1913 году

Культура.РФ
Остался за бортом Остался за бортом

Как помочь мужу пережить потерю работы?

Лиза
2004 год 2004 год

Теракт в Беслане, отмена прямых губернаторских выборов и второй срок Путина

Esquire
Банкноты-путеводители: по курсу евро Банкноты-путеводители: по курсу евро

Увидеть необычные достопримечательности можно, не тратя евро, а рассматривая их

Вокруг света
10 главных книг 2020 года для предпринимателей. Выбор Inc. 10 главных книг 2020 года для предпринимателей. Выбор Inc.

Самые полезные для предпринимателей книги на русском языке

Inc.
Главные разочарования российского спорта в 2020 году Главные разочарования российского спорта в 2020 году

Самые болезненные спортивные поражения России в 2020 году

GQ
Открыть в приложении