Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Апокалипсис, которого не было Апокалипсис, которого не было

Знаменитая история о том, как одна ГМ-бактерия едва не погубила мир

Популярная механика
Перемен! 8 мифов о лидере группы «Кино» Перемен! 8 мифов о лидере группы «Кино»

Симулянт, мастер кунг-фу и жертва агентов КГБ. Это все о Викторе Цое?

Вокруг света
Какую температуру лучше выставить в холодильнике и морозильной камере Какую температуру лучше выставить в холодильнике и морозильной камере

Какая температура должна быть в холодильнике и морозилке?

CHIP
Процесс Процесс

Чем Виктора Добронравова привлекла роль пожарного и что выводит его из себя

OK!
Найден способ превращать ненужный полиэтилен в ценный клей Найден способ превращать ненужный полиэтилен в ценный клей

Этот процесс превращает пластиковые отходы в нечто более ценное

Популярная механика
Еще один повод Еще один повод

Знаменитости, которые играли свадьбы и родились в Новый год

Лиза
Все сбудется Все сбудется

Чего только не делают люди, чтобы исполнилось их желание

Лиза
Личное дело Натана Стругацкого Личное дело Натана Стругацкого

В архиве РНБ (бывшая Публичка) обнаружили личное дело Натана Стругацкого

Дилетант
Психологи о работе в новогодние праздники Психологи о работе в новогодние праздники

Кто чаще звонит в неотложную психологическую помощь в новогоднюю ночь

СНОБ
Лучшие зарубежные музыкальные альбомы 2020 года Лучшие зарубежные музыкальные альбомы 2020 года

Музыкальные альбомы, которые пробились сквозь информационный шум 2020 года

Esquire
Как правильно рассчитать фокусное расстояние Как правильно рассчитать фокусное расстояние

Как правильно опоределить фокусное расстояние, чтобы все вписались в кадр

CHIP
Правила жизни Пабло Эскобара Правила жизни Пабло Эскобара

Правила колумбийского наркобарона и политического деятеля Пабло Эскобара

Esquire
Как Гитлеру воду отключили: сага о том, как диверсанты лишили фашистов атомной бомбы Как Гитлеру воду отключили: сага о том, как диверсанты лишили фашистов атомной бомбы

Угроза уничтожения человечества, тайная операция, большой взрыв и даже Гитлер!

Maxim
Идеальный пресс: тренировка от фитнес-эксперта Идеальный пресс: тренировка от фитнес-эксперта

Простая и эффективная тренировка, которая поможет добиться шикарного пресса

Cosmopolitan
9 ужасных транспортных аварий ХХ века, о которых ты, скорее всего, и не слышал 9 ужасных транспортных аварий ХХ века, о которых ты, скорее всего, и не слышал

ХХ век был богат на ужасающие транспортные аварии

Maxim
Нечистая порода Нечистая порода

Не вредит ли животным наша любовь к чистопородным и дизайнерским собакам?

Robb Report
Петербургские «Кресты» Петербургские «Кресты»

Имена арестантов «Крестов» вошли в учебники, само здание — памятник архитектуры

Дилетант
Хотите перемен? Задайте себе «волшебный» вопрос Хотите перемен? Задайте себе «волшебный» вопрос

В чем ваша проблема? Что мешает вам получать удовольствие от жизни?

Psychologies
Магия Pixar Магия Pixar

История создания киностудии Pixar

kiozk originals
Ведический календарь: что это такое и как он устроен Ведический календарь: что это такое и как он устроен

Ведический календарь – старинная система летоисчисления

Cosmopolitan
NASA выпустило ролик о том, как марсоход Perseverance будет садиться на Красную планету: NASA выпустило ролик о том, как марсоход Perseverance будет садиться на Красную планету:

Марсоход NASA Perseverance совершит попытку приземления на Марс

Популярная механика
Болит спина? Это может быть стресс! Невролог рассказывает, что с этим делать Болит спина? Это может быть стресс! Невролог рассказывает, что с этим делать

Рассказываем, как стресс связан с болью в спине и что с этим делать

Cosmopolitan
Как дома Как дома

Лобби жилого комплекса «Софийский» в стиле неоклассицизма

SALON-Interior
5 лучших кинообзоров BadComedian 5 лучших кинообзоров BadComedian

Обзоры BadComedian как вокзальный чебурек

Maxim
Бизнес в стиле хиппи: как построить в коммуне самый дорогой стартап в сфере воздушного электротакси Бизнес в стиле хиппи: как построить в коммуне самый дорогой стартап в сфере воздушного электротакси

Джобен Бевирт хочет создать авиатакси по цене UberX

Forbes
Правда ли, что самовар появился в России? Правда ли, что самовар появился в России?

Как и когда появилась самая необходимая русская вещь?

Культура.РФ
Мы не обжоры: 5 мифов о людях, страдающих компульсивным перееданием Мы не обжоры: 5 мифов о людях, страдающих компульсивным перееданием

Екатерина Попова рассказывает, как живут люди с компульсивным перееданием

Cosmopolitan
Шутки в сторону Шутки в сторону

Рэйчел Броснахэн – о дискриминации в кино, бодипозитиве и любви

Cosmopolitan
Стройка с нулевыми отходами Стройка с нулевыми отходами

В строительную отрасль внедряются принципы безотходного производства

РБК
«Киберпанк»: игра, которая вытянет из твоего мужчины очень много денег «Киберпанк»: игра, которая вытянет из твоего мужчины очень много денег

Рассказываем, что за «Киберпанк» и почему его все так долго ждали

Cosmopolitan
Открыть в приложении