Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Как заставить себя заниматься спортом: 12 советов, которые точно помогут Как заставить себя заниматься спортом: 12 советов, которые точно помогут

Подборка советов, которые помогут выработать привычку заниматься спортом

Playboy
Побег с аэродрома Побег с аэродрома

Циклолеты – «летающие комбайны» – становятся экономичнее квадрокоптеров

Популярная механика
Четверо парней и Гусева: как изменились герои Четверо парней и Гусева: как изменились герои

Как выглядят актеры "гангстерской саги" сегодня?

Cosmopolitan
5 музыкальных клипов, снятых великими режиссерами 5 музыкальных клипов, снятых великими режиссерами

Клипы, где режиссеры создали отдельное кинопроизведение в дополнение к музыке

GQ
Цейтнот: значение слова и примеры этого явления в нашей жизни Цейтнот: значение слова и примеры этого явления в нашей жизни

Объяснение термина «цейтнот», история происхождения слова, синонимы и примеры

Playboy
Как научиться расставлять приоритеты и достигать желаемого: 10 главных шагов к цели Как научиться расставлять приоритеты и достигать желаемого: 10 главных шагов к цели

Подборка советов, помогающих выявить самые важные для тебя цели

Playboy
Почетный донер: как вычислить безопасную (сравнительно) шаурму Почетный донер: как вычислить безопасную (сравнительно) шаурму

Разбираемся, как не ошибиться с выбором шаурмы, подойдя к палатке шаурмена

Maxim
Что такое Black Series у автомобилей Mercedes-Benz Что такое Black Series у автомобилей Mercedes-Benz

Самые экстремальные модели в линейке Mercedes-Benz

Популярная механика
Правила жизни Тайгера Вудса Правила жизни Тайгера Вудса

Правила жизни великого гольфиста Тайгера Вудса

Esquire
«Женщине перестает быть нужен мужчина» «Женщине перестает быть нужен мужчина»

Анна Михалкова о фильме «Обычная женщина» и смене гендерных ролей

Weekend
Дмитрий Харатьян, Сергей Жигунов и другие гардемарины — как они выглядят сейчас Дмитрий Харатьян, Сергей Жигунов и другие гардемарины — как они выглядят сейчас

Как изменились актеры из фильмов о гардемаринах и что с ними сейчас

Cosmopolitan
83 м² 83 м²

Дизайнер сумела превратить неудачную планировку квартиры в удобное пространство

AD
«Гениальный Автор Феноменальных Текстов»: ушел из жизни артист и поэт Валентин Гафт «Гениальный Автор Феноменальных Текстов»: ушел из жизни артист и поэт Валентин Гафт

Валентин Гафт проработал в одном театре, «Современнике», 50 лет

Forbes
Такой «Креты» вы еще не видели. Тест-драйв Hyundai Creta Black&Brown Такой «Креты» вы еще не видели. Тест-драйв Hyundai Creta Black&Brown

Зачем народному корейскому кроссоверу понадобилась лимитированная спецверсия

РБК
Ночная жизнь Ночная жизнь

Синиша Лазаревич участвовал в знаковых для Москвы клубных проектах нулевых

Esquire
Живая планета Живая планета

Гипотеза Геи – между современной наукой и мистикой «нью-эйджа»

Популярная механика
Процесс Процесс

Чем Виктора Добронравова привлекла роль пожарного и что выводит его из себя

OK!
Правила жизни Леонида Броневого Правила жизни Леонида Броневого

Народный артист СССР. Умер 9 декабря 2017 года

Esquire
52 м² 52 м²

Дизайнер Рустэм Уразметов оформил черно-белую квартиру с акцентами цвета фуксии

AD
Я — легенда Я — легенда

Ретроспективная вилла в Лос-Анджелесе

SALON-Interior
Как big data помогает повысить качество услуг: кейс «Почты России» Как big data помогает повысить качество услуг: кейс «Почты России»

Зачем компаниям нужен анализ big data

Inc.
Как погибают солдаты в российской армии Как погибают солдаты в российской армии

История гибели солдата Ярослава Лихаузова

СНОБ
В якутской мерзлоте нашли отлично сохранившуюся тушу молодого шерстистого носорога В якутской мерзлоте нашли отлично сохранившуюся тушу молодого шерстистого носорога

Этот шерстистый носорог дожил до трех-четырех лет, после чего утонул

N+1
Одиночество разглядели в сети пассивного режима работы мозга Одиночество разглядели в сети пассивного режима работы мозга

У одиноких людей работа мозга отличается как структурно, так и функционально

N+1
«Судебник Владимира Гусева» и держава Ивана III «Судебник Владимира Гусева» и держава Ивана III

История судебника Ивана III

Наука и жизнь
В Индийском океане обнаружили новую популяцию синих китов В Индийском океане обнаружили новую популяцию синих китов

Зоологи вычислили новую популяцию китов по отличающейся песне

N+1
Роборуку научили чувствовать предметы с помощью солнечных панелей Роборуку научили чувствовать предметы с помощью солнечных панелей

Часть панелей закрывается и перестает вырабатывать электричество

N+1
Выделение речи из шума приписали медиальному ядру трапециевидного тела Выделение речи из шума приписали медиальному ядру трапециевидного тела

Эта зона мозга называется медиальным ядром трапециевидного тела

N+1
Честность и преданность, но без перфекционизма: как стать инфлюенсером для команды Честность и преданность, но без перфекционизма: как стать инфлюенсером для команды

Как помочь команде добиться большего, не прибегая к принуждению и манипуляциям

Forbes
Открыть в приложении