Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Женщина 20 лет не убирала в доме, но он оставался чистым. Почему? Женщина 20 лет не убирала в доме, но он оставался чистым. Почему?

Думаете, дом, который не убирался больше 20 лет был похож на свалку?

Популярная механика
Александр Изряднов: Как бизнес использует нашу веру в героев Александр Изряднов: Как бизнес использует нашу веру в героев

Стив Джобс, Илон Маск — это качественные пиар-продукты, результат сложной работы

СНОБ
Зубастые красавицы Зубастые красавицы

Острые зубы, складки на шее, шрамы украшают женщину

Вокруг света
Как клиент создает мобильное приложение Альфа-Банка и почему он всегда прав Как клиент создает мобильное приложение Альфа-Банка и почему он всегда прав

Для любого бизнеса всегда будет актуален вопрос: «Что нужно клиенту?»

Forbes
Suzuki Vitara и KIA Seltos. Миллениал против зумера Suzuki Vitara и KIA Seltos. Миллениал против зумера

Сравниваем два на первый взгляд разных, но при этом очень похожих автомобиля

4x4 Club
Парное интервью: создатели нового концепт-стора Peak Сергей Танин и Константин Михайлов отвечают на 10 вопросов о будущем моды и аутдор-технологиях Парное интервью: создатели нового концепт-стора Peak Сергей Танин и Константин Михайлов отвечают на 10 вопросов о будущем моды и аутдор-технологиях

Создатели концепт-стора Peak о потребности в природе и новой реальности моды

Esquire
Bayraktar VS Орион: битва ударных беспилотников Bayraktar VS Орион: битва ударных беспилотников

Может ли Россия предложить что-то похожее на беспилотник Bayraktar TB2?

Популярная механика
Запуск десятилетия? Какой получилась игра Cyberpunk 2077 (обзор Esquire) Запуск десятилетия? Какой получилась игра Cyberpunk 2077 (обзор Esquire)

Почему Cyberpunk 2077 — это один из лучших релизов года, который мы ждали не зря

Esquire
Главный злодей в триллере о пандемии — банальный грипп. Фрагмент из книги «Следующая пандемия» Главный злодей в триллере о пандемии — банальный грипп. Фрагмент из книги «Следующая пандемия»

Отрывок из книги Али Хана об опасности, которую несёт грипп

СНОБ
Собаки оказались нечувствительны к замене фонем Собаки оказались нечувствительны к замене фонем

Восприятие речи собаками сильно ограничено их чувствительностью к фонемам

N+1
Как Жан-Люк Годар снял свой главный фильм и продолжает снимать его до сих пор. Годару — 90, «Безумному Пьеро» — 55 Как Жан-Люк Годар снял свой главный фильм и продолжает снимать его до сих пор. Годару — 90, «Безумному Пьеро» — 55

Жан-Люк Годар — могильщик кино, заново изобретающий его в каждом фильме

Weekend
Фантастические твари и где они обитают: как выглядит человек-иноагент Фантастические твари и где они обитают: как выглядит человек-иноагент

Почему власть чрезмерно реагирует на внешние угрозы?

Forbes
Алексей Сальников: «Общайся! Живи!» Юмористический рассказ Алексей Сальников: «Общайся! Живи!» Юмористический рассказ

Рассказ «Общайся! Живи!» о том, что такое смерть

СНОБ
Невероятная история CD-диска. Часть 2 Невероятная история CD-диска. Часть 2

Как Philips и Sony внедряли CD-диски на рынок

Популярная механика
Пандемия и страсть: как новый мир создает новый секс Пандемия и страсть: как новый мир создает новый секс

Секс-блогер Мария Чеснокова рассуждает о том, как изменилась секс-индустрия

Cosmopolitan
2004 год 2004 год

Теракт в Беслане, отмена прямых губернаторских выборов и второй срок Путина

Esquire
Какую игровую консоль выбрать для ребенка в подарок? Какую игровую консоль выбрать для ребенка в подарок?

Доступные консоли, которые подойдут для подарка ребенку

CHIP
Кибербаг: как выход самой долгожданной игры года стал катастрофой для фанатов и инвесторов Кибербаг: как выход самой долгожданной игры года стал катастрофой для фанатов и инвесторов

Почему долгожданный релиз обернулся катастрофой для инвесторов и фанатов игр?

Forbes
Зачем мечтать о славе Зачем мечтать о славе

Почему совет «быть скромнее и не высовываться» не так уж хорош

Psychologies
Новый алгоритм DeepMind самостоятельно освоил игры Atari Новый алгоритм DeepMind самостоятельно освоил игры Atari

Алгоритм научился играть в го, шахматы и сёги

N+1
Как инженер-ядерщик с русскими корнями придумала «умную» карту деловых связей и попала в список Forbes Как инженер-ядерщик с русскими корнями придумала «умную» карту деловых связей и попала в список Forbes

Как 28-летняя Екатерина Парамонова попала в рейтинг «30 до 30» Forbes

Forbes
Почему мы «заедаем» проблемы и как это прекратить? Почему мы «заедаем» проблемы и как это прекратить?

Еда — не лучший способ справляться с усталостью, болью, стрессом

Psychologies
72 м² 72 м²

Заказчица Екатерины Угловой решила не экономить на диване и кухне

AD
Разгружаемся: похудеть без чувства голода Разгружаемся: похудеть без чувства голода

10 правил разгрузочного режима известного французского диетолога Жака Фрикер

Здоровье
Супермикроспособности Супермикроспособности

Человеку не дано крыльев, вечной жизни и способностей к телепортации

Maxim
Два часа Два часа

Как пробежать марафон с невероятным результатом

kiozk originals
Загадка Антона Лапенко: как комик из многодетной семьи стал звездой YouTube и зарабатывает миллионы на ностальгии по 90-м Загадка Антона Лапенко: как комик из многодетной семьи стал звездой YouTube и зарабатывает миллионы на ностальгии по 90-м

В чем заключается гениальность Антона Лапенко?

Forbes
Когда в России состоялся первый концерт классической музыки? Когда в России состоялся первый концерт классической музыки?

Концертная жизнь в России началась с открытия Филармонического общества

Культура.РФ
Голубой цвет елям придают нанотрубки Голубой цвет елям придают нанотрубки

Почему некоторые ели имеют голубой цвет иголок?

Популярная механика
«Загадай желание»: 4 вопроса, чтобы понять, чего мы хотим «Загадай желание»: 4 вопроса, чтобы понять, чего мы хотим

Как понять, о чем мы мечтаем на самом деле?

Psychologies
Открыть в приложении