Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бутилированная вода: чем вреден пластик и стоит ли переходить на фильтрованную воду Бутилированная вода: чем вреден пластик и стоит ли переходить на фильтрованную воду

Об особенностях бутилированной воды

Популярная механика
Юрий Чурсин: «Кино – это вообще-то произведение искусства» Юрий Чурсин: «Кино – это вообще-то произведение искусства»

Юрий Чурсин рассказал о русском кино и опыте игры в женской одежде

GQ
Как Тиндер изменил нашу жизнь: гайд к 10-летию приложения Как Тиндер изменил нашу жизнь: гайд к 10-летию приложения

Как Тиндер изменил культуру свиданий и подход к отношениям

Psychologies
Правила жизни Джуди Денч Правила жизни Джуди Денч

Актриса, Лондон, 86 лет

Esquire
Какой МФУ выбрать для дома: 5 самых лучших из бюджетного сегмента Какой МФУ выбрать для дома: 5 самых лучших из бюджетного сегмента

Рассматриваем разные варианты МФУ для дома и выбираем оптимальное устройство

CHIP
Пять загадок, создание которых приписывают известным людям, но это не всегда так Пять загадок, создание которых приписывают известным людям, но это не всегда так

Действительно ли Лев Толстой, Стив Джобс и Илон Маск придумывали загадки?

Maxim
Как быстро прекратить истерику у девушки Как быстро прекратить истерику у девушки

Как справиться с истинной и манипулятивной истерикой своей партнерши?

Maxim
Как успокоить собаку во время фейерверков Как успокоить собаку во время фейерверков

5 советов от кинолога для владельцев нервных четвероногих друзей

Maxim
Никто не Вуди Аллен: 10 малоизвестных шедевров режиссера Никто не Вуди Аллен: 10 малоизвестных шедевров режиссера

10 неожиданных картин Вуди Аллена, которые вы могли пропустить

Forbes
Интегральные источники одиночных фотонов стали в десять раз ярче Интегральные источники одиночных фотонов стали в десять раз ярче

Их дальнейшая интеграция позволит создавать мощные квантовые устройства

N+1
Хочу как они! Звездные пары, которые доказали существование любви на всю жизнь Хочу как они! Звездные пары, которые доказали существование любви на всю жизнь

Пары, доказавшие, что настоящую любовь все же не сочинили сказочники

Cosmopolitan
Как стать принцессой Как стать принцессой

Эмма Коррин – о роли принцессы Дианы в четвертом сезоне сериала «Корона»

Grazia
Самые легендарные хитрецы в культуре: Локи, Карлсон, Одиссей, Остап Бендер и другие Самые легендарные хитрецы в культуре: Локи, Карлсон, Одиссей, Остап Бендер и другие

Трикстеры — самые смешные и опасные обитатели мира культуры

Maxim
Тайны и страсти Татьяны Лавровой Тайны и страсти Татьяны Лавровой

Четыре новеллы о советской актрисе Татьяне Лавровой

Караван историй
7 деликатных моментов, которые нас смущают в начале отношений 7 деликатных моментов, которые нас смущают в начале отношений

В начале любого романа иногда возникают неловкие ситуации

Psychologies
Это личное! Это личное!

Интервью с Евгением Цыгановым о фильме «Неадекватные люди – 2»

Grazia
Не только Cyberpunk 77: топ-5 игр в киберпанк-эстетике Не только Cyberpunk 77: топ-5 игр в киберпанк-эстетике

Пять видеоигр, работающих с наследием киберпанка и стимпанка

Esquire
9 неочевидных признаков, по которым местные моментально вычисляют туристов 9 неочевидных признаков, по которым местные моментально вычисляют туристов

Нет, туристов узнают не только по большому фотоаппарату

Playboy
Издательство Individuum перевело книгу на русский с помощью машинного перевода: фрагмент до и после редактуры человеком Издательство Individuum перевело книгу на русский с помощью машинного перевода: фрагмент до и после редактуры человеком

Как «Яндекс.Переводчик» справился с переводом целой книги

VC.RU
По законам Солнца: что такое солнечный календарь По законам Солнца: что такое солнечный календарь

Основа солнечного календаря – тропический год, связанный со сменой времен года

Cosmopolitan
Правда о шапках и соплях. Проверяем страшилки, которыми нас пугали родители Правда о шапках и соплях. Проверяем страшилки, которыми нас пугали родители

Успел забыть страшилки, которыми пугали тебя в детстве осторожные родители?

Maxim
Как продать идею и заставить всех в нее поверить: ключевые правила Как продать идею и заставить всех в нее поверить: ключевые правила

Презентация любого нового проекта требует серьезной подготовки

Playboy
Хватит говорить людям «я занят», потому что это обижает: 4 способа деликатно выйти из ситуации Хватит говорить людям «я занят», потому что это обижает: 4 способа деликатно выйти из ситуации

Говорить всем о своей «занятости» — нетактично

Playboy
Братья и сестры: как помочь им полюбить друг друга? Братья и сестры: как помочь им полюбить друг друга?

От чего зависит, как сложатся отношения братьев и сестер?

Psychologies
От неосторожного курения до самосожжения. Почему в России каждый год горят дома престарелых От неосторожного курения до самосожжения. Почему в России каждый год горят дома престарелых

В России по несколько раз в год горят дома престарелых

СНОБ
Какой бывает пластик и можно ли его весь перерабатывать Какой бывает пластик и можно ли его весь перерабатывать

Что значат эти треугольники на пластиковых вещах?

Популярная механика
Говорите вслух и играйте в шахматы: как развить в детях эмпатию Говорите вслух и играйте в шахматы: как развить в детях эмпатию

Отрывок из книги психолога и педагога Мишеля Борба «Чуткие дети»

Forbes
Туман-убийца: как Великий смог в Лондоне забрал жизни тысяч людей Туман-убийца: как Великий смог в Лондоне забрал жизни тысяч людей

Туманный Альбион стал туманным Армагеддоном

Maxim
Какую игровую консоль выбрать для ребенка в подарок? Какую игровую консоль выбрать для ребенка в подарок?

Доступные консоли, которые подойдут для подарка ребенку

CHIP
72 м² 72 м²

Заказчица Екатерины Угловой решила не экономить на диване и кухне

AD
Открыть в приложении