Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Битва СССР с канадскими профи. Почему хоккейная Суперсерия-72 имела такое значение Битва СССР с канадскими профи. Почему хоккейная Суперсерия-72 имела такое значение

Суперсерия-72: как она изменила хоккей

СНОБ
Эпоха рассрочки. Почему россияне стали чаще брать кредиты в торговых сетях Эпоха рассрочки. Почему россияне стали чаще брать кредиты в торговых сетях

За прошлый год рынок POS-кредитования вырос на 20%

Forbes
В Финляндии стали использовать избыточное тепло дата-центров для отопления В Финляндии стали использовать избыточное тепло дата-центров для отопления

Дата-центр снабжает финский город теплом уже около десяти лет

Inc.
Агния Дитковските: На чужом примере проще учиться Агния Дитковските: На чужом примере проще учиться

В ожидании реалити «Союзники» на СТС мы поговорили с его ведущей

Лиза
Список уловок телефонных мошенников: разбираем самые частые способы обмана Список уловок телефонных мошенников: разбираем самые частые способы обмана

Список из самых распространенных атак телефонных мошенников

Maxim
Илон Маск и его спутники: почему раздача интернета из космоса под угрозой срыва Илон Маск и его спутники: почему раздача интернета из космоса под угрозой срыва

Реализации задумки Илона Маска может помешать множество объективных причин

Forbes
Конец нейтралитета. Кого затронут новые санкции США Конец нейтралитета. Кого затронут новые санкции США

Новый санкционный пакет, связанный с Сирией

Forbes
100 советов сыну 100 советов сыну

За время существования MAXIM многие наши первые читатели стали отцами

Maxim
Меркель против Трампа. Германия попробует выйти из антироссийских санкций Меркель против Трампа. Германия попробует выйти из антироссийских санкций

На подходе новые многомиллиардные проекты, которыми Берлин не готов жертвовать

Forbes
Депрессия у подростка: как выявить и чем помочь Депрессия у подростка: как выявить и чем помочь

Депрессия поражает подростков гораздо чаще, чем принято думать

Домашний Очаг
10 фрагментов человеческих тел, которые продавались на аукционах 10 фрагментов человеческих тел, которые продавались на аукционах

Некоторые знаменитости и исторические фигуры продолжают "путешествовать" по миру

Популярная механика
8 разоблачающих фактов о гаремах 8 разоблачающих фактов о гаремах

Узнав это, ты раздумаешь становиться султаном (даже если тебя очень уговаривают)

Maxim
Манекены, волки, Сухуми и постцифровой мир: как устроена вселенная Андро Векуа Манекены, волки, Сухуми и постцифровой мир: как устроена вселенная Андро Векуа

В "Гараже" открылась первая персональная выставка Андро Векуа

Esquire
Закрытие полигона. Почему Северная Корея отказалась от ядерных испытаний Закрытие полигона. Почему Северная Корея отказалась от ядерных испытаний

Готова ли Северная Корея в отдаленном будущем отказаться от ядерного оружия

Esquire
Андрей Пронин: Михаил Угаров. Жизнь Андрей Пронин: Михаил Угаров. Жизнь

Театральный критик — о том, каким был знаменитый режиссер

СНОБ
Нас не догонят. Смогут ли США наверстать отставание в разработке гиперзвукового оружия Нас не догонят. Смогут ли США наверстать отставание в разработке гиперзвукового оружия

После презентации гиперзвуковой ракеты «Кинжал» США бросились догонять Россию

Forbes
Атомный могильник: как хранят радиоактивные отходы Атомный могильник: как хранят радиоактивные отходы

За захоронение высокоактивных отходов многие страны готовы платить уже сейчас

Популярная механика
Нефть и песок. Зачем наследному принцу Саудовской Аравии американские деньги Нефть и песок. Зачем наследному принцу Саудовской Аравии американские деньги

Саудовской Аравии пришлось потратить $200 млрд, чтобы свести концы с концами

Forbes
Стволовые клетки мозга обновляются ограниченно: новое открытие Стволовые клетки мозга обновляются ограниченно: новое открытие

Новые стволовые клетки в организме со временем практически не появляются

Популярная механика
Свободное падение: акции Сбербанка пробили отметку в 200 рублей Свободное падение: акции Сбербанка пробили отметку в 200 рублей

Капитализация Сбербанка откатилась до уровня октября 2017 года

Forbes
Что подростки думают о безопасности Что подростки думают о безопасности

Десять тинейджеров рассказали, как родители обсуждают с ними безопасность

СНОБ
Следствие ведет... Следствие ведет...

Елизавета Боярская исполнила главную роль в новом сериале «Ворона» на НТВ

OK!
Made In Саша Made In Саша

Как работа актрисой помогла Александре Ревенко полюбить себя

Esquire
Переехали! Переехали!

Как российские специалисты работают в NASA

РБК

Церемония вручения ежегодной премии журнала HELLO! "Самые стильные в России"

Cosmopolitan
Черная кошка, розовая пантера Черная кошка, розовая пантера

В истории «Розовых пантер» интересно и необычно все

Maxim
Приправить и подать Приправить и подать

Дизайнер Светлана Дикушина обожает интерьеры с перчинкой

SALON-Interior
Каравайчук online: в четверг и больше никогда Каравайчук online: в четверг и больше никогда

На snob.ru состоялась премьера – онлайн-трансляция спектакля «Каравайчук»

СНОБ
Тайна организации Тайна организации

Сама идея управления временем за последнее время слегка изменилась

Добрые советы
Лучшие шутки о предложении Петра Толстого россиянам лечиться корой дуба! Лучшие шутки о предложении Петра Толстого россиянам лечиться корой дуба!

Шизофазия чиновников и пропагандистов перешла в терминальную стадию!

Maxim
Открыть в приложении