Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бородатый рейс — о чем говорят мужчины на приеме у косметолога и пластического хирурга Бородатый рейс — о чем говорят мужчины на приеме у косметолога и пластического хирурга

Почему мужчины все чаще обращаются к косметологам и хирургам

СНОБ
Мудрая пудра Мудрая пудра

Дом, в котором много натуральных материалов, мягких тканей и пастельных оттенков

AD
Как подключить и заменить праймер на бензопиле — простая инструкция Как подключить и заменить праймер на бензопиле — простая инструкция

Инструкция, как заменить праймер на бензопиле

CHIP
С того света возвращаются постепенно: история Ирины С того света возвращаются постепенно: история Ирины

Об Ирине Польшиной, которая перенесла рак кожи и трансплантацию костного мозга

Cosmopolitan
Как заснуть буквально за минуту: способ, который все мы бессознательно используем Как заснуть буквально за минуту: способ, который все мы бессознательно используем

Как помочь своему организму заснуть?

Maxim
Простая техника, чтобы принять решение и начать действовать Простая техника, чтобы принять решение и начать действовать

Как начать хотеть, если уже давно ничего не хочется?

Psychologies
Фальшивая реальность Фальшивая реальность

Президент США в порно? Приложение позволяет подставлять другие лица в видео

CHIP
Отдых на природе. Депутаты предложили использовать маткапитал на покупку дач Отдых на природе. Депутаты предложили использовать маткапитал на покупку дач

За 11 лет действия материнского капитала им полностью распорядились только 54,3%

Forbes
Весь этот рок-н-ролл Весь этот рок-н-ролл

Джаред Лето рассказал, почему они ждали своего возвращения в Россию

OK!
Молодая кровь: зачем российский бренд сшил одежду с логотипами KFC Молодая кровь: зачем российский бренд сшил одежду с логотипами KFC

Фастфуд KFC выпустил лимитированную коллекцию одежды

Forbes
Циркачи в пустыне. Зачем Саудовская Аравия приглашает Cirque Du Soleil Циркачи в пустыне. Зачем Саудовская Аравия приглашает Cirque Du Soleil

Первые шаги по интеграции в индустрию развлечений для исламской страны

Forbes
Денежные отношения: рейтинг главных покупателей и продавцов по версии Forbes Денежные отношения: рейтинг главных покупателей и продавцов по версии Forbes

Forbes разбирался, кто, что и за сколько купил или продал в минувшем году

Forbes
Зайка моя, я твой... Зайка моя, я твой...

Секс-фетиши, о которых ты не знала

Cosmopolitan
Хорошие новости, цензура и тренды. Дискуссия о медиа на Synergy Women Forum 2018 Хорошие новости, цензура и тренды. Дискуссия о медиа на Synergy Women Forum 2018

В Москве прошел Synergy Women Forum, посвященный успешным женщинам

СНОБ
Вертикальные роды: можно всем? Вертикальные роды: можно всем?

Плюсы и минусы вертикальных родов

9 месяцев
Я тоже так могу Я тоже так могу

Почему современное искусство вернулось к амебе

Русский репортер
Меркель едет к Трампу. Германия может потерять €1,5 млрд от новых санкций США Меркель едет к Трампу. Германия может потерять €1,5 млрд от новых санкций США

70% немецких компаний рассчитывают сохранить активность и инвестиции

Forbes
Весенние тренды 2018: почему их нет и не может быть Весенние тренды 2018: почему их нет и не может быть

Ванда Вонг уверена: трендов весны (по крайней мере, этой весны) не существует

Cosmopolitan
«Ломай его полностью!»: как устроены рестлинг бои в России «Ломай его полностью!»: как устроены рестлинг бои в России

Почти каждый месяц нижегородский рестлинг клуб Gorky City Wrestling проводит бои

Esquire
Покусился за святое. Трамп пообещал остановить «искусственное завышение» цен на нефть Покусился за святое. Трамп пообещал остановить «искусственное завышение» цен на нефть

Нефтяные котировки на заявлениях главы Белого дома пошли вниз

Forbes
Тарелка профессора Роя: бескрылый летательный аппарат Тарелка профессора Роя: бескрылый летательный аппарат

В США получен патент на «летающую тарелку»

Популярная механика
10 ключей к здоровой и счастливой жизни 10 ключей к здоровой и счастливой жизни

Здоровый образ жизни — это больше, чем просто спорт и правильное питание

Psychologies
Стресс-тест для экономики: рубль ищет новую точку опоры Стресс-тест для экономики: рубль ищет новую точку опоры

Рост геополитической напряженности заставил экономику и рубль сдать позиции

Forbes
Бонды замедленного действия. Что ждет держателей облигаций UC Rusal Бонды замедленного действия. Что ждет держателей облигаций UC Rusal

Хватит ли у UC Rusal запаса прочности, чтобы расплатиться с инвесторами

Forbes
Изобретателем года назвали физика, снявшего кино внутри живого организма Изобретателем года назвали физика, снявшего кино внутри живого организма

МРТ позволяет заглянуть внутрь человеческого тела без рентгеновского излучения

Популярная механика
Части вселенной Части вселенной

Все, что нужно знать об империи «Мстителей»

GQ
Конфликт поколений: чем блокировка Telegram напоминает крестовый поход детей Конфликт поколений: чем блокировка Telegram напоминает крестовый поход детей

История с ограничением доступа напоминает непонимание поколениями друг друга

Forbes
Вечный студент: почему нужно начать учить язык прямо сейчас Вечный студент: почему нужно начать учить язык прямо сейчас

Изучение языков может сделать нас счастливее

Psychologies
Устроили драмтеатр: фонд Леонида Михельсона показывает в Москве невиданное искусство Устроили драмтеатр: фонд Леонида Михельсона показывает в Москве невиданное искусство

В ММоМА открывается проект фонда V-A-C «Генеральная репетиция»

Forbes
Стивен Содерберг: “Кино — это мой спорт” Стивен Содерберг: “Кино — это мой спорт”

В прокате “Не в себе” — триллер Стивена Содерберга

Esquire
Открыть в приложении