Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Метаирония, провокация на грани фола и дружба с Ренатой Литвиновой. Чем известен дизайнер Демна Гвасалия Метаирония, провокация на грани фола и дружба с Ренатой Литвиновой. Чем известен дизайнер Демна Гвасалия

Как выходец из советской Грузии стал одним из самых известных дизайнеров

СНОБ
Счастье против воли: как любовь к инновациям губит высокие технологии Счастье против воли: как любовь к инновациям губит высокие технологии

Руководству компаний следует сочетать инновации с оптимизацией бизнеса

Forbes
Old but gold: как и почему растет рынок технологий для пожилых людей Old but gold: как и почему растет рынок технологий для пожилых людей

Продукты и услуги для старшего поколения — глобальный тренд

Forbes
«Я жалею, что не сделала грудь раньше»: личный опыт мамы двоих детей «Я жалею, что не сделала грудь раньше»: личный опыт мамы двоих детей

10 шагов к красивой груди

Cosmopolitan
10 продуктов для здоровья волос в пожилом возрасте 10 продуктов для здоровья волос в пожилом возрасте

Как связаны здоровье волос и продукты, которые вы едите?

ТехИнсайдер
Новоселье для друзей Новоселье для друзей

Все комнатные растения время от времени необходимо пересаживать

Лиза
Настоящая близость возможна только между равными Настоящая близость возможна только между равными

Откуда берутся обиды в семейных парах

Psychologies
Разные интересы: проблема или возможность? Разные интересы: проблема или возможность?

Как сохранить союз, если общих тем мало

Psychologies
Надувная лодка: как акулы яхтенного бизнеса обманывают миллиардеров Надувная лодка: как акулы яхтенного бизнеса обманывают миллиардеров

Как брокеры могут нажиться на неразборчивости и неосведомленности клиентов

Forbes
Рассказать до конца Рассказать до конца

Писательница Элизабет Гилберт — частая героиня и автор Yoga Journal

Yoga Journal
Оумуамуа, или 1I/2017 U1: первый объект, прилетевший с другой звезды Оумуамуа, или 1I/2017 U1: первый объект, прилетевший с другой звезды

Солнечную систему посетил объект, прилетевший к нам от другой звезды

Популярная механика
«Расслабьтесь и начните работать над собой» «Расслабьтесь и начните работать над собой»

Как вернуть себе целостность?

Psychologies
Михалина Ольшанская — самая смелая актриса своего поколения Михалина Ольшанская — самая смелая актриса своего поколения

Польская актриса возвращается на наши экраны в военной драме «Собибор»

Vogue
Как расстаться, если вы живете вместе Как расстаться, если вы живете вместе

Расставание болезненный процесс, и совместное проживание все только усложняет

Psychologies
Старость при деньгах. Как самостоятельно накопить на пенсию Старость при деньгах. Как самостоятельно накопить на пенсию

Какие правила помогут обеспечить достойную жизнь после 55?

Forbes
«Если у тебя нет с женой такого секса, будто ты спрыгнул с пятидесяти метров в воду и улетел, — считай, его нет совсем!» «Если у тебя нет с женой такого секса, будто ты спрыгнул с пятидесяти метров в воду и улетел, — считай, его нет совсем!»

Николай Фоменко о природе секса и других удовольствиях

Maxim
Откуда мы знаем, что человеческая цивилизация - первая на Земле? Откуда мы знаем, что человеческая цивилизация - первая на Земле?

За ответами ученые обратились к геологической истории Земли

Популярная механика
Племя не ждет! Племя не ждет!

В чем секрет хитов груп­пы IOWA

Glamour
Елизавета II и ее корги: история в фотографиях Елизавета II и ее корги: история в фотографиях

Королева Елизавета II разводила вельш-корги на протяжении 70 лет

Esquire
Сильный Пол Сильный Пол

Знаменитый на весь мир дизайнер мужской одежды Пол Смит

Esquire
Потерпите! Потерпите!

Почему иногда терпеть – это очень вредно

Домашний Очаг
В чем ходить в майские праздники? В чем ходить в майские праздники?

Предлагаем 4 варианта на любой вкус, настроение и погоду

GQ
Вокалистка и ударница Вокалистка и ударница

Ве­ра Бреж­не­ва рассказывает о том, как все успеть и не сломаться

Glamour
Каждую пятницу и субботу в WOW проходит ужин и вечеринка в формате Dinner Show Каждую пятницу и субботу в WOW проходит ужин и вечеринка в формате Dinner Show

На Бадаевском заводе открылся уникальный проект WOW

Cosmopolitan
Subaru Impreza Subaru Impreza

Impreza на отечественном рынке окончательно сдулась и покинула прилавки

АвтоМир
«Дизайн человека»: жить по природе, а не по ложному «Я» «Дизайн человека»: жить по природе, а не по ложному «Я»

Что такое система Human Design

Psychologies
Корабль-бомба: история «морских камикадзе» Корабль-бомба: история «морских камикадзе»

Корабли-бомбы существовали задолго до XX века

Популярная механика
Если это любовь Если это любовь

19 мая состоится свадьба принца Гарри Уэльского и актрисы Меган Маркл

OK!
Закрытое небо: зачем Госдума лишает авиационную отрасль сотен миллионов евро Закрытое небо: зачем Госдума лишает авиационную отрасль сотен миллионов евро

Один из пунктов контрсанкций, которые хочет ввести Госдума

Forbes
Стресс-тест для экономики: рубль ищет новую точку опоры Стресс-тест для экономики: рубль ищет новую точку опоры

Рост геополитической напряженности заставил экономику и рубль сдать позиции

Forbes
Открыть в приложении