Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему от вина болит голова: рассказывает невролог Почему от вина болит голова: рассказывает невролог

Почему от белых вин голова болит реже, чем от красных?

СНОБ
Особый ребенок в классе: проблема или удача? Особый ребенок в классе: проблема или удача?

Инклюзивное образование в России практикуется во многих школах

Psychologies
Крымский мост: сколько строили и когда открыли самый длинный мост Европы Крымский мост: сколько строили и когда открыли самый длинный мост Европы

Факты, которые вы не знали о Крымском мосте

РБК
Вам мат: почему женщинам надо учиться играть в шахматы Вам мат: почему женщинам надо учиться играть в шахматы

Навыки шахматной игры дают то, чего годами достигают с помощью бизнес-тренингов

Forbes
«Дикое» государство: 7 фактов о жизни на Аляске «Дикое» государство: 7 фактов о жизни на Аляске

Вечная мерзлота, действующие вулканы, множество диких животных — все это Аляска

ТехИнсайдер
Весенние тренды 2018: почему их нет и не может быть Весенние тренды 2018: почему их нет и не может быть

Ванда Вонг уверена: трендов весны (по крайней мере, этой весны) не существует

Cosmopolitan
Исландия: медитация на Луне Исландия: медитация на Луне

Фантастические пейзажи Исландии пленяют с первого взгляда

Psychologies
Тревога налицо: реакция кожи на стресс Тревога налицо: реакция кожи на стресс

Прыщики, раздражения, шелушения, краснота... их причина — стресс

Psychologies
Квантовое превосходство Квантовое превосходство

В IT сложилась предреволюционная ситуация

Популярная механика
Ешь, качай, беги! Ешь, качай, беги!

Фитнес-лайфхаки Миланы Королевой

Cosmopolitan
Полный релакс Полный релакс

Кресла со встроенным массажером заметно повышают степень комфорта

Quattroruote
Проще пареной репы. Как женщины управляют продуктовым ритейлом Проще пареной репы. Как женщины управляют продуктовым ритейлом

Что видит женщина в магазинной еде, и чего не видит мужчина?

Forbes
Прощай, Glencore: что принес Олегу Дерипаске пятый день под санкциями Прощай, Glencore: что принес Олегу Дерипаске пятый день под санкциями

UC Rusal превращается в токсичный актив

Forbes
«Начни с себя»: что значит этот совет на самом деле «Начни с себя»: что значит этот совет на самом деле

Начни с себя — значит: вспомни, какая ты настоящая

Psychologies
Российские ученые смоделировали поведение вольфрама в термоядерном реакторе Российские ученые смоделировали поведение вольфрама в термоядерном реакторе

Процесс растрескивания вольфрама в результате мощного импульсного нагрева

Популярная механика
Галактика, которой хотелось быть проще Галактика, которой хотелось быть проще

Объект в космосе, не желающий иметь ничего общего с темной материей

СНОБ
Приправить и подать Приправить и подать

Дизайнер Светлана Дикушина обожает интерьеры с перчинкой

SALON-Interior
Энергетическая гигиена: как поддерживать баланс сил Энергетическая гигиена: как поддерживать баланс сил

Где черпать силы в энергозатратные будни?

Psychologies
Саргсян хотел поиграть в армянского Путина Саргсян хотел поиграть в армянского Путина

Как теперь будут развиваться российско-армянские отношения

СНОБ
Три японских секрета стройности Три японских секрета стройности

Что делает рациону жителей Страны восходящего солнца таким исключительным?

Psychologies
12 из Женевы 12 из Женевы

Главные тренды Женевского автосалона

GQ
8 разоблачающих фактов о гаремах 8 разоблачающих фактов о гаремах

Узнав это, ты раздумаешь становиться султаном (даже если тебя очень уговаривают)

Maxim
В своей тарелке: 15 простых рецептов ПП-блюд В своей тарелке: 15 простых рецептов ПП-блюд

Рецепты вкусных блюд, наслаждаясь которыми можно не думать о лишних килограммах

Cosmopolitan
Елизавета II и ее корги: история в фотографиях Елизавета II и ее корги: история в фотографиях

Королева Елизавета II разводила вельш-корги на протяжении 70 лет

Esquire
Человеческая слабость: как избавить искусственный интеллект от расизма Человеческая слабость: как избавить искусственный интеллект от расизма

Искусственный интеллект наследует не только лучшие, но и худшие качества людей

Forbes
Родительский дом Родительский дом

Хозяйка этого дома на Французской Ривьере хорошо его знает

AD
10 автомобилей из Бразилии: почти экзотика 10 автомобилей из Бразилии: почти экзотика

До России бразильские автомобили практически никогда не добираются

Популярная механика
Россия после Кемерово: что с нами не так Россия после Кемерово: что с нами не так

Почему люди спасали друг друга сами и где были пожарные

Русский репортер
Идея! Развлечься в аэропорту Идея! Развлечься в аэропорту

Когда десятый час ждешь пересадки в аэропорту, хочется даже поработать

Maxim
Индийская кухня Индийская кухня

Индийская кухня: яркая, очень пряная и чаще всего вегетарианская

9 месяцев
Открыть в приложении