Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Эксперимент. Один день на карантине без гаджетов и интернета Эксперимент. Один день на карантине без гаджетов и интернета

Каково это — на целый день остаться без гаджетов, но со своими близкими

СНОБ
Загадка тупиков: светящийся клюв Загадка тупиков: светящийся клюв

Ученые выяснили, что клювы морских птиц светятся в темноте

National Geographic
Почему Google отказался делиться искусственным интеллектом с нефтяниками Почему Google отказался делиться искусственным интеллектом с нефтяниками

Google отказался помогать нефтяникам в разведке и добыче сырья

Forbes
Видоизменённый разум Видоизменённый разум

Компьютеры будущего

Мир Фантастики
Роберт Сапольски: что происходит с нашим мозгом во время пандемии Роберт Сапольски: что происходит с нашим мозгом во время пандемии

Стэнфордский профессор — о нарушенном балансе между разумом и эмоциями

Reminder
Революция удалась: что означает смена власти в Армении Революция удалась: что означает смена власти в Армении

Жители не позволили Саргсяну сохранить контроль над республикой

Forbes
Некуда бежать. Смогут ли вкладчики найти замену депозитам Некуда бежать. Смогут ли вкладчики найти замену депозитам

Ставки по депозитам опустились до исторического минимума — 6,9% годовых

Forbes
Все козыри на столе Все козыри на столе

Обычный и подключаемый гибриды, электрокар и автомобиль на топливных элементах

Quattroruote
Космический поиск: NASA запустила в космос охотника за экзопланетами Космический поиск: NASA запустила в космос охотника за экзопланетами

Новый телескоп позволит обнаружить больше планет за пределами Солнечной системы

Forbes
Глубоко в карман: США потребовали от банков доступ к счетам российских олигархов Глубоко в карман: США потребовали от банков доступ к счетам российских олигархов

Американские сенаторы пригрозили устроить расследование

Forbes
Откуда мы знаем, что человеческая цивилизация - первая на Земле? Откуда мы знаем, что человеческая цивилизация - первая на Земле?

За ответами ученые обратились к геологической истории Земли

Популярная механика
Бедное искусство: работы итальянских художников выставили на торги в Милане Бедное искусство: работы итальянских художников выставили на торги в Милане

Аукцион Sotheby’s пройдет 18 и 19 апреля в дни проведения Milan Design Week

Forbes
Хозяин Кузбасса: кому Аман Тулеев оставляет Кемеровскую область Хозяин Кузбасса: кому Аман Тулеев оставляет Кемеровскую область

Владимир Путин принял отставку Амана Тулеева

Forbes
Нико Пиросмани. Жил-был художник один Нико Пиросмани. Жил-был художник один

Бездомный гений превратил в персональную галерею почти весь город

Караван историй
#MeToo — это не конец секса #MeToo — это не конец секса

О том, как выжить в эпоху обвинений в харассменте

GQ
Саргсян хотел поиграть в армянского Путина Саргсян хотел поиграть в армянского Путина

Как теперь будут развиваться российско-армянские отношения

СНОБ
Далекие близкие Далекие близкие

Бывает, что близкий человек вдруг становится далеким, хотя никуда не уходил

Добрые советы
«Сосисочная королева» и еще 11 удивительных фотографий с конкурсов красоты «Сосисочная королева» и еще 11 удивительных фотографий с конкурсов красоты

Фотоотчеты с конкурсов красоты 20-50-х годов прошлого века

Cosmopolitan
199-летний попугай и 9 других долгожителей животного мира 199-летний попугай и 9 других долгожителей животного мира

Перед вами 10 животных, проживших невероятно долгие годы

Популярная механика
Оумуамуа, или 1I/2017 U1: первый объект, прилетевший с другой звезды Оумуамуа, или 1I/2017 U1: первый объект, прилетевший с другой звезды

Солнечную систему посетил объект, прилетевший к нам от другой звезды

Популярная механика
Елизавета II и ее корги: история в фотографиях Елизавета II и ее корги: история в фотографиях

Королева Елизавета II разводила вельш-корги на протяжении 70 лет

Esquire
Проще пареной репы. Как женщины управляют продуктовым ритейлом Проще пареной репы. Как женщины управляют продуктовым ритейлом

Что видит женщина в магазинной еде, и чего не видит мужчина?

Forbes
Что такое суперфуды и зачем они нам нужны Что такое суперфуды и зачем они нам нужны

Продукты, в которых концентрация полезных веществ превышает все показатели

Cosmopolitan
Во французском замке появится несуществующая фреска Во французском замке появится несуществующая фреска

Замысел создателей замка-музея Во-лё-Виконт будет воплощен полностью

National Geographic
Россия ждет: Россия ждет:

Телеканал "Матч ТВ" запускает масштабный документальный проект

National Geographic
Больше чем поёт Больше чем поёт

Антон Беляев и Therr Maitz – любимцы российских модников

Esquire
«Панцирная пехота»: советский спецназ для штурма германских городов-крепостей «Панцирная пехота»: советский спецназ для штурма германских городов-крепостей

«Коктейль Молотова», дюжина гранат и небольшой запас взрывчатки...

Maxim
Клоуны, жуки и алкоголики: 12 фильмов о пришельцах, которые должен посмотреть каждый инопланетянин Клоуны, жуки и алкоголики: 12 фильмов о пришельцах, которые должен посмотреть каждый инопланетянин

12 фильмов о том, как мы себе представляем контакт с братьями по разуму

СНОБ
Лори и все ее личности: кто такая Лори Эрика Рафф? Лори и все ее личности: кто такая Лори Эрика Рафф?

Зачем девушке потребовалась другая личность?

Cosmopolitan
Наталия Корнеева. Непростая история Наталия Корнеева. Непростая история

Уже больше полугода не утихает скандал между Джигарханяном и его женой

Караван историй
Открыть в приложении