Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Я — сноб: винодел Михаил Николаев Я — сноб: винодел Михаил Николаев

Винодел Михаил Николаев — о любви к чаю и дегустациям сыра

СНОБ
Как герои стритстайла носят круглые очки Как герои стритстайла носят круглые очки

И с костюмом, и с толстовкой, и с тренчем

GQ
Почему капитанский мостик находится в корме, если с носа обзор лучше Почему капитанский мостик находится в корме, если с носа обзор лучше

Где должен быть установлен капитанский мостик — на корме или на носу корабля?

ТехИнсайдер
Я разная, как и любой человек Я разная, как и любой человек

Пелагея не умеет скучать и категорически не позволяет этого делать своим близким

Добрые советы
Дискуссия о формате: почему российской рознице нужны единые стандарты регулирования Дискуссия о формате: почему российской рознице нужны единые стандарты регулирования

Государство хочет установить правила регулирования работы маркетплейсов

Forbes
Взять верный TON: насколько перспективна блокчейн-платформа Дурова Взять верный TON: насколько перспективна блокчейн-платформа Дурова

Поможет ли блокировка мессенджера в России выходу проекта на ICO?

Forbes
Что читать в апреле: выбор Psychologies Что читать в апреле: выбор Psychologies

Четыре новинки, которые наверняка понравятся любителям провести вечер с книгой

Psychologies
Народ против: как жители Армении не испугались властей и довели протест до победы Народ против: как жители Армении не испугались властей и довели протест до победы

Президент Армении Серж Саргсян уступил протестующим и подал в отставку

Forbes
Он не устроит! Как правильно флиртовать с разными знаками зодиака Он не устроит! Как правильно флиртовать с разными знаками зодиака

Астролог продолжает помогать нам готовиться к свиданиям с мужчинами

Cosmopolitan
Зеленые небеса: чем занимается одна из самых дорогих финтех-компаний США Зеленые небеса: чем занимается одна из самых дорогих финтех-компаний США

Онлайн-кредитор GreenSky выйдет на IPO при оценке капитализации в $5 млрд

Forbes
Формула против Серого Формула против Серого

Почему единственный русский гонщик «Формулы‑1» беспокоится о фигуре

GQ
Ким Чен Ын на свидании с бомбой, Ким Чен Ын на свидании с бомбой,

MTV сняли видео про Юрия Дудя

Cosmopolitan
Все по полочкам Все по полочкам

Мебельные стенки немного видоизменились

Лиза
Астрофизики впервые рассмотрели, как из чёрной дыры рождается джет Астрофизики впервые рассмотрели, как из чёрной дыры рождается джет

Визуализация образования струи плазмы в окрестности массивной чёрной дыры

Популярная механика
Шеф-повар Ренцо Гарибальди о мясных блюдах в России Шеф-повар Ренцо Гарибальди о мясных блюдах в России

Ренцо рассказал нам обо всех тонкостях своей профессии

Cosmopolitan
Игра на выбывание: кто покинул список Forbes в 2018 году Игра на выбывание: кто покинул список Forbes в 2018 году

Из списка богатейших бизнесменов России выбыли 15 человек

Forbes
Тайна организации Тайна организации

Сама идея управления временем за последнее время слегка изменилась

Добрые советы
Эпоха рассрочки. Почему россияне стали чаще брать кредиты в торговых сетях Эпоха рассрочки. Почему россияне стали чаще брать кредиты в торговых сетях

За прошлый год рынок POS-кредитования вырос на 20%

Forbes
Гормон мне друг? Гормон мне друг?

Как гормоны влияют на наше настроение, вес и качество кожи​​​​​​​

Cosmopolitan
Цвет общества Цвет общества

На­след­ник неф­тя­ных мил­ли­ар­дов Джо Гет­ти и его же­на Са­би­на

Vogue
10 ключей к здоровой и счастливой жизни 10 ключей к здоровой и счастливой жизни

Здоровый образ жизни — это больше, чем просто спорт и правильное питание

Psychologies
Самая дорогая еда в мире Самая дорогая еда в мире

Подборка самой дорогой еды в мире. Но вот самая ли она вкусная?

Cosmopolitan
Точка невозврата: как прошла выставка ART.WHO.DARK в Москве Точка невозврата: как прошла выставка ART.WHO.DARK в Москве

Экспериментальный смотр восходящего искусства

Cosmopolitan
Гормон мне  друг?  Как связаны внешность и гормоны Гормон мне  друг?  Как связаны внешность и гормоны

Поговорим о гормонах, которые влияют на внешность и настроение

Cosmopolitan
Основатели Lamoda: «Мы хотим стать номером один на рынке моды в СНГ» Основатели Lamoda: «Мы хотим стать номером один на рынке моды в СНГ»

Четверо молодых немцев пришли осваивать рынок онлайн-торговли в России

Esquire
Черная кошка, розовая пантера Черная кошка, розовая пантера

В истории «Розовых пантер» интересно и необычно все

Maxim
Детокс от регулятора. Можно ли из плохого банка сделать хороший Детокс от регулятора. Можно ли из плохого банка сделать хороший

ЦБ давно вынашивал идею создания банка плохих долгов

Forbes
Карта, деньги, «Винзавод»: стал ли арт-кластер супругов Троценко успешным бизнес-проектом Карта, деньги, «Винзавод»: стал ли арт-кластер супругов Троценко успешным бизнес-проектом

Как частный центр современного искусства Москвы зарабатывает на искусстве

Forbes
Как устроен боулинг Как устроен боулинг

Какие непростые механизмы скрываются за кулисами боулинга

Популярная механика
Тэнди Ньютон: “Мир Дикого Запада” по сравнению реальностью — это детский лепет” Тэнди Ньютон: “Мир Дикого Запада” по сравнению реальностью — это детский лепет”

Актриса Тэнди Ньютон рассказала Esquire о втором сезоне «Мира Дикого Запада»

Esquire
Открыть в приложении