Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Трезвые разговоры в баре: Манойло и Канделаки Трезвые разговоры в баре: Манойло и Канделаки

Каково сниматься в адаптации турецкого сериала и как не разочаровать маму

СНОБ
Одолжить с умом. Как сменить депозит на облигацию и заработать больше Одолжить с умом. Как сменить депозит на облигацию и заработать больше

Как грамотно собрать портфель из долговых бумаг

Forbes
Почему телефон быстро разряжается и как это исправить: 5 простых советов Почему телефон быстро разряжается и как это исправить: 5 простых советов

Как сделать, чтобы телефон не разряжался быстро

CHIP
Авитаминоз: распознаем и ликвидируем! Авитаминоз: распознаем и ликвидируем!

Как не пропустить тревожные симптомы авитаминоза

9 месяцев
Как повысить самооценку и обрести уверенность? 11 советов психолога Как повысить самооценку и обрести уверенность? 11 советов психолога

Заниженная самооценка мешает нам строить здоровые отношения и карьеру

Psychologies
Цена санкций. Как сильно обвалится рубль Цена санкций. Как сильно обвалится рубль

С момента введения новых санкций США рубль потерял к доллару и евро более 9%

Forbes
«Чубайса в шахту, чтобы черным вылез!» К юбилею Виктора Черномырдина «Чубайса в шахту, чтобы черным вылез!» К юбилею Виктора Черномырдина

Александр Гамов — о своем многолетнем собеседнике и главном герое

СНОБ
Племя не ждет! Племя не ждет!

В чем секрет хитов груп­пы IOWA

Glamour
Дресс-код силы: как одежда помогает управлять людьми Дресс-код силы: как одежда помогает управлять людьми

Алена Долецкая о том, что такое power dressing

Psychologies
6 признаков мудрой женщины 6 признаков мудрой женщины

Что отличает мудрую женщину?

Psychologies
Меркель едет к Трампу. Германия может потерять €1,5 млрд от новых санкций США Меркель едет к Трампу. Германия может потерять €1,5 млрд от новых санкций США

70% немецких компаний рассчитывают сохранить активность и инвестиции

Forbes
От парламентаризма к демократии: особенности армянской национальной революции От парламентаризма к демократии: особенности армянской национальной революции

23 апреля 2018 года в Армении произошла революция

Forbes
Какие навыки работы с компьютером должен освоить ребенок? Какие навыки работы с компьютером должен освоить ребенок?

Какими навыками работы с офисными программами следует владеть подростку

Psychologies
Это не последние санкции против России Это не последние санкции против России

Что ждет страну через несколько лет

СНОБ
Очаровывать! Что такое истинная красота? Очаровывать! Что такое истинная красота?

Как насчет внутренней красоты? Что она дает и можно ее ли «развивать»?

Psychologies
Окно возможностей. Как технологическим стартапам выжить в эпоху санкций Окно возможностей. Как технологическим стартапам выжить в эпоху санкций

Негативные последствия для экономики молодые компании на себе почувствуют

Forbes
Конфликт поколений: чем блокировка Telegram напоминает крестовый поход детей Конфликт поколений: чем блокировка Telegram напоминает крестовый поход детей

История с ограничением доступа напоминает непонимание поколениями друг друга

Forbes
Слепой десятипальцевый метод всего: 10 навыков, которыми обязан владеть каждый мужчина Слепой десятипальцевый метод всего: 10 навыков, которыми обязан владеть каждый мужчина

Проверь, насколько хорошо ты освоил базовые функции собственных пальцев

Maxim
Главные по мусору: переработкой отходов в Подмосковье займутся структура «Ростеха» и сын генпрокурора Главные по мусору: переработкой отходов в Подмосковье займутся структура «Ростеха» и сын генпрокурора

За раздельный сбор и переработку мусора в Московской области заплатят власти

Forbes
Сочный бизнес: как заработать на здоровом питании Сочный бизнес: как заработать на здоровом питании

Как помощью домашней соковыжималки построить бизнес

Forbes
Хаски: Господин собака Хаски: Господин собака

Прошел год с тех пор, как Хаски назвали новой надеждой русского рэпа

СНОБ
Новоселье для друзей Новоселье для друзей

Все комнатные растения время от времени необходимо пересаживать

Лиза
Лори и все ее личности: кто такая Лори Эрика Рафф? Лори и все ее личности: кто такая Лори Эрика Рафф?

Зачем девушке потребовалась другая личность?

Cosmopolitan
«Мария Магдалина»: евангельский фильм с женщиной в главной роли «Мария Магдалина»: евангельский фильм с женщиной в главной роли

Рецензия на фильм "Мария Магдалина"

Esquire
Идея! Развлечься в аэропорту Идея! Развлечься в аэропорту

Когда десятый час ждешь пересадки в аэропорту, хочется даже поработать

Maxim
На волне: 4 способа повторить укладку подружки серфера самостоятельно На волне: 4 способа повторить укладку подружки серфера самостоятельно

Beach waves, пляжные локоны, — одна из самых модных укладок этого лета

Cosmopolitan
Следствие ведет... Следствие ведет...

Елизавета Боярская исполнила главную роль в новом сериале «Ворона» на НТВ

OK!
Валерия: “Шаг в пропасть, я зажмурилась и перестала дышать” Валерия: “Шаг в пропасть, я зажмурилась и перестала дышать”

Выводы, которые Валерия сделала еще до 50 лет

Psychologies
Квантовое превосходство Квантовое превосходство

В IT сложилась предреволюционная ситуация

Популярная механика
Самая дорогая еда в мире Самая дорогая еда в мире

Подборка самой дорогой еды в мире. Но вот самая ли она вкусная?

Cosmopolitan
Открыть в приложении