Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Осторожно, опасные продукты: что можно, а что нельзя класть в кошачью миску Осторожно, опасные продукты: что можно, а что нельзя класть в кошачью миску

Какие продукты нужны кошкам и почему лакомства стоит строго дозировать

СНОБ
Больше чем поэт Больше чем поэт

Интервью с русским поэтом и музыкантом Дельфином

Esquire
«Водородная эйфория» закончилась: почему этот источник энергии не спасет планету «Водородная эйфория» закончилась: почему этот источник энергии не спасет планету

Почему «водородная энергия» оказалась лишь иллюзией?

Forbes
Радуга подарков Hermès Радуга подарков Hermès

Чайные пары, вазы, шкатулки, скульптуры, подносы, ключницы от Hermès

Vogue
7 вещей, которые никогда не делают счастливые люди 7 вещей, которые никогда не делают счастливые люди

Эксперт по счастью: 7 вещей, которые никогда не делают счастливые люди

Inc.
Партия против народа. Почему Армению ждет обострение конфликта Партия против народа. Почему Армению ждет обострение конфликта

Ситуация в Армении продолжит накаляться

Forbes
Желаю любви и радости! Желаю любви и радости!

Что может сделать каждый, кто хочет улучшить свое состояние?

Psychologies
Сила искусства: самые дорогие работы в коллекциях российских бизнесменов Сила искусства: самые дорогие работы в коллекциях российских бизнесменов

Миллиардеры из списка Forbes могут потягаться с лучшими музеями мира

Forbes
Оумуамуа, или 1I/2017 U1: первый объект, прилетевший с другой звезды Оумуамуа, или 1I/2017 U1: первый объект, прилетевший с другой звезды

Солнечную систему посетил объект, прилетевший к нам от другой звезды

Популярная механика
Меркель едет к Трампу. Германия может потерять €1,5 млрд от новых санкций США Меркель едет к Трампу. Германия может потерять €1,5 млрд от новых санкций США

70% немецких компаний рассчитывают сохранить активность и инвестиции

Forbes
Звездопад по заказу Звездопад по заказу

Японский стартап ALE хочет ввести моду на запуск искусственных метеоров

РБК
Странные, неудачные и позорные фото, которые звезды хотели бы забыть Странные, неудачные и позорные фото, которые звезды хотели бы забыть

Что чувствуют знаменитости, чей позор разлетается по всему миру

Cosmopolitan
Girl in Vogue: Нина Гомиашвили Girl in Vogue: Нина Гомиашвили

Нина Гомиашвили рассказала Vogue о своей моде

Vogue
Особый взгляд Вадима Верника: Такая, какая есть Особый взгляд Вадима Верника: Такая, какая есть

Ирина Горбачёва стала звездой благодаря Instagram

OK!
Где проходят границы измены Где проходят границы измены

Несколько историй об изменах и комментарии психологов

Psychologies
Палеоядерная бомба: как Луна образовалась благодаря ядерной реакции Палеоядерная бомба: как Луна образовалась благодаря ядерной реакции

Альтернативные гипотезы происхождения Луны

Популярная механика
9 признаков благополучия беременности 9 признаков благополучия беременности

Правильно ли развивается беременность?

9 месяцев
«Наша прелесть»: как общаться с родителями, помешанными на детях? «Наша прелесть»: как общаться с родителями, помешанными на детях?

Как поехать в гости и не поссориться?

Psychologies
В космос из гаража В космос из гаража

Космические стартапы делают ставку на легкие ракеты и производство в регионах

РБК
На волне: 4 способа повторить укладку подружки серфера самостоятельно На волне: 4 способа повторить укладку подружки серфера самостоятельно

Beach waves, пляжные локоны, — одна из самых модных укладок этого лета

Cosmopolitan
Заехали в тупик. Как ОСАГО стало убыточным для страховых компаний Заехали в тупик. Как ОСАГО стало убыточным для страховых компаний

В прошлом году страховые компании ушли в глубокий минус

Forbes
Вокалистка и ударница Вокалистка и ударница

Ве­ра Бреж­не­ва рассказывает о том, как все успеть и не сломаться

Glamour
Как бывший чиновник придумал «умное» кольцо и заполучил в клиенты метро и банки Как бывший чиновник придумал «умное» кольцо и заполучил в клиенты метро и банки

PayRing. Производство колец для бесконтактных платежей

РБК
10 шведских автомобилей, о которых вы ничего не знали 10 шведских автомобилей, о которых вы ничего не знали

Шведский автопром кроме «Вольво», «Сааб» и «Скания»

Популярная механика
Эмили Блант: “Мужчины хотят снимать фильмы о сильных женщинах” Эмили Блант: “Мужчины хотят снимать фильмы о сильных женщинах”

Эмили Блант — о новом проекте и о том, как совмещать личную жизнь и работу

Esquire
Детокс от регулятора. Можно ли из плохого банка сделать хороший Детокс от регулятора. Можно ли из плохого банка сделать хороший

ЦБ давно вынашивал идею создания банка плохих долгов

Forbes
Следуй за мной: можно ли предотвратить ущерб от инсайдерской торговли Следуй за мной: можно ли предотвратить ущерб от инсайдерской торговли

Банк России уличил в инсайдерской торговле трейдера

Forbes
Екатерина Климова. Обыкновенное чудо Екатерина Климова. Обыкновенное чудо

Интервью с Екатериной Климовой

Караван историй
Берегись электромобиля. Как вернуть доверие пассажиров к беспилотному транспорту Берегись электромобиля. Как вернуть доверие пассажиров к беспилотному транспорту

В безопасности технологии самоуправляемых транспортных средств есть сомнения

Forbes
Правила здорового сна: уберите от кровати гаджеты и яблоки Правила здорового сна: уберите от кровати гаджеты и яблоки

Удается ли вам спать достаточное количество часов?

Psychologies
Открыть в приложении