Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Трезвые разговоры в баре: Манойло и Канделаки Трезвые разговоры в баре: Манойло и Канделаки

Каково сниматься в адаптации турецкого сериала и как не разочаровать маму

СНОБ
Танцующая с булавами: как одевается гимнастка Маргарита Мамун Танцующая с булавами: как одевается гимнастка Маргарита Мамун

Как одевается спортсменка Маргарита Мамун в обычной жизни

Cosmopolitan
Велосипеды, ткацкие станки и кофемолки: что выпускали известные автомобильные бренды до машин Велосипеды, ткацкие станки и кофемолки: что выпускали известные автомобильные бренды до машин

С каких товаров начинали свой путь автомобильные гиганты?

ТехИнсайдер
Лера Кудрявцева: «Мы, девочки, должны видеть наших защитников на льду, в сражени Лера Кудрявцева: «Мы, девочки, должны видеть наших защитников на льду, в сражени

Интервью с Лерой Кудрявцевой

Cosmopolitan
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Крутое пике. Акции компаний Олега Дерипаски пострадали из-за санкций больше всех Крутое пике. Акции компаний Олега Дерипаски пострадали из-за санкций больше всех

Бумаги «Русала» и En+ Group Олега Дерипаски упали на 12% и 20% соответственно

Forbes
«Русал» Дерипаски опасается дефолта из-за санкций США «Русал» Дерипаски опасается дефолта из-за санкций США

Акции компании «Русал» на Гонконгской бирже упали в цене на 50%

Forbes
Замуж за Чикатило: жены маньяков, которые ни о чем не подозревали Замуж за Чикатило: жены маньяков, которые ни о чем не подозревали

Все эти женщины уверяли, что не имели понятия о том, с кем на самом деле живут

Cosmopolitan
Золотая антилопа: как научиться правильному отношению к деньгам Золотая антилопа: как научиться правильному отношению к деньгам

Часто российские предприниматели допускают те же ошибки, что и жадный Раджа

Forbes
Астрофизики впервые рассмотрели, как из чёрной дыры рождается джет Астрофизики впервые рассмотрели, как из чёрной дыры рождается джет

Визуализация образования струи плазмы в окрестности массивной чёрной дыры

Популярная механика
Стресс-тест для экономики: рубль ищет новую точку опоры Стресс-тест для экономики: рубль ищет новую точку опоры

Рост геополитической напряженности заставил экономику и рубль сдать позиции

Forbes
Van Cleef & Arpels. Нуреев Van Cleef & Arpels. Нуреев

Главные герои «Нуреева» и их исторические прототипы

СНОБ
Ратоборцы: что нас ждёт на Ратоборцы: что нас ждёт на

Через пару дней нас ждет в Москве фестиваль «Турнир святого Георгия»

Популярная механика
Позиционное преимущество Позиционное преимущество

Что женщины на самом деле думают о самых популярных сексуальных позах

Maxim
199-летний попугай и 9 других долгожителей животного мира 199-летний попугай и 9 других долгожителей животного мира

Перед вами 10 животных, проживших невероятно долгие годы

Популярная механика
На Золотом кольце… На Золотом кольце…

Вокруг небольшого городка Иваново есть что посмотреть

Лиза
Танки против крепостей Танки против крепостей

Миф об уничтоженных танковых армиях на улицах Берлина

Популярная механика
Бонды замедленного действия. Что ждет держателей облигаций UC Rusal Бонды замедленного действия. Что ждет держателей облигаций UC Rusal

Хватит ли у UC Rusal запаса прочности, чтобы расплатиться с инвесторами

Forbes
Команда МГУ впервые стала чемпионом мира по программированию Команда МГУ впервые стала чемпионом мира по программированию

В международном соревновании по программированию победила российская команда

Forbes
Если б я был султан: как живут многоженцы в США Если б я был султан: как живут многоженцы в США

Американским традициям чужда полигамия, однако некоторые мужчины ее выбирают

Cosmopolitan
Самое страшное в жителях КНДР — их бесстрашие Самое страшное в жителях КНДР — их бесстрашие

О том, как устроено мышление жителя тоталитарного общества

СНОБ
Носите тренчи, как у героинь стритстайла Носите тренчи, как у героинь стритстайла

Все секреты героинь стритстайла и в каких тренчах ходить этой весной

Vogue
Времена НЭПа — самая развратная эпоха в СССР Времена НЭПа — самая развратная эпоха в СССР

Конец эпохи привел за собой невероятное — первую сексуальную революцию СССР

Cosmopolitan
Бытовые метаморфозы Бытовые метаморфозы

Привычные артефакты автомобильного интерьера могут вообще исчезнуть

Quattroruote
Черный Георгин: убийство, которое потрясло весь мир, до сих пор не разгадано Черный Георгин: убийство, которое потрясло весь мир, до сих пор не разгадано

Ее мечтам не суждено было осуществиться. Кто-то взял и разрезал ее пополам

Cosmopolitan
Гравитационная могила: почему обитатели иных миров не могут улететь в космос Гравитационная могила: почему обитатели иных миров не могут улететь в космос

Астрономы уделяют пристальное внимание супер-Землям

Популярная механика
Карта, деньги, «Винзавод»: стал ли арт-кластер супругов Троценко успешным бизнес-проектом Карта, деньги, «Винзавод»: стал ли арт-кластер супругов Троценко успешным бизнес-проектом

Как частный центр современного искусства Москвы зарабатывает на искусстве

Forbes
Четыре причины завести дневник этой весной Четыре причины завести дневник этой весной

Взрослые и подростки, которые ведут дневник, легче засыпают, меньше нервничают

Psychologies
Отрывок из новой книги-раскраски Чака Паланика «Наследие» Отрывок из новой книги-раскраски Чака Паланика «Наследие»

В апреле выходит новая книга-раскраска Чака Паланика «Наследие»

Esquire
«История любой успешной компании — это всегда история в том числе и ее ошибок» «История любой успешной компании — это всегда история в том числе и ее ошибок»

Генеральный директор «Газпромнефти» Александр Дюков поговорил с Forbes

Forbes
Открыть в приложении