Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь и читайте статьи из популярных журналов

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дружба в кисло-сладком соусе. Чем Китай может угрожать России Дружба в кисло-сладком соусе. Чем Китай может угрожать России

Возникает вопрос о возможных угрозах со стороны Китая для России

СНОБ, август'19
Что такое суперфуды и зачем они нам нужны Что такое суперфуды и зачем они нам нужны

Продукты, в которых концентрация полезных веществ превышает все показатели

Cosmopolitan, апрель'18
Новый Новый

Google представил ряд обновленных и совсем новых продуктов в своем ассортименте

Популярная механика, октябрь'19
Формула успеха: как стать большим боссом, если вы женщина Формула успеха: как стать большим боссом, если вы женщина

Советы от женщин-руководителей как продвинуться по карьерной лестнице

Forbes, апрель'18
Как и зачем людям пришлось стать мирными Как и зачем людям пришлось стать мирными

Почему человеку выгодно не быть агрессивным

Psychologies, сентябрь'19
Нико Пиросмани. Жил-был художник один Нико Пиросмани. Жил-был художник один

Бездомный гений превратил в персональную галерею почти весь город

Караван историй, май'18
Джо Демпси из “Игры престолов”: “Гребля — это совсем не мое” Джо Демпси из “Игры престолов”: “Гребля — это совсем не мое”

У Джо Демпси новый большой проект: шпионский триллер

Esquire, апрель'18
Звезда Дэвида Звезда Дэвида

Вечная наследница Дафна Гиннесс оказалась духовной дочерью Дэвида Боуи

Tatler, май'18
Португалия будет выдавать годовые мультивизы Португалия будет выдавать годовые мультивизы

Португалия упростила процедуру выдачи шенгенских виз

National Geographic, апрель'18
Устроили драмтеатр: фонд Леонида Михельсона показывает в Москве невиданное искусство Устроили драмтеатр: фонд Леонида Михельсона показывает в Москве невиданное искусство

В ММоМА открывается проект фонда V-A-C «Генеральная репетиция»

Forbes, апрель'18
Грудничок: мифы и реальность Грудничок: мифы и реальность

Насколько разумны советы, касающиеся здоровья и ухода за грудничками

9 месяцев, май'18
В ожидании чуда: что происходит с российскими светофорами В ожидании чуда: что происходит с российскими светофорами

В России увеличилось время ожидания на светофоре

Forbes, апрель'18
Племя не ждет! Племя не ждет!

В чем секрет хитов груп­пы IOWA

Glamour, май'18
Менять ли фамилию, выходя замуж: 9 моментов, которые стоит обдумать Менять ли фамилию, выходя замуж: 9 моментов, которые стоит обдумать

Сегодня никто не осудит, если вы оставите себе девичью фамилию

Psychologies, апрель'18
Дарья Яушева: Строго для родителей Дарья Яушева: Строго для родителей

Что нужно обязательно знать родителям детей с диагнозом «аутизм»

СНОБ, апрель'18
Прогноз погоды в России на майские праздники Прогноз погоды в России на майские праздники

Погода во многих местах останется прохладной и дождливой

National Geographic, апрель'18
Детокс от регулятора. Можно ли из плохого банка сделать хороший Детокс от регулятора. Можно ли из плохого банка сделать хороший

ЦБ давно вынашивал идею создания банка плохих долгов

Forbes, апрель'18
О секундах свысока О секундах свысока

Что мы вообще знаем о времени и как его воспринимаем

Добрые советы, май'18
Met Gala 2018: все, что нужно знать о главной вечеринке года Met Gala 2018: все, что нужно знать о главной вечеринке года

Met Gala 2018: о тематике, гостях и ведущих вечера, стоимости билетов и другом

Vogue, апрель'18
Что читать в апреле: выбор Psychologies Что читать в апреле: выбор Psychologies

Четыре новинки, которые наверняка понравятся любителям провести вечер с книгой

Psychologies, апрель'18
Korean Air возобновит рейсы  из Санкт-Петербурга и Иркутска в Сеул Korean Air возобновит рейсы  из Санкт-Петербурга и Иркутска в Сеул

Korean Air возобновит регулярное авиасообщение до Сеула

National Geographic, апрель'18
Глубоко в карман: США потребовали от банков доступ к счетам российских олигархов Глубоко в карман: США потребовали от банков доступ к счетам российских олигархов

Американские сенаторы пригрозили устроить расследование

Forbes, апрель'18
Смена власти: как четвертая промышленная революция меняет рынок труда Смена власти: как четвертая промышленная революция меняет рынок труда

Искусственный интеллект с успехом вытесняет специалистов

Forbes, апрель'18
Тарелка профессора Роя: бескрылый летательный аппарат Тарелка профессора Роя: бескрылый летательный аппарат

В США получен патент на «летающую тарелку»

Популярная механика, апрель'18
Двигатель самолета Southwest Airlines взорвался в воздухе, погиб пассажир Двигатель самолета Southwest Airlines взорвался в воздухе, погиб пассажир

Лайнер американской авиакомпании Southwest Airlines совершил вынужденную посадку

National Geographic, апрель'18
Что подростки думают о безопасности Что подростки думают о безопасности

Десять тинейджеров рассказали, как родители обсуждают с ними безопасность

СНОБ, апрель'18
На что будут способны ДНК-компьютеры будущего? На что будут способны ДНК-компьютеры будущего?

Перспектива развития ДНК-компьютеров

Популярная механика, апрель'18
Щупальца прогресса Щупальца прогресса

Экономическое влияние Apple, Google, Facebook и Amazon

Esquire, май'18
Зона турбулентности: как изменятся цены на недвижимость после валютных скачков Зона турбулентности: как изменятся цены на недвижимость после валютных скачков

Жилая недвижимость сумела успешно адаптироваться после девальвации

Forbes, апрель'18
Человек 4.0 Человек 4.0

Остановилась ли эволюция человека? Нет. Но принципиально изменилась

National Geographic, апрель'18