Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Салман Рушди: «Нож». Отрывок из новой книги писателя Салман Рушди: «Нож». Отрывок из новой книги писателя

Генетика против рака: как клеточная инженерия спасла жизнь Эмили Уайтхед

СНОБ
Стиль в клипе A$AP Forever Стиль в клипе A$AP Forever

Коллаборация Pretty Flacko и Moby не только звучит, но и смотрится красиво

Esquire
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
Ты просто космос... Ты просто космос...

Актер Антон Филипенко

OK!
Антиоксиданты: зачем они нужны и где их искать Антиоксиданты: зачем они нужны и где их искать

Какие продукты стоит внести в меню, чтобы поддерживать тело в тонусе?

Правила жизни
Муки выбора: Q5 или SQ5 Муки выбора: Q5 или SQ5

Мука выбора ждет каждого, если вы решили купить среднеразмерный внедорожник

Популярная механика
Предсказуемая опасность. Почему МЧС не может закрыть торговые центры с нарушениями Предсказуемая опасность. Почему МЧС не может закрыть торговые центры с нарушениями

Как арендаторы могут защитить себя в случае нештатной ситуации?

Forbes
Бывает ли друзей слишком много? Бывает ли друзей слишком много?

Сколько друзей нам нужно для счастья?

Psychologies
Дым сигарет с метанолом: новички в рейтинге Forbes Дым сигарет с метанолом: новички в рейтинге Forbes

Рейтинг богатейших людей России пополнился

Forbes
Я бы на вашем месте Я бы на вашем месте

Все об эмпатии, или умении понимать внутреннее состояние другого человека

Добрые советы
Творчество в режиме онлайн Творчество в режиме онлайн

С каждым днем онлайн-обучение набирает все новые и новые обороты

Cosmopolitan
Чем женский мозг отличается от мужского? Чем женский мозг отличается от мужского?

Психолог Адриана Имж предлагает решить гендерный вопрос с научной точки зрения

СНОБ
Как Пабло Пикассо изображал любимых женщин Как Пабло Пикассо изображал любимых женщин

Какими были на самом деле любимые женщины Пикассо

Vogue
Ракетопланы для науки и сражений: советский орбитальный истребитель Ракетопланы для науки и сражений: советский орбитальный истребитель

Наши конструкторы создавали проекты удивительных летательных аппаратов

Популярная механика
Максим Фадеев Максим Фадеев

Правила жизни музыкального продюсера Максима Фадеева

Esquire
Ради тишины и чистоты Ради тишины и чистоты

Корабли на электричестве покоряют фьорды Норвегии

Популярная механика
Химчистка: умный подход Химчистка: умный подход

Рассказываем о тонкостях, а также даем полезные советы – бери на заметку!

Лиза
Канье Уэст пишет книгу о философии прямо в твиттере Канье Уэст пишет книгу о философии прямо в твиттере

Это не финансовая возможность, а врожденная потребность в выражении

Esquire
Сказка странствий Сказка странствий

Дизайнер Алексей Бочков придумал эклектичный дом

AD
Исландия: медитация на Луне Исландия: медитация на Луне

Фантастические пейзажи Исландии пленяют с первого взгляда

Psychologies
Продажный соискатель: чем образ хорошего работодателя бывает полезен бизнесу Продажный соискатель: чем образ хорошего работодателя бывает полезен бизнесу

Какие преимущества дает правильный имидж компании-работодателя на рынке труда?

Forbes
Настоящие Рапунцели: взлет и падение длинноволосых сестер Сазерлэнд Настоящие Рапунцели: взлет и падение длинноволосых сестер Сазерлэнд

Во времена, когда не было кино, люди развлекались другими способами

Cosmopolitan
В ожидании чуда: что происходит с российскими светофорами В ожидании чуда: что происходит с российскими светофорами

В России увеличилось время ожидания на светофоре

Forbes
Четыре причины завести дневник этой весной Четыре причины завести дневник этой весной

Взрослые и подростки, которые ведут дневник, легче засыпают, меньше нервничают

Psychologies
Кино стирает границы Кино стирает границы

Звезды на ММКФ

OK!
Быть женой миллиардера: правила жизни пианистки Элен Мерсье-Арно Быть женой миллиардера: правила жизни пианистки Элен Мерсье-Арно

Элен Мерсье-Арно — о приемах в тайм-менеджменте и знакомстве со своим мужем

Forbes
Стивен Содерберг: “Кино — это мой спорт” Стивен Содерберг: “Кино — это мой спорт”

В прокате “Не в себе” — триллер Стивена Содерберга

Esquire
7 способов провести досуг с пользой для мозга 7 способов провести досуг с пользой для мозга

Вы тренируете свой мозг во время этих занятий

Популярная механика
Ароматы империи Ароматы империи

Как в России развивалось производство косметики и парфюмерии

Forbes
Май в Таиланде Май в Таиланде

Таиланд прекрасен в любое время года

Домашний Очаг
Открыть в приложении