«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью Новые методы помогут искать воду в лунных кратерах и глубоко под поверхностью

Ученые пытаются определить, где и сколько льда находится на Луне

ТехИнсайдер
Ждем потепление Ждем потепление

Как быстро восстановить кожу

Собака.ru
Я — сноб: пианист и композитор Риад Маммадов Я — сноб: пианист и композитор Риад Маммадов

Пианист и композитор Риад Маммадов — о синтезе Востока и Запада в музыке

СНОБ
Сергей Шакуров: «Мой главный принцип в жизни — не спешить. Кто верит, тот не торопится» Сергей Шакуров: «Мой главный принцип в жизни — не спешить. Кто верит, тот не торопится»

Я мог бы заниматься спортом и быть тренером. А еще стать циркачом

Коллекция. Караван историй
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
Колесо эмоций Роберта Плутчика: как разобраться в себе — используйте простой инструмент Колесо эмоций Роберта Плутчика: как разобраться в себе — используйте простой инструмент

Рассказываем о простом инструменте, который помогает ориентироваться в эмоциях

Psychologies
Кто такая «кузькина мать» и еще 6 крылатых выражений, историю которых мы безвозвратно забыли Кто такая «кузькина мать» и еще 6 крылатых выражений, историю которых мы безвозвратно забыли

Вспоминаем историю популярных крылатых выражений

Вокруг света
Исследование: ежедневное употребление двух или более чашек кофе при гипертонии может удвоить риск смерти Исследование: ежедневное употребление двух или более чашек кофе при гипертонии может удвоить риск смерти

Как связаны кофе и сердечно-сосудистые заболевания?

Inc.
«Женщины войны»: сериал о героинях, которым приходится бороться на два фронта «Женщины войны»: сериал о героинях, которым приходится бороться на два фронта

«Женщины войны» — история героинь, которые встречаются осенью 1914 года

Forbes
Принцип экономии в живых системах: посмотрим на метаболиты Принцип экономии в живых системах: посмотрим на метаболиты

Живые организмы развились из сравнительно простых молекулярных структур

Наука и жизнь
Глина навсегда: посмотрите на 7 впечатляющих керамических артефактов Глина навсегда: посмотрите на 7 впечатляющих керамических артефактов

Дошедшие до нас горшки и другие сосуды могут поведать много интересного

Вокруг света
Нэпманы и воры: какими изображали предпринимателей в советском кино Нэпманы и воры: какими изображали предпринимателей в советском кино

Cамые характерные советские фильмы на экономическую тему

Forbes
Не только «Она»: 10 фильмов об отношениях между людьми и искусственным интеллектом Не только «Она»: 10 фильмов об отношениях между людьми и искусственным интеллектом

Фильмы об отношениях людей с ИИ

Правила жизни
Сериал «Раневская»: как Фаина Фельдман стала великой актрисой вопреки всем преградам Сериал «Раневская»: как Фаина Фельдман стала великой актрисой вопреки всем преградам

Какой сложный путь к славе проделала Фаина Раневская

Forbes
Обману не подлежит Обману не подлежит

Жизнь после измены: спасать семью или заняться собой?

VOICE
Магнитно-резонансное дело: как в Бразилии пистолет застрелил владельца в кабинете МРТ? Магнитно-резонансное дело: как в Бразилии пистолет застрелил владельца в кабинете МРТ?

Почему игнорирование правил безопасности может сыграть с нами злую шутку

Вокруг света
Нам только спросить Нам только спросить

Все отношения разные, но вопросы, которые возникают в них, похожи

VOICE
Татьяна Устинова: «Любого придуманного героя еще надо оживить...» Татьяна Устинова: «Любого придуманного героя еще надо оживить...»

Я люблю свою работу за то, что открываю ноутбук и оказываюсь там, где хочется

Коллекция. Караван историй
Разобраться в механизме: как лечение редких заболеваний помогает развитию медицины Разобраться в механизме: как лечение редких заболеваний помогает развитию медицины

Почему от качества лечения редких заболеваний зависит будущее медицины

Forbes
Ловушка эффективности: почему 24 часов в сутках никогда не хватает Ловушка эффективности: почему 24 часов в сутках никогда не хватает

Отрывок из книги «Четыре тысячи недель: тайм-менеджмент для смертных»

Inc.
13 ложных признаков успешного человека 13 ложных признаков успешного человека

Люди обожают притворяться богатыми и счастливыми

Maxim
Отрывок из романа Колсона Уайтхеда «Мальчишки из “Никеля”» Отрывок из романа Колсона Уайтхеда «Мальчишки из “Никеля”»

Отрывок из романа, основанного на реальных событиях, о стойкости и искуплении

СНОБ
Как живут люди с синдромом Аспергера Как живут люди с синдромом Аспергера

Что такое синдром Аспергера?

ТехИнсайдер
Режиссер-однолюб: как Вадим Абдрашитов всю жизнь прожил с одной женой Режиссер-однолюб: как Вадим Абдрашитов всю жизнь прожил с одной женой

Вспоминаем жизнь режиссера Вадима Абдрашитов

VOICE
«Полимат» «Полимат»

История универсальных людей от Леонардо да Винчи до Сьюзен Сонтаг

N+1
Три истории чудесных спасений в жутких авиакатастрофах Три истории чудесных спасений в жутких авиакатастрофах

Три случая, когда авиакатастрофы закончились хорошо!

Maxim
Надо ли разговаривать с рассадой? Надо ли разговаривать с рассадой?

Кто же поверит, что цветы будут расти лучше, если с ними разговаривать?

Наука и жизнь
Все идет по плану: почему Егор Летов и сегодня живее всех живых Все идет по плану: почему Егор Летов и сегодня живее всех живых

Каким человеком и музыкантом был Летов и чем он цепляет совершенно разных людей

Forbes
«Давай разведемся»: 5 случаев, когда брак лучше не сохранять «Давай разведемся»: 5 случаев, когда брак лучше не сохранять

Как понять, что вам пора подавать на развод?

Psychologies
Поговори мне тут: как происходит революция в мире ИИ Поговори мне тут: как происходит революция в мире ИИ

Почему нейросети стали походить на людей?

РБК
Открыть в приложении