«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему Марс красный? Ученые связали это с наличием воды в прошлом планеты! Почему Марс красный? Ученые связали это с наличием воды в прошлом планеты!

Почему знаменитая Красная планета именно такая? Ученые, похоже, нашли объяснение

ТехИнсайдер
Самый ценный игрок: как Леброн Джеймс стал первым миллиардером в баскетболе Самый ценный игрок: как Леброн Джеймс стал первым миллиардером в баскетболе

Леброн Джеймс стал миллиардером, все еще находясь в статусе играющего спортсмена

Forbes
Аристократы и юмор: как Джилли Купер создала бестселлеры о высшем обществе Британии Аристократы и юмор: как Джилли Купер создала бестселлеры о высшем обществе Британии

Как Джилли Купер изменила отношение британцев к любовным романам

Forbes
Как одеваться девушкам невысокого роста: советы профессионального стилиста Как одеваться девушкам невысокого роста: советы профессионального стилиста

Гид по стайлингу для Дюймовочек от профессионального стилиста

VOICE
Первая минута Первая минута

Как заставить начало разговора работать на результат

kiozk originals
Эпоха маркизы Помпадур: как фаворитка Людовика XV стала версальской Шахерезадой Эпоха маркизы Помпадур: как фаворитка Людовика XV стала версальской Шахерезадой

История фаворитки, вынудившей политиков всерьез рассуждать об эпохе Помпадур

Вокруг света
Дворцы, пещеры, горящая гора: 5 причин отправиться в Иран Дворцы, пещеры, горящая гора: 5 причин отправиться в Иран

Начать знакомство с Ираном можно со столицы и ближайших окрестностей

Вокруг света
Страшное бессилие Страшное бессилие

«Раневская»: попытка биографии

Weekend
Почему некоторые женщины носят хиджаб? Простое объяснение Почему некоторые женщины носят хиджаб? Простое объяснение

Как связаны ислам и хиджаб

ТехИнсайдер
Любовь по расчёту Любовь по расчёту

Инвестиции в искусство — одна из возможностей диверсифицировать свой портфель

Robb Report
Москва vs Петербург: краткая история пончика и пышки Москва vs Петербург: краткая история пончика и пышки

Чем отличается вкус пышек и пончиков?

СНОБ
Смогут ли собаки выжить в мире без людей Смогут ли собаки выжить в мире без людей

Кажется, что собаки будут совершенно беспомощны в мире без людей

ТехИнсайдер
Фобии Кидман, Йоханссон и других: туалеты, авокадо и сморщенные пальцы - что пугает голливудских звезд Фобии Кидман, Йоханссон и других: туалеты, авокадо и сморщенные пальцы - что пугает голливудских звезд

У наших кумиров есть очень странные фобии

VOICE
«Жёсткий откат на десять лет назад» или «пятилетка за два года»: три истории от айтишников, уехавших работать в Берлин «Жёсткий откат на десять лет назад» или «пятилетка за два года»: три истории от айтишников, уехавших работать в Берлин

О легализации и бюрократии, а также поиске жилья, быте и ИТ-сфере в Германии

VC.RU
Дислексия: проблема интеллекта или признак творческой личности Дислексия: проблема интеллекта или признак творческой личности

Ребенок пишет с наклоном в другую сторону или держит ручку не так, как все?

ТехИнсайдер
«Женщины войны»: сериал о героинях, которым приходится бороться на два фронта «Женщины войны»: сериал о героинях, которым приходится бороться на два фронта

«Женщины войны» — история героинь, которые встречаются осенью 1914 года

Forbes
Чуть не съела акула: звезды, которые едва не погибли в самых опасных ситуациях Чуть не съела акула: звезды, которые едва не погибли в самых опасных ситуациях

Этим звездам повезло выжить, хотя они были на волосок от смерти

VOICE
Жир для похудения: самые полезные жирные продукты, которые помогают наладить обмен веществ — добавь их в меню Жир для похудения: самые полезные жирные продукты, которые помогают наладить обмен веществ — добавь их в меню

Продукты, богатые полезными натуральными жирами

VOICE
Режиссер-однолюб: как Вадим Абдрашитов всю жизнь прожил с одной женой Режиссер-однолюб: как Вадим Абдрашитов всю жизнь прожил с одной женой

Вспоминаем жизнь режиссера Вадима Абдрашитов

VOICE
Владимир Коренев: о поворотах судьбы, дружбе с Гагариным и любви всей его жизни Владимир Коренев: о поворотах судьбы, дружбе с Гагариным и любви всей его жизни

Про Ихтиандра я узнал в детстве — от своего дяди. Абсолютно слепого

Караван историй
Потерянный рай Потерянный рай

Имя 20-летнего Марка Эйдельштейна громко прозвучало в 2022 году

OK!
Свободная касса Свободная касса

Как стать фрилансером и не жалеть об этом каждый месяц

VOICE
Весна патриарха Весна патриарха

Как Карл Теодор Дрейер отрекся от датского кино, чтобы стать его главной фигурой

Weekend
Источником темной энергии могут быть черные дыры Источником темной энергии могут быть черные дыры

К картине Вселенной не нужно добавлять нового, чтобы объяснить темную энергию

ТехИнсайдер
Красные флаги: восемь поводов сменить инвестиционного советника Красные флаги: восемь поводов сменить инвестиционного советника

Как выбрать инвестиционного советника и на что обратить внимание?

Forbes
Символ небогатой жизни: почему страны, где растет кокос, считаются бедными Символ небогатой жизни: почему страны, где растет кокос, считаются бедными

Есть ли связь между кокосами и бедностью?

ТехИнсайдер
Посмотрите на удивительные фотографии золотоискателей США из 19 века! Посмотрите на удивительные фотографии золотоискателей США из 19 века!

Все слышали про знаменитую «золотую лихорадку» в Америке. Вот как она выглядела

ТехИнсайдер
35 вопросов, которые помогут вам лучше узнать близкого человека 35 вопросов, которые помогут вам лучше узнать близкого человека

Часто нам кажется, что о самых близких нам людях мы знаем буквально все

Psychologies
Почему затопили легендарную атомную субмарину «Дмитрий Донской»: подлодка, ставшая кошмаром США Почему затопили легендарную атомную субмарину «Дмитрий Донской»: подлодка, ставшая кошмаром США

Зачем подводная лодка «Дмитрий Донской» была выведена из эксплуатации

ТехИнсайдер
Как пережить расставание с любимым человеком? 7 советов для излечения травмы Как пережить расставание с любимым человеком? 7 советов для излечения травмы

Поэтапный план излечения от травмы после расставания

VOICE
Открыть в приложении