«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новый метод поиска экзопланет помог найти суперземлю в обитаемой зоне Новый метод поиска экзопланет помог найти суперземлю в обитаемой зоне

Астрономы впервые обнаружили суперземлю Kepler-725c в зоне солнцеподобной звезды

ТехИнсайдер
Как правильно готовить блины — рассказывают шефы московских ресторанов Как правильно готовить блины — рассказывают шефы московских ресторанов

Как же все-таки стоит готовить главный русский фастфуд?

Правила жизни
Режиссер Алексей Мартынов — о смысле существования Мастерской Брусникина Режиссер Алексей Мартынов — о смысле существования Мастерской Брусникина

Режиссер Алексей Мартынов — о необходимости в какой-то момент опираться на себя

РБК
Как жить, когда спокойно не сидится: жизнь с СДВГ Как жить, когда спокойно не сидится: жизнь с СДВГ

Как облегчить жизнь, если вы обнаружили у себя синдром дефицита внимания?

ТехИнсайдер
Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья

Как электронная медицина спасает сотни деревьев?

Правила жизни
«Да просто сделай уже это»: почему сериал «Терапия» не спасает даже Харрисон Форд «Да просто сделай уже это»: почему сериал «Терапия» не спасает даже Харрисон Форд

«Терапия»: почему правила ситкомов не работают в реальном мире

Forbes
Потерянный рай Потерянный рай

Имя 20-летнего Марка Эйдельштейна громко прозвучало в 2022 году

OK!
Критикан, эгоист, агрессор или социопат? Что говорит о мужчине ваш первый секс — поясняет психолог Критикан, эгоист, агрессор или социопат? Что говорит о мужчине ваш первый секс — поясняет психолог

Выдать отрицательные черты характера могут даже мелочи

Psychologies
Сергей Карпищенко: «Есть люди болезненные и менее болезненные. Это зависит не только от состояния иммунитета, но и от климата, условий жизни, питания, и многих других причин» Сергей Карпищенко: «Есть люди болезненные и менее болезненные. Это зависит не только от состояния иммунитета, но и от климата, условий жизни, питания, и многих других причин»

Доктор наук отвечает на важные вопросы на тему оториноларингологии

Здоровье
Как и почему появляются родинки на теле? Как и почему появляются родинки на теле?

Родинки — сигнал нашего тела о каких-то внутренних процессах?

ТехИнсайдер
Архитектура Школы будущего | The Architecture of the School of the Future Архитектура Школы будущего | The Architecture of the School of the Future

Что должен учитывать архитектор, проектируя Школу будущего?

Позитивные изменения
Место для мечты Место для мечты

Самый ценный подарок, который вы можете себе сделать — взять и осуществить мечту

Men Today
Импорт в гостях у импортозамещения Импорт в гостях у импортозамещения

Прогнозы российского импорта на следующие три года значительно улучшены

Деньги
Альбом талантов Альбом талантов

У вас есть ощущение, что в жизни чего-то не хватает, но непонятно, что это?

Psychologies
Оскар: история, номинации, лауреаты. Полный гид по кинопремии Оскар: история, номинации, лауреаты. Полный гид по кинопремии

Полный гид по кинопремии "Оскар"

Правила жизни
8 фильмов для тех, кому понравился (или не понравился) «Вавилон» 8 фильмов для тех, кому понравился (или не понравился) «Вавилон»

Фильмы, посвященные истории Голливуда начала XX века

Правила жизни
Калейдоскоп секса Калейдоскоп секса

Как события 2020-х годов сказались на желаниях людей, обращенных друг к другу

Men Today
Любовь по расчёту Любовь по расчёту

Инвестиции в искусство — одна из возможностей диверсифицировать свой портфель

Robb Report
Как узнать, где находится ваш ребенок: простой способ от Google Как узнать, где находится ваш ребенок: простой способ от Google

Собственные средства родительского контроля есть и у самой Google

CHIP
Что известно о новом креативном директоре Louis Vuitton Фаррелле Уильямсе Что известно о новом креативном директоре Louis Vuitton Фаррелле Уильямсе

Какие модные проекты запускал Фаррелл Уильямс параллельно с музыкальной карьерой

СНОБ
В королевстве кривых зеркал: как воспитывают детей матери-нарциссы В королевстве кривых зеркал: как воспитывают детей матери-нарциссы

Что такое травма оценки и как работает нарциссическое расширение родителя

Psychologies
«Диван, чемодан, саквояж...» Что можно провозить в ручной клади и какие вещи нельзя брать с собой в самолетан, чемодан, саквояж... «Диван, чемодан, саквояж...» Что можно провозить в ручной клади и какие вещи нельзя брать с собой в самолетан, чемодан, саквояж...

Что можно и что нельзя перевозить в ручной клади в самолете

ТехИнсайдер
Экзотические домашние животные в квартире Экзотические домашние животные в квартире

Отважиться завести домашнее животное непросто, а экзотическое – сложнее вдвойне

Здоровье
Год без лета Год без лета

Извержение вулкана Тамбора в 1815 году стало самым мощным в истории человечества

Вокруг света
И спасет нас всех только любовь. Классический фильм Вима Вендерса «Небо над Берлином» И спасет нас всех только любовь. Классический фильм Вима Вендерса «Небо над Берлином»

Почему «Небо над Берлином» входит в лучшие фильмы за всю историю кинематографа

СНОБ
Дада-люди Дада-люди

Как The Yes Men превратили фейк в искусство

Weekend
Стесняетесь идти в спортзал? Вот несколько тактик, чтобы поверить в себя Стесняетесь идти в спортзал? Вот несколько тактик, чтобы поверить в себя

Советы, как преодолеть стеснение перед спортзалом

ТехИнсайдер
Лучше соображать, изменить отношение к жизни и стать счастливее: какое занятие помогает так развивать мозг Лучше соображать, изменить отношение к жизни и стать счастливее: какое занятие помогает так развивать мозг

Что происходит с нашим мозгом в тот период, когда мы изучаем иностранный язык?

Psychologies
Из мужской в женскую: 8 фактов о юбке, которые должны знать все, кто ее носит Из мужской в женскую: 8 фактов о юбке, которые должны знать все, кто ее носит

Краткая история юбки от древности до наших дней

Вокруг света
Папа Карло и его команда Папа Карло и его команда

«Команда генерала»: история «свинцовых 70-х», рассказанная 40 лет спустя

Weekend
Открыть в приложении