«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новый метод поиска экзопланет помог найти суперземлю в обитаемой зоне Новый метод поиска экзопланет помог найти суперземлю в обитаемой зоне

Астрономы впервые обнаружили суперземлю Kepler-725c в зоне солнцеподобной звезды

ТехИнсайдер
Окситоцин: панацея от всех бед Окситоцин: панацея от всех бед

Действительно ли окситоцин всемогущ?

ТехИнсайдер
6 самых безумных предметов, которые когда-либо крали 6 самых безумных предметов, которые когда-либо крали

Некоторые из самых странных вещей, которые когда-либо были украдены

ТехИнсайдер
Как понять, что вы — нарциссическая жертва? Как понять, что вы — нарциссическая жертва?

Как понять, что вы — нарциссическая жертва? И можно ли исцелиться?

Psychologies
Тревожное исследование: ChatGPT убивает наше критическое мышление Тревожное исследование: ChatGPT убивает наше критическое мышление

Чем чрезмерное использование нейросетей крайне вредно для нашего мозга

ТехИнсайдер
Музыкант, миллионер, дизайнер: как Фаррелл Уильямс получил работу в Louis Vuitton Музыкант, миллионер, дизайнер: как Фаррелл Уильямс получил работу в Louis Vuitton

На что рассчитывает французский модный дом, принимая Фаррелла Уильямса

Forbes
«Нам не нужен жрец и толкователь»: пианист Петр Айду об оркестре без дирижера «Нам не нужен жрец и толкователь»: пианист Петр Айду об оркестре без дирижера

Пианист Петр Айду — почему обычная модель симфонического оркестра устарела

Forbes
Что нужно знать перед свадьбой? Совет женщинам для важных решений в жизни Что нужно знать перед свадьбой? Совет женщинам для важных решений в жизни

Финансы, свадьба и важные решения в жизни: советы

ТехИнсайдер
По любви: можно ли сегодня стать популярным блогером без вложения денег? По любви: можно ли сегодня стать популярным блогером без вложения денег?

Можно ли сегодня сделать популярным блог, не вкладывая деньги в продвижение?

VOICE
В королевстве кривых зеркал: как воспитывают детей матери-нарциссы В королевстве кривых зеркал: как воспитывают детей матери-нарциссы

Что такое травма оценки и как работает нарциссическое расширение родителя

Psychologies
Honda Pilot 2023. Первое впечатление Honda Pilot 2023. Первое впечатление

Honda Pilot вынуждена становиться лучше, чтобы сохранять конкурентоспособность

4x4 Club
Зельфира Трегулова: «Сегодня музей – последний демократический оплот культуры» Зельфира Трегулова: «Сегодня музей – последний демократический оплот культуры»

Зельфира Трегулова о том, как сделать классический музей доступным каждому

Правила жизни
Даже целоваться! 10 вещей, которые точно нельзя делать после татуажа губ Даже целоваться! 10 вещей, которые точно нельзя делать после татуажа губ

Рассказываем о главных табу для девушек, сделавших перманентный макияж

VOICE
«Кино должно быть неудобным — как камешек в ботинке»: в каком порядке смотреть фильмы Ларса фон Триера «Кино должно быть неудобным — как камешек в ботинке»: в каком порядке смотреть фильмы Ларса фон Триера

Вместе с кинокритиками разбираемся, как начать смотреть фильмы Ларса фон Триера

Правила жизни
Стресс-код: 5 способов быстро расслабиться Стресс-код: 5 способов быстро расслабиться

Техники, которые помогут моментально успокоиться

VOICE
Эротический массаж Эротический массаж

Техники и советы, которые помогут получить удовольствие вдвоем

Лиза
Как Tesla и другие производители электромобилей используют детский труд Как Tesla и другие производители электромобилей используют детский труд

Кобальт для заводов Tesla добывают с использованием детского труда

Forbes
8 фильмов для тех, кому понравился (или не понравился) «Вавилон» 8 фильмов для тех, кому понравился (или не понравился) «Вавилон»

Фильмы, посвященные истории Голливуда начала XX века

Правила жизни
Архитектура Солнечной системы очень редко встречается во Вселенной Архитектура Солнечной системы очень редко встречается во Вселенной

Чаще всего планетные системы состоят из планет примерно одинакового размера

ТехИнсайдер
3 ипостаси брака: как быть одновременно и любовниками, и партнерами, и друзьями 3 ипостаси брака: как быть одновременно и любовниками, и партнерами, и друзьями

Обручальное кольцо на пальце — это не точка в истории развития отношений

Psychologies
Риск ради успеха: почему не нужно бояться ошибок, чтобы достичь результатов Риск ради успеха: почему не нужно бояться ошибок, чтобы достичь результатов

Отрывок из книги «Открытый интеллект»

Forbes
Сырые темницы строгого режима: 10 самых страшных тюрем в истории России Сырые темницы строгого режима: 10 самых страшных тюрем в истории России

Страшные тюрьмы России: от Петропавловской крепости до «Черного дельфина»

Вокруг света
Мальчик, который выше: как Гарри Стайлс плюет на стереотипы и меняет мужской гардероб Мальчик, который выше: как Гарри Стайлс плюет на стереотипы и меняет мужской гардероб

Рассказываем и показываем, с помощью чего Стайлс творит революцию в мужской моде

Правила жизни
Странные, лихие, наши: как мы жили в девяностые годы Странные, лихие, наши: как мы жили в девяностые годы

Писательница Ляля Брынза рассказывает о 90-х годах — во всех подробностях

VOICE
Крипта под процент: как и сколько можно заработать на криптолендинге Крипта под процент: как и сколько можно заработать на криптолендинге

Какие сервисы предлагают вложить криптовалюты под процент?

Forbes
Как узнать, где находится ваш ребенок: простой способ от Google Как узнать, где находится ваш ребенок: простой способ от Google

Собственные средства родительского контроля есть и у самой Google

CHIP
Дада-люди Дада-люди

Как The Yes Men превратили фейк в искусство

Weekend
«Одна из главных красавиц нашего кино»: Екатерина Климова с обнаженными плечами очаровала Александра Васильева «Одна из главных красавиц нашего кино»: Екатерина Климова с обнаженными плечами очаровала Александра Васильева

Александр Васильев оценил наряды российских артисток на светском мероприятии

VOICE
Лови ритм Лови ритм

История о том, как электричество заставляет сердце биться

N+1
От щедровок до первой оперы: как русский фольклор помогал следить за временем и стал частью классической музыки От щедровок до первой оперы: как русский фольклор помогал следить за временем и стал частью классической музыки

Какие песни нельзя было исполнять зимой и как фольклор приглянулся композиторам

Вокруг света
Открыть в приложении