«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему Марс красный? Ученые связали это с наличием воды в прошлом планеты! Почему Марс красный? Ученые связали это с наличием воды в прошлом планеты!

Почему знаменитая Красная планета именно такая? Ученые, похоже, нашли объяснение

ТехИнсайдер
Автор детективов и фэнтези Майк Омер отвечает на 10 вопросов Автор детективов и фэнтези Майк Омер отвечает на 10 вопросов

Майк Омер раскрывает формулу ироничного детектива

Правила жизни
Юрий и Валентина (часть первая) Юрий и Валентина (часть первая)

Как забота о детях отражается на семейных отношениях партнеров? Личная история

СНОБ
Перезагрузка iPhone: несколько способов на все случаи жизни Перезагрузка iPhone: несколько способов на все случаи жизни

Что делать, если ваш iPhone намертво завис?

CHIP
Первая минута Первая минута

Как заставить начало разговора работать на результат

kiozk originals
Альбом талантов Альбом талантов

У вас есть ощущение, что в жизни чего-то не хватает, но непонятно, что это?

Psychologies
Переход на юани Переход на юани

Этот китайский электромобиль затмевает европейские марки

Автопилот
Высокое искусство политической карикатуры: 23 детали гравюры «Времена» Уильяма Хогарта Высокое искусство политической карикатуры: 23 детали гравюры «Времена» Уильяма Хогарта

Жанр политической карикатуры расцвел в европейской культуре нового времени

Вокруг света
Ядерный проект: как шла гонка по созданию атомной бомбы во время Второй мировой войны Ядерный проект: как шла гонка по созданию атомной бомбы во время Второй мировой войны

Отрывок из книги Сэма Кина «Отряд отморозков» — о Вернере Гейзенберге

Forbes
Она тебя Она тебя

Почему ты иногда чувствуешь, что мама тебя раздражает?

VOICE
«Утечка мозгов»: как дети делают нас глупее, но добрее «Утечка мозгов»: как дети делают нас глупее, но добрее

Что меняется в голове у мам, пап и бабушек и почему после рождения ребенка?

СНОБ
Хотите, чтобы люди помнили, что вы говорите? Эксперт по коммуникациям поделился 1 упражнением Хотите, чтобы люди помнили, что вы говорите? Эксперт по коммуникациям поделился 1 упражнением

Как установить связь с аудиторией?

Inc.
Повернуть время вспять Повернуть время вспять

Как подольше продлить молодость и сохранить красоту тела?

Добрые советы
Должны ли внуки благодарить за денежные подарки: 3 точки зрения — советы бабушкам и дедушкам Должны ли внуки благодарить за денежные подарки: 3 точки зрения — советы бабушкам и дедушкам

Деньги в подарок от бабушек часто воспринимаются как само собой разумеющееся

Psychologies
«Для чего вы снова нас сюда вызываете?» «Для чего вы снова нас сюда вызываете?»

Константин Селин о своем фильме «Живой» и памяти о войне

Weekend
Король меланхолии, царь грусти: почему все так любят Бена Аффлека Король меланхолии, царь грусти: почему все так любят Бена Аффлека

Почему скучающий Аффлек — единственная знаменитость, поистине близкая к народу

Правила жизни
Серьезное упущение: что такое неглект и как его распознать Серьезное упущение: что такое неглект и как его распознать

Может ли невнимательность и нечуткость превратиться в инструмент насилия

Forbes
Ждем потепление Ждем потепление

Как быстро восстановить кожу

Собака.ru
Владимир Коренев: о поворотах судьбы, дружбе с Гагариным и любви всей его жизни Владимир Коренев: о поворотах судьбы, дружбе с Гагариным и любви всей его жизни

Про Ихтиандра я узнал в детстве — от своего дяди. Абсолютно слепого

Караван историй
Анна Плетнева: «Я активно практикую женскую дружбу» Анна Плетнева: «Я активно практикую женскую дружбу»

Анна Плетнева рассказала о секретах сексуальности и своей музыкальной карьере

VOICE
Как бывший гендиректор «Мегафона» стал совладельцем крупнейших компаний Рунета Как бывший гендиректор «Мегафона» стал совладельцем крупнейших компаний Рунета

Как Иван Таврин стал акционером крупнейших компаний Рунета?

Forbes
Как понять, что у тебя нехватка белка: самые яркие признаки, на которые не все обращают внимание Как понять, что у тебя нехватка белка: самые яркие признаки, на которые не все обращают внимание

Основные признаки, которые помогут заподозрить у себя дефицит белка

VOICE
Гадания на Масленицу: как узнать все о любви, деньгах и будущем Гадания на Масленицу: как узнать все о любви, деньгах и будущем

Масленичная неделя – идеальное время для ритуалов и гаданий

VOICE
Ископаемый «хоббит» с острова Лусон дожил до 31 года Ископаемый «хоббит» с острова Лусон дожил до 31 года

Палеоантропологи исследовали зубы ископаемого карликового человека

N+1
Мальчик, который выше: как Гарри Стайлс плюет на стереотипы и меняет мужской гардероб Мальчик, который выше: как Гарри Стайлс плюет на стереотипы и меняет мужской гардероб

Рассказываем и показываем, с помощью чего Стайлс творит революцию в мужской моде

Правила жизни
Зрительный контакт: о чем расскажут глаза — 3 важных значения взгляда Зрительный контакт: о чем расскажут глаза — 3 важных значения взгляда

Зрительный контакт дает много информации о настроении и намерениях собеседника

Psychologies
Биоархеологи выяснили рацион 26 средневековых жителей Бергена Биоархеологи выяснили рацион 26 средневековых жителей Бергена

У средневековых мужчин и женщин из Бергена был разный рацион

N+1
Дело вкуса Дело вкуса

Как творчески обновить обои и при этом сэкономить

Добрые советы
Бот судья: чем грозит применение искусственного интеллекта в судах Бот судья: чем грозит применение искусственного интеллекта в судах

Условия, направления и границы применения ИИ в судопроизводстве

Forbes
Их сделали не Homo sapiens: посмотрите на обсидиановый топор из древней мастерской в Эфиопии Их сделали не Homo sapiens: посмотрите на обсидиановый топор из древней мастерской в Эфиопии

Миллион лет назад эти наконечники производила неизвестная группа гоминидов

Вокруг света
Открыть в приложении