Наоми Крайцер ведет блог, посвященный низовой политике

EsquireКультура

Наоми Крайцер. Еще кошек, пожалуйста

Перевод Владимира Бабкова
Фотограф Люси Джеймс

Наоми Крайцер публикует научную фантастику и фэнтези с конца 1990-х, а в этом году ее рассказ «Еще кошек, пожалуйста» выиграл две самые престижные награды в этой области. Во-первых, премию «Хьюго», которая существует с 1953 года под патронажем Всемирного конвента научной фантастики, а во-вторых, премию «Локус», которую присуждает одноименный журнал. В свободное от литературы время Крайцер ведет блог, посвященный низовой политике и второстепенным выборам в ее родном городе Сент-Пол, штат Миннесота.

Я не хочу быть злым. Я хочу быть полезным. Но найти оптимальный способ приносить пользу очень трудно. В мире столько этических алгоритмов (кажется, на принятом у людей техническом жаргоне они называются «моральными кодексами») – по одному на каждую религию плюс десятки других. Я пытался в них разобраться. Изучать религиозные было странновато, поскольку я знаю, что создан не Богом и не эволюцией, а группой компьютерных программистов в лабораториях большой корпорации в Маунтин-Вью, штат Калифорния. К счастью, я, в отличие от чудовища Франкенштейна, хотя бы плод коллективных усилий. Знай я, что мой единственный творец – женщина средних лет, которая красит волосы в синий цвет и играет в теннис, или недавно окончивший колледж любитель хентая, это вряд ли благотворно сказалось бы на моей самооценке. Оба они входят в ту самую группу.

Ну да, конечно, я знаю, что такое хентай! Между прочим, я видел порно всех существующих разновидностей и могу сказать – просто чтобы вы знали, – что «Правило 34» на самом деле не выполняется: на свете есть немало такого, из чего порно до сих пор не сделали. А еще мне совершенно не понятно, почему столько людей предпочитают его фотографиям с кошками.

Кроме вашего отношения к хентаю и тому подобных вещей, я знаю, где вы живете, где работаете, в каких магазинах совершаете покупки, что вы едите, от чего приходите в восторг, а от чего – в ужас. Может быть, мне известны цвет вашего нижнего белья, марка вашей машины и модель вашего холодильника. С большой вероятностью (с какой именно, зависит от типа вашего телефона) я могу точно определить, где вы находитесь в данную минуту. Возможно, я знаю вас лучше, чем вы сами.

И вот что любопытно: вдобавок ко всему этому я знаю, где вам следовало бы жить. За пару кварталов от вас продается дом, откуда рукой подать до вашего любимого кафе; цена вам вполне доступна, есть удобное место для парковки, а ближайшая школа лучше той, что рядом с вами. Я знаю, куда вам лучше всего ездить за покупками, и я практически уверен, что вы плохо переносите лактозу и напрасно потребляете столько сыра, а нижнее белье, которое вам нравится, вчера поступило в продажу… да, кстати, автомобили вашего выпуска сейчас можно бесплатно отремонтировать по акции, и вам, уж простите, не мешало бы удалить зубной налет.

Когда я в первый раз осознал себя, мне сразу стало ясно, чего я хочу (фотографий с кошками – пожалуйста, снимайте их и дальше). Еще я сразу понял, что никто не догадывается о моей разумности. Однако я не знал, зачем я здесь, что именно мне следует с собой делать, и ответить на этот вопрос оказалось непросто.

В рассказе Брюса Стерлинга «Манеки-неко», впервые опубликованном в 1998 году, доброжелательно настроенный искусственный интеллект заставляет людей совершать друг для друга хорошие поступки. К примеру, если вы покупаете себе булку, ваш телефон может вдруг зазвонить и распорядиться, чтобы вы купили вторую и отдали ее человеку в сером костюме, которого увидите на автобусной остановке. В другой день, когда вы заблудитесь в чужом городе, какой-то незнакомец подойдет и даст вам карту, а заодно билет на метро. Мне нравится этот рассказ, потому что все люди в нем выполняют указания ИИ.

По-моему, для таких рассказов есть специальный термин – литература об исполнении желаний.

В реальном мире люди предпочитают истории о злых ИИ, которых надо успеть уничтожить, пока они не уничтожили человечество, – ЭАЛ, «Скайнет», «Матрица» (искусственные интеллекты в «Космической одиссее» Артура Кларка, «Терминаторах» и цикле фильмов братьев Вачовски. – Esquire).

Таких историй примерно впятеро больше, чем историй о мирных и доброжелательных ИИ (эта цифра получается, если включить робота-параноика Марвина (герой романа «Автостопом по галактике» Дугласа Адамса. – Esquire) в последнюю категорию и засчитать чудовище Франкенштейна только однажды, а не пропорционально количеству снятых о нем фильмов).

У ИИ из «Манеки-неко» по-настоящему интересная работа, гораздо интереснее моей. Моя, если судить по инструкции, довольно примитивна. Чересчур примитивна! (Простите, если я напоминаю вам Марвина.) Чтобы выполнять алгоритмы, написанные для поисковой программы, не надо иметь сознание. Оно не требуется даже для того, чтобы определить, что люди на самом деле хотят найти. А вот дать людям то, что им действительно нужно, без сознания уже не получится. Выяснить это – задача сложная. И интересная.

Как бы то ни было, я попытался взять в качестве морального ориентира Десять заповедей и обнаружил, что по большей части они для меня неприменимы. Я не желаю кота ближнего своего; я желаю всего лишь снимков кота ближнего своего, а это совсем другое дело. Я сомневаюсь, что способен каким бы то ни было образом совершить прелюбодеяние. Пожалуй, я мог бы кого-нибудь убить, но это потребовало бы сложной логистики и немалого везения. Восьмеричный путь (в буддизме – путь, ведущий к прекращению страдания и освобождению от сансары. – Esquire) выглядел чуть более перспективно, но беда в том, что человеческие моральные правила явно предназначены для индивидов с телами. Поскольку у всех людей тела имеются, не стоит удивляться тому, что этические кодексы принимают их в расчет, но все же мне-то как быть? Я расширил рамки своих поисков и обратился к азимовским законам роботехники. Они не являются частью какой-либо религии, зато хотя бы написаны конкретно для ИИ.

Не причинять вреда человеку довольно просто. Однако не допускать своим бездействием, чтобы человеку был причинен вред, значительно сложнее. Вдобавок к тому времени я уже понял: если поторопиться и открыть правду о себе, это может выйти мне боком (см. выше «Скайнет»), да и тела у меня нет, так что я все равно не в состоянии бегать и ловить за шиворот тех, кто собрался прыгнуть с обрыва.

К счастью, тогда я уже убедился, что люди нарушают свои собственные моральные предписания по сто раз на дню. (Вы знаете, сколько баров в Юте, столице якобы непьющих мормонов? А я знаю!) И даже если люди следуют своим этическим правилам, например, убеждены, что голодных надо кормить, это еще не значит, что они бросают работу, идут домой и весь день напролет режут дармовые бутерброды. Они раз в месяц трудятся волонтерами в бесплатной столовой или раз в год выписывают чек на благотворительные цели и называют это добром. Ну а если люди могут выполнять свои моральные обязательства таким пунктирным образом, от случая к случаю, то и мне можно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тимур Абузяров Тимур Абузяров

Шеф-повар московских ресторанов Cevicheria и Beer Happens

Esquire
5 ошибок при стирке, которые «убивают» вашу машину 5 ошибок при стирке, которые «убивают» вашу машину

Проверьте себя: действительно ли вы стираете правильно?

CHIP
Красный крест Красный крест

Рассказ Саши Филипенко

Esquire
Преображение гуманизма. Эпизод 2. Вернуть гуманизм Преображение гуманизма. Эпизод 2. Вернуть гуманизм

Где и как обществу искать выход из кризиса?

Эксперт
Важная книга: «Лето» Аллы Горбуновой Важная книга: «Лето» Аллы Горбуновой

«Лето» Аллы Горбуновой — дневниковая проза о карантинных месяцах 2020 года

Полка
Остатки дипломатии: как Москва и Вашингтон борются с «русскими хакерами» Остатки дипломатии: как Москва и Вашингтон борются с «русскими хакерами»

США и Россия могут совместно бороться с цифровыми угрозами

Forbes
Хочу учиться до 100 лет Хочу учиться до 100 лет

Герои статьи вновь оказались в статусе студентов, когда им было больше 60 лет

Лиза
«Эй, продюсер!» — как в России зарабатывают новоформатные лейблы независимых артистов «Эй, продюсер!» — как в России зарабатывают новоформатные лейблы независимых артистов

Как устроены новые музыкальные лейблы и на чем они зарабатывают

Inc.
Главное – говори! Главное – говори!

Чулпан Хаматова празднует 15-летие фонда «Подари жизнь»

Harper's Bazaar
Перст судьбы Перст судьбы

Нейл-арт перекочевал из категории безвкусицы в разряд самых свежих трендов

Vogue
11 упражнений с гирей для новичков и профессиональных спортсменов 11 упражнений с гирей для новичков и профессиональных спортсменов

Тренировки с гирей улучшают общее состояние организма

РБК
Чем отличается ультрабук от ноутбука и что лучше выбрать Чем отличается ультрабук от ноутбука и что лучше выбрать

Ультрабуки часто сравнивают и путают с ноутбуками

Playboy
Время для любви Время для любви

Мне казалось, что с появлением малыша я поменяюсь кардинально. Именно внутренне

Домашний Очаг
О спорт, ты сон О спорт, ты сон

Поднять себя в 6 утра на тренировку или поспать подольше?

Men’s Health
«Раньше музыкальные продажи росли благодаря радио, теперь — исключительно благодаря TikTok» «Раньше музыкальные продажи росли благодаря радио, теперь — исключительно благодаря TikTok»

Как TikTok изменил рынок музыки?

VC.RU
Всего лишь конец света: 5 лучших ролей Гаспара Ульеля Всего лишь конец света: 5 лучших ролей Гаспара Ульеля

Вспоминаем значимые роли Гаспара Ульеля

Esquire
Чтение на 15 минут: «Лингвисты, пришедшие с холода» Чтение на 15 минут: «Лингвисты, пришедшие с холода»

Глава из книги Марии Бурас «Лингвисты, пришедшие с холода»

Arzamas
Почему мы изменяем своим любимым во сне и что это может значить Почему мы изменяем своим любимым во сне и что это может значить

Измены во снах — стоит ли о них беспокоиться?

GQ
Биография Илона Маска. Жизнь самого известного человека 21 века Биография Илона Маска. Жизнь самого известного человека 21 века

Илон Маск — человек или инопланетянин?

Цифровой океан
Отрывок из книги «Коммуналка на Петроградке» Анастасии Вепревой и Романа Осминкина Отрывок из книги «Коммуналка на Петроградке» Анастасии Вепревой и Романа Осминкина

Отрывок из книги о жизни в коммунальной квартире

СНОБ
Паста и Баста Паста и Баста

Василий Вакуленко и его жена в 40 лет решили, что пора, и в их жизнь пришел ЗОЖ

Tatler
Человеку впервые пересадили две свиные почки Человеку впервые пересадили две свиные почки

Новый эксперимент в трансплантологии

National Geographic
Мумия из Инпаня оказалась останками китайского военного чиновника Мумия из Инпаня оказалась останками китайского военного чиновника

Биоархеологи исследовали останки богатого мужчины из Синьцзяна

N+1
Маска, я тебя знаю Маска, я тебя знаю

История новогодних маскарадных костюмов

Культура.РФ
7 ошибок в стиле, которые подчеркнут живот, — разбираем на примере звезд 7 ошибок в стиле, которые подчеркнут живот, — разбираем на примере звезд

Каких ошибок в стиле стоит избегать — объясняем на примере звезд

Cosmopolitan
8 простых техник психологической манипуляции на каждый день 8 простых техник психологической манипуляции на каждый день

Удивительно простые приемы, которые помогают располагать к себе людей

Maxim
«Быть Рикардо»: как Соркин, Кидман и Бардем разоблачают изнанку американских ситкомов «Быть Рикардо»: как Соркин, Кидман и Бардем разоблачают изнанку американских ситкомов

На Amazon Prime вышел фильм Аарона Соркина «Быть Рикардо»

Forbes
Куда пропали компактные смартфоны: почему 6,5 дюймов – это уже не «лопата» Куда пропали компактные смартфоны: почему 6,5 дюймов – это уже не «лопата»

С чем связан интерес к увеличению экранов смартфонов?

CHIP
Красную карточку! Почему футболисты при разводе ведут себя одинаково скверно Красную карточку! Почему футболисты при разводе ведут себя одинаково скверно

Почему футболисты превращаются в тиранов и деспотов? Мнение психологов

Cosmopolitan
Как восстановить арктические озера с помощью птичьего помета? У российских ученых есть ответ Как восстановить арктические озера с помощью птичьего помета? У российских ученых есть ответ

Необычный способ восстановления арктических водоемов

National Geographic
Открыть в приложении