Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

проиграть. Такое случается. Никогда не забывайте об этом, иначе зачем вообще так сильно стараться? Проигрывать больно, даже если это поражение, которое вы способны пережить. К тому же вы потратите впустую время, а возможно, и другие ресурсы.

Лозунг «Заткнись и сделай невозможное» следует приберечь для очень особых случаев. Вы можете проиграть, и это будет больно. Я вас предупредил.

…но только на этом уровне начинают проступать взрослые проблемы.

*

311. Последние слова.

Солнечный свет насыщал воздух, и без того трепещущий от любопытства, когда над Бреннаном и его соучениками взошла заря в том месте, куда их призвал Джеффриссай.

Они сидели там и ждали, все пятеро, на вершине огромного стеклянистого утеса, который иногда называли горой Зеркальной, иногда горой Монастырской, а чаще и вовсе оставляли без названия. Высокая вершина и пик горы, откуда открывался вид на все земли внизу и моря за ними.

(Ну, конечно, не на все земли внизу и не на все моря за ними. Насколько было известно, в мире не существовало места, откуда был бы виден весь мир; как не существовало, соответственно, и зрения, способного проникнуть сквозь любые преграды на горизонте. В конечном счете это была лишь вершина одной конкретной горы: существовали и другие пики, и с их вершин открывались другие земли; хотя в конечном счете все это был один-единственный мир.)

— Что, по-твоему, будет дальше? — спросила Хирива. Глаза ее сияли, и она вглядывалась в далекие горизонты словно владыка.

Тадзи пожал плечами, хотя его собственные глаза светились предвкушением. — У последнего урока Джеффриссая нет очевидного продолжения, во всяком случае я ничего не могу придумать. На самом деле, мне кажется, мы изучили практически все то, что, как я знал, знали мастера-бейсуцаи. Что тогда...

— ...Так это настоящие тайны, — закончила мысль Инь.

Хирива, Тадзи и Инь понимающе улыбнулись друг другу.

Стирлин не улыбался. Бреннан очень сильно подозревал, что Стирлин старше, чем признавался.

Бреннан тоже не улыбался. Он был молод, но вращался в высших кругах и воочию видел кое-что из того, что происходило за кулисами мира. У тайн всегда была своя цена; именно эта преграда и делала их тайнами. И Бреннан думал, что неплохо представляет себе, какой может быть эта цена.

Раздалось покашливание сзади — в тот самый миг, когда все они как один смотрели в любую другую сторону.

Они разом повернули головы.

Там стоял Джеффриссай в свободном одеянии, которое выглядело скорее как очень стеклянное стекло, нежели как приличная зеркальная ткань.

Джеффриссай стоял и смотрел на них, и в его непостижимых древних глазах читалась странная затаенная печаль.

— Сен... сей, — начал Тадзи, запинаясь, поскольку его радостное предвкушение натолкнулось на ответный взгляд Джеффриссая. — Что дальше?

— Ничего, — резко ответил Джеффриссай. — Вы закончили. Всё кончено.

Хирива, Тадзи и Инь одновременно моргнули в безупречно синхронном жесте потрясения. Затем, прежде чем выражение их лиц сменилось возмущением и протестами...

— Не надо, — произнес Джеффриссай. В его голосе звучала неподдельная боль. — Поверьте, мне от этого больнее, чем вам. — Он мог смотреть на них, а мог и на что-то далекое или давно минувшее. — Я не знаю в точности, какие дороги лежат перед вами, но да, я знаю, что вы не готовы. Я знаю, что отправляю вас неподготовленными. Я знаю, что все, чему я вас научил, неполно. Что то, что я говорил, — это не то, что вы услышали. Я знаю, что упустил самое важное. Что ритм в самом сердце всего сущего утрачен и сбит. Я знаю, что вы навредите себе, пытаясь применить мои уроки; так что я лично, неведомым мне образом, выкую тот самый нож, который вас ранит...

— ...В этом-то и заключается кошмар учительства, понимаете, — сказал Джеффриссай. В его лице промелькнуло мрачное выражение. — Тем не менее вы закончили. На этом пока все. То, что отделяет вас от мастерства, — это не очередной учебный класс. Нам повезло, а может быть и не повезло, что путь к могуществу лежит не только через лекционные залы. Иначе эти поиски до самого горького конца наводили бы лишь скуку. И все же я не могу учить вас дальше, а потому вопрос о том, стал бы ли я, лишен смысла. Среди нас нет мастера, чье искусство полностью перенято от других. Даже бейсуцаи так и не открыли, как обучать некоторым вещам; возможно, подобное было запрещено. А потому вы сможете прийти к мастерству лишь тогда, когда начнете использовать в полной мере уже изученные техники, встречая трудности и постигая их, оттачивая владение инструментами, которым вас обучили, пока они не разлетятся вдребезги у вас в руках...

Глаза Джеффриссая сделались жесткими, словно закаленные в готовности принять недобрую весть.

— ...и вы останетесь посреди абсолютных руин. Вот куда я, ваш учитель, отправляю вас. Вы не мастера-бейсуцаи. Я не могу создавать мастеров. Не могу даже близко подобраться к этому. Ступайте же и терпите крах.

— Но... — начала Инь и осеклась.

— Говори, — сказал Джеффриссай.

— Но почему тогда, — беспомощно спросила она, — зачем вообще было нас чему-то учить?

Веки Бреннана едва заметно дрогнули.

Этого Джеффриссаю было достаточно. — Ответь ей, Бреннан, если думаешь, что знаешь.

— Потому что, — сказал Бреннан, — если бы нас не учили, у нас не было бы вообще никаких шансов стать мастерами.

— Именно так, — сказал Джеффриссай. — Если бы вас не учили, то, потерпев неудачу, вы могли бы просто подумать, будто достигли пределов самого Разума. Вы бы пали духом и ожесточились среди обломков. Возможно, вы бы даже не поняли, что потерпели неудачу. Но нет: из вас вылепили нечто такое, что может восстать из руин вашего прежнего «я» с твердым намерением пересоздать свое искусство. И тогда вы вспомните многое из того, что вам поможет. Если бы вас не учили, ваши шансы были бы... меньше. — Он обвел взглядом присутствующих. — Это должно быть очевидно, но поймите: момент вашего кризиса невозможно спровоцировать искусственно. Чтобы научить вас чему-то, катастрофа должна стать неожиданностью.

Бреннан сделал жест рукой, означающий вопрос, и Джеффриссай кивнул в ответ.

— Это единственный путь, на котором рождаются байесовские мастера, сенсей?

— Я не знаю, — сказал Джеффриссай, из чего общая картина свидетельств была вполне очевидна. — Но я