Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

сомневаюсь, что когда-либо существовал путь, пролегающий исключительно через монастырь. В этом мире мы — наследники как мистиков, так и ученых, подобно тому как Состязательный заговор наследует и шахматистам, и бойцам без правил. Мы направили свои импульсы на более созидательные цели — но все же должны оставаться начеку против старых моделей ошибок.

Джеффриссай перевел дыхание. — Три недостатка чаще всего встречаются среди бейсуцаев. Первый недостаток — искать хоть на самую малость придирчивее изъяны в тех аргументах, чьи выводы вы предпочли бы не принимать. Если вы не можете обуздать в себе эту черту, то каждый изъян, который вы умеете находить, будет делать вас лишь глупее. Это испытание, которое определяет, владеете ли вы искусством или же его противоположностью: разум, чтобы быть полезным, должен использоваться для чего-то иного, кроме борьбы с самим собой.

— Второй недостаток — это хитроумие. Изобретать грандиозные сложные планы, грандиозные сложные теории и грандиозные сложные аргументы — или даже, возможно, планы, теории и аргументы, которые слишком сильно привлекают своей элегантностью и слишком слабо — своим реализмом. Существует широко известная поговорка: «Уязвимость бейсуцаев общеизвестна: они склонны быть слишком хитроумными». Ваши враги будут знать эту поговорку, если будут знать, что вы бейсуцай, так что и вам лучше о ней помнить. И вы можете подумать про себя: «Но если я никогда не смогу попробовать ничего хитроумного или элегантного, будет ли моя жизнь вообще иметь смысл?» Вот почему хитроумие остается нашей главной уязвимостью, даже будучи общеизвестным, — подобно тому как предложить Состязателю испытание, которое кажется честным, или искусить Барда драмой.

— Третий недостаток — неуверенность в себе, скромность, смирение. Вы узнали так много об изъянах, некоторые из которых невозможно исправить, что можете счесть правилом мудрости признание собственной неспособности. Вы можете сомневаться в себе так сильно, без какого-либо решения или проверки, что потеряете волю продолжать практиковать Искусство. Вы можете отказываться от выбора в ожидании новых свидетельств, когда решение принять необходимо; вы можете следовать советам, которым следовать не следовало бы. Пресыщенный цинизм и мудрое отчаяние сейчас менее в моде, чем когда-то, но они все еще могут искусить вас. Или вы можете просто... потерять темп.

После этого Джеффриссай умолк.

Он пристально и молча посмотрел на каждого из них, переводя взгляд с одного на другого.

И наконец произнес: — Это мои последние слова вам. Если и когда мы встретимся вновь — если и когда вы вернетесь в это место, Бреннан, или Хирива, или Тадзи, или Инь, или Стирлин, — я больше не буду вашим учителем.

И Джеффриссай развернулся и быстро зашагал прочь, направляясь обратно к стеклянному туннелю, из которого недавно появился.

Даже Бреннан был потрясен. На мгновение все лишились дара речи.

Затем...

— Погодите! — крикнула Хирива. — А как же наши прощальные слова вам? Я так и не сказала...

— Я скажу тебе то же, что мой сенсей сказал мне, — донесся голос скрывающегося из виду Джеффриссая. — Поблагодаришь меня после того, как вернешься, если вернешься. По крайней мере, один из вас, похоже, имеет шансы вернуться.

— Нет, стойте, я... — Хирива замолчала. В зеркальном туннеле дробящиеся отражения Джеффриссая уже таяли. Она покачала головой: — Ладно... неважно.

Наступила короткая, неловкая тишина: все пятеро переглядывались между собой.

— Боже мой, — сказал наконец Тадзи. — Даже Бардовский заговор не стал бы нагонять столько драмы.

Инь вдруг рассмеялась: — О, это еще ерунда. Видели бы вы, как провожали меня, когда я уходила из Университета Алмазного Моря. — Она улыбнулась. — Как-нибудь расскажу, если вам интересно.

Тадзи кашлянул: — Полагаю, мне стоит вернуться и... собрать вещи...

— Я уже собран, — сказал Бреннан. Он едва заметно улыбнулся, когда остальные трое повернулись к нему.

— Серьезно? — спросил Тадзи. — Что послужило подсказкой?

Бреннан пожал плечами с нарочитой небрежностью: — После определенного момента бесполезно допытываться, откуда мастер-бейсуцай знает те или иные вещи...

— Да брось ты! — сказала Инь. — Ты не мастер-бейсуцай еще.

— Стирлин тоже, — сказал Бреннан. — Но он тоже уже собрал вещи. — Он произнес это как утверждение, а не вопрос, идя ва-банк ради сохранения своего образа непостижимого предвидения.

Стирлин откашлялся: — Твоя правда. Меня призывают другие обязательства, и я уже задержался здесь дольше, чем планировал. Хотя, Бреннан, мне кажется, что у нас с тобой есть некоторые общие интересы, которые я с удовольствием с тобой обсудил бы...

— Стирлин, мой дражайший друг, я буду рад побеседовать с тобой на любую тему, какую пожелаешь, — вежливо и уклончиво ответил Бреннан, — если мы встретимся вновь. — В смысле, не сейчас. Он уж точно не собирался выдавать свою Госпожу так рано.

Последовал обмен прощаниями, намеками и предложениями.

И вот Бреннан уже шел по дороге, которая вела то ли к Монастырской горе, то ли от нее (ведь любая дорога — обоюдоострый меч), а под его ногами пощелкивала гладкая стеклянная галька.

Он шагал по тропе целеустремленно, бодро и решительно — на случай, если кто-нибудь наблюдает.

Некоторое время спустя он остановился, сошел с тропы и отошел ровно настолько далеко, чтобы его никто не смог найти, если только не выслеживал намеренно.

Затем он устало привалился спиной к стволу дерева. Это была редкая поляна, где из земли торчало лишь несколько деревьев; ничего особо отвлекающего вокруг не было, если не считать красноватого ручья, вытекающего из темного устья пещеры. И Бреннан намеренно повернулся к нему спиной, оставив перед глазами лишь далекую серую полосу горизонта, синее небо и яркое солнце.

Что теперь?

Он-то думал, что именно Байесовский заговор из всех возможных видов обучения в этом мире избавит его от неопределенности относительно того, что делать с остатком своей жизни.

Власти он искал поначалу. Силы, чтобы не допустить повторения прошлого. «Если не знаешь, что тебе нужно, бери власть» — так гласила пословица. Сначала он отправился к Состязательному заговору, затем — к бейсуцаям.

И теперь...

Теперь он чувствовал себя потерянным как никогда.

Он мог вспомнить о вещах, которые делали его счастливым. Но не было ничего, чего бы он по-настоящему хотел.

Истовая страсть, которую он привык связывать со своей Госпожой, с Джеффриссаем или другими могущественными фигурами, которых он встречал... жизнь в погоне за мелкими удовольствиями казалась блеклой по сравнению с этим.

В городе неподалеку от центра мира его ждала Госпожа (по всей вероятности, если только ей не наскучила ее жизнь