Рациональность: от ИИ до зомби (другой перевод) - Элиезер Шломо Юдковски

что, как только вы немного разберётесь в себе и перестанете совершать столь много других ошибок, стремление к большей рациональности и впрямь улучшит ваше положение. Долгая дорога выводит из долины и поднимается выше прежнего — даже в землях людей.

Чем больше я узнаю о какой-то конкретной грани Искусства, тем яснее вижу, что это так. Как я уже отмечал ранее, мои эссе могут не вполне отражать то, каким должно быть истинное боевое искусство рациональности, поскольку я концентрировался исключительно на поиске ответов на запутанные вопросы — а не на борьбе с акразией, координации групп или обретении счастья. В области поиска ответов на запутанные вопросы — той сфере, где я практиковал Искусство наиболее интенсивно, — сейчас кажется совершенно очевидным, что любой, кто считал, будто ему лучше «сохранять оптимизм в отношении решения проблемы», был бы втоптан в землю. Каким-нибудь рядовым учеником.

Когда дело доходит до поддержания мотивации или ощущения счастья, я не могу гарантировать, что человек, лишившийся иллюзий, станет жить лучше, — поскольку мои знания об этих гранях рациональности всё ещё поверхностны. Если эти разделы Искусства и были систематически разработаны, мне об этом ничего не известно. Но даже здесь я приложил немало усилий, чтобы развеять полурациональные-полуошибочные идеи, которые могут встать на пути новичка, — например, представление о том, что рациональность противостоит чувствам, или что рациональность противостоит ценностям, или что искушённым мыслителям положено быть терзающимися и циничными.

И если, как я надеюсь, кто-то в будущем разработает искусство борьбы с акразией или достижения душевного благополучия столь же досконально, как я разработал искусство ответов на неразрешимые вопросы, я вполне ожидаю, что те, кто укутывается в свои иллюзии, даже близко не смогут соперничать с ними. Тем временем другие могут преуспеть в этом больше, чем я, если счастье — их самое заветное желание, ведь я сам приложил к этому мало усилий.

Мне трудно поверить, что оптимально мотивированный человек, сильнейший предприниматель, каким только может стать человек, всё ещё укутан в одеяло утешительной самоуверенности. Думаю, он, скорее всего, выбросил это одеяло в окно и организовал свой разум немного иначе. Мне трудно поверить, что самая счастливая жизнь, какую мы только можем прожить — даже в границах человеческих возможностей, — предполагает, что в уголке твоего ума таится крошечное осознание того, что всё это ложь. Я бы скорее возложил надежды на нейрофидбэк или дзен-медитацию, хотя не пробовал ни того, ни другого.

Но нельзя отрицать, что это очень реальная проблема в очень реальной жизни. Обратите внимание на эту пару комментариев с Less Wrong:

Буду честен: с тех пор как я разуверился, моя жизнь резко покатилась под откос. Моя верующая девушка, которую я очень любил, не смогла смириться с этими переменами во мне, и после шести месяцев мучительных колебаний ушла от меня к коллеге по работе. Это произошло ещё полгода назад, и с тех пор я разбит, несчастен, рассеян и чрезвычайно неэффективен.

Возможно, это пример долины плохой рациональности, о которой говорил PhilGoetz, но в моей шкале предпочтений моё нынешнее положение всё же стоит выше, чем счастье, основанное на ложных убеждениях.

И:

Сочувствую: со мной это произошло около 6 лет назад (хотя, к счастью, обошлось без столь явных колебаний).

Моя сестра, которая немного изучала когнитивно-поведенческую терапию, напомнила мне, что отношения постоянно завязываются и рушатся, и, учитывая, что я не был дурён собой и не затворился в монастыре, было нерационально думать, будто я останусь один до конца своих дней (она оказалась права). Это помогало в те моменты, когда чувства не брали надо мной верх окончательно.

Так что на практике, в реальной жизни, если трезво взглянуть на вещи, первые шаги действительно могут быть болезненными. А потом ситуация действительно может улучшиться. И действительно нет никакой гарантии, что в итоге вы окажетесь на более высокой позиции, чем раньше. Даже если в теории этот путь должен вести дальше, нет никакой гарантии, что конкретный человек зайдёт так далеко.

Если вы не предпочитаете истину счастью в ложных убеждениях...

Что ж... и если вы не делаете ничего особенно рискованного или запутанного... и если вы не покупаете лотерейные билеты... и если вы уже записались на крионику — это внезапное, запутанное испытание на рациональность с ультравысокими ставками, иллюстрирующее свойство «Чёрного лебедя», когда пытаешься делать ставку на неведение, пребывая в неведении...

Тогда не гарантировано, что совершение всех последовательных шагов к рациональности, какие вы только сможете найти, улучшит ваше положение. Но смутно правдоподобные аргументы против избавления от иллюзий, как правило, действительно рассматривают лишь один-единственный шаг, не предполагая никаких дальнейших шагов и не предлагая никаких попыток вернуть всё утерянное и превзойти прежний результат. Даже в опросах сравнивают среднестатистического верующего со среднестатистическим атеистом, а не самых искушённых теологов с самыми продвинутыми рационалистами.

Но если вам дела нет до истины, — и вам нечего защищать, — и вас не привлекает мысль о том, чтобы развить своё искусство до предела возможностей, — и ваша нынешняя жизнь, кажется, складывается вполне благополучно, — и у вас есть ощущение, что ваше душевное благополучие держится на иллюзиях, о которых вы предпочитаете не задумываться, —

То вы, вероятно, этого и не читаете. Но если всё же читаете, то, пожалуй... ну... (а) запишитесь на крионику, а затем (б) перестаньте читать Less Wrong, пока ваши иллюзии не рухнули! БЕГИТЕ!

*

329. Bayesians vs. Barbarians. Ранее:

Представьте, что у нас есть две группы солдат. В первой группе рядовые ничего не смыслят в тактике и стратегии; о тактике знают только сержанты, а о стратегии — только офицеры. Во второй группе абсолютно все на любом уровне знают всё о тактике и стратегии.

Должны ли мы ожидать, что первая группа победит вторую, потому что первая будет выполнять приказы, в то время как каждый во второй группе будет придумывать идеи получше, чем любые приказы, которые им отдают?

В таком случае я должен усомниться в том, насколько хорошо вторая группа действительно понимает военную теорию, ведь это элементарная истина: нескоординированную толпу просто вырежут.

Предположим, что на страну рационалистов нападает страна Злобных Варваров, которые ничего не знают ни о теории вероятностей, ни о теории принятия решений.

Существует определённый взгляд на «рациональность» или «рационализм», согласно которому утверждается нечто подобное:

«Очевидно, рационалисты проиграют. Варвары верят в загробную жизнь,