Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Даже когда на это указываешь прямо, некоторые люди, по-видимому, не способны совершить мысленный переход от объектного уровня («Используй бритву Оккама! Ты же должен видеть, что твоя вера в Бога избыточна!») к мета-уровню («Попытайся помешать своему разуму достроить паттерн привычным путём!»). Ведь точно так же, как все ваши друзья-рационалисты говорят о бритве Оккама как о чём-то хорошем, и точно так же, как бритва Оккама сама собой всплывает у вас в голове, — у верующих есть очевидный, одобренный друзьями ответ: «Пути Господни неисповедимы, и самонадеянно полагать, что мы способны их понять». Так что если вы считаете, что общая стратегия — это «использовать бритву Оккама», то это всё равно как если бы теист утверждал, что общая стратегия — это верить.

«Но... но бритва Оккама действительно лучше веры! Это же не вопрос выбора вкуса мороженого! Любой, глядя на историю, поймёт, что оккамовские рассуждения были гораздо продуктивнее веры...»

И всё это правда. Но к делу не относится. Суть в том, что вы, говоря это, без запинки выдаёте стандартное оправдание, которое уже заготовлено в вашей голове. Задача кризиса веры состоит в том, чтобы справиться с ситуацией, когда, возможно, наши стандартные выводы неверны и наши стандартные оправдания ошибочны. Поэтому, если стандартным оправданием для X служит «бритва Оккама!», а вы хотите устроить кризис веры вокруг X, вам следует задаться вопросом: действительно ли бритва Оккама подтверждает X? Правильно ли вы понимаете бритву Оккама? И — если вы хотите сомневаться достаточно глубоко — действительно ли простота является тем критерием, который исторически хорошо себя зарекомендовал в данном случае или от которого можно разумно ожидать эффективности в будущем, и так далее. Если вы советуете верующему подвергнуть сомнению убеждение, что «вера» — хорошее оправдание для X, то вам следует посоветовать и самому себе приложить не меньшие усилия, чтобы подвергнуть сомнению своё убеждение в том, что «бритва Оккама» — хорошее оправдание для X.

(Подумайте обо всех тех людях, которые не понимают формулировок бритвы Оккама через минимальную длину описания или индукцию Соломонова, и которые думают, будто бритва Оккама запрещает многомировую интерпретацию или гипотезу симуляции. Им нужно было бы подвергнуть сомнению свои формулировки бритвы Оккама и свои представления о том, почему простота — это хорошо. О каком бы спорном X вы ни рассуждали, оправдывая его восклицанием «Бритва Оккама!», бьюсь об заклад, это далеко не такой же бесспорный оккамовский триумф, как гравитация.)

Если «Бритва Оккама!» — это ваш обычный ответ, ваш стандартный ответ, ответ, который дают все ваши друзья, то вам лучше заблокировать свой мозг от мгновенного достраивания этого паттерна, если вы пытаетесь спровоцировать настоящий кризис веры.

Лучше придерживаться правил вроде: «Представь, что сказал бы скептик, — а затем представь, что он ответил бы на твоё возражение, — а затем представь, что ещё он мог бы сказать, на что ответить было бы труднее».

Или: «Попробуй обдумать самую болезненную мысль».

И прежде всего, правило:

«Приложи такое же отчаянное усилие, какое потребовалось бы теисту, чтобы отречься от своей религии».

Потому что если вы не стараетесь изо всех сил, то — откуда вам знать — ваша голова вполне может быть забита чепухой столь же нелепой, как и религия.

Без судорожного, мучительного усилия быть рациональным — усилия такого масштаба, какое требуется для освобождения от религии, — как вы вообще смеете во что-то верить, когда сам Роберт Ауман верит в Бога?

Кто-то (не помню кто) однажды заметил, что у людей есть время лишь до определённого возраста, чтобы отказаться от своей религиозной веры. После этого у них найдутся ответы на любые возражения, и будет уже слишком поздно. Это тот вид существования, который вы должны превзойти. Это суровое испытание вашей силы как рационалиста; но если вы не сможете его пройти, вы окажетесь слабее десятилетнего ребёнка.

Но опять же, к тому моменту, когда вы понимаете, что убеждение ошибочно, оно уже повержено. Так что речь идёт не об отчаянных, судорожных усилиях сгладить последствия религиозного воспитания после того, как вы пришли к выводу, что ваша религия неверна. Речь идёт об отчаянных усилиях выяснить, нужно ли вам сбрасывать оковы или же оставить их. Честность с самим собой наиболее уязвима, когда мы не знаем, по какому пути нам следует идти, — именно тогда рационализации не являются очевидными грехами.

Не всякое сомнение требует устройства полномасштабного кризиса веры. Но вам стоит задуматься об этом, когда:

Убеждение уже давно живёт в вашей голове;

Оно окружено облаком известных аргументов и опровержений;

Вы уже вложили в него невозвратные издержки (время, деньги, публичные заявления);

Убеждение имеет эмоциональные последствия (заметьте, это не делает его неверным);

Оно в целом переплелось с вашей личностью.

Ни один из этих тревожных признаков не является немедленным опровержением. Подобные свойства подвергают убеждение всевозможным опасностям и делают отказ от него крайне трудным, когда оно и в самом деле ошибочно. Но они в равной степени применимы как к вере Ричарда Докинза в эволюционную биологию, так и к католицизму Папы Римского. Это не означает, что мы говорим всего лишь о разных вкусах мороженого. Только невежественные люди думают, будто все глубокие убеждения находятся на одном уровне независимо от подтверждающих их доказательств, просто потому, что они глубокие. Цель не в том, чтобы иметь поверхностные убеждения, а в том, чтобы обладать картой, отражающей территорию.

Я подчёркиваю это, разумеется, для того, чтобы вы могли признаться себе: «Моё убеждение отмечено этими тревожными признаками», без необходимости тут же говорить себе: «Моё убеждение ложно».

Но на что эти тревожные знаки действительно указывают, так это на убеждение, для которого потребуется нечто гораздо большее, чем обычные усилия, чтобы усомниться в нём эффективно. Чтобы в случае, если оно действительно ложно, вы действительно смогли от него отказаться. А там, где вы не можете сомневаться эффективно, вы слепы, поскольку ваш мозг будет удерживать убеждение безусловно. Если сетчатка посылает один и тот же сигнал независимо от попадающих на неё фотонов, мы называем такой глаз слепым.

Когда же следует устраивать кризис веры?

Опять же, подумайте о совете, который вы дали бы теисту: если вы чувствуете внутреннюю неуверенность, но пытаетесь рационализировать причины, по которым ваше убеждение всё ещё незыблемо, то вам, вероятно, стоит устроить кризис веры. Если убеждение подтверждено так же надёжно, как закон гравитации,