Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

можете не беспокоиться, — но подумайте обо всех теистах, которые отчаянно хотят верить, что существование Бога так же очевидно, как гравитация. Так что попробуйте представить, что скептики возразили бы на ваш аргумент об «очевидности гравитации». Несомненно, одна из причин, почему вы можете потерпеть неудачу в кризисе веры, заключается в том, что вы вообще никогда не садитесь и не задаётесь вопросами — никогда не говорите себе: «Вот то, в чём мне нужно приложить усилия, чтобы усомниться должным образом».

Если ваши мысли заходят так далеко, сделайте это — устройте кризис веры. Не пытайтесь делать это наспех, урывками, в случайно подвернувшуюся свободную минуту. Не торопитесь покончить с этим побыстрее, чтобы потом сказать: «Я сомневался, как и был обязан». С теистом это бы не сработало, не сработает и с вами. Хорошо отдохните накануне, чтобы ваш разум был в отличной форме. Выделите несколько часов, когда вас никто не побеспокоит. Найдите тихое место, где можно присесть. Очистите свой разум от всех стандартных аргументов, попробуйте взглянуть на вещи с чистого листа. И приложите отчаянное усилие, чтобы породить истинное сомнение, способное разрушить ложное — и только ложное — глубоко укоренившееся убеждение.

Элементы техники кризиса веры были разбросаны по многим эссе:

Избегание настоящих уязвимых мест своего убеждения. Один из первых соблазнов в кризисе веры — подвергнуть сомнению самые сильные стороны своего убеждения, просто чтобы отрепетировать хорошие ответы. Вам нужно искать самые болезненные места, а не те аргументы, размышление над которыми успокаивает.

Медитация на любопытство — Роджер Желязны однажды провел различие между «желанием быть писателем» и «желанием писать». Точно так же существует различие между желанием иметь за плечами проведённое исследование и желанием исследовать. Недостаточно сказать: «Мой долг — критиковать свои собственные убеждения»; вы должны испытывать любопытство, а любопытство может породить только неопределенность. Памятование о законе сохранения ожидаемого свидетельства может помочь вам обновляться постепенно: для каждого отдельного пункта, который вы рассматриваете, и для каждого элемента нового аргумента или нового свидетельства вы не должны ожидать, что ваши убеждения сдвинутся (в среднем) в одну сторону сильнее, чем в другую — благодаря этому вы каждый раз сможете испытывать искреннее любопытство относительно того, как всё обернется.

Непосредственное видение — Используйте технику Пирсига, чтобы не дать стандартным закэшированным мыслям ворваться и достроить шаблон.

Литания Джендлина и литания Тарского — Люди могут вынести истину, ведь они уже её выносят. Если убеждение истинно, вам будет лучше верить в него, а если оно ложно — вам будет лучше его отвергнуть. Вы бы посоветовали верующему человеку попытаться полностью и глубоко представить себе мир, в котором Бога нет, и без всяких оправданий прийти к полному пониманию того, что если Бога нет, то им будет лучше верить, что Его нет. Если человек не может принять это на глубоком эмоциональном уровне, он не сможет пройти через кризис веры. Поэтому вам следует приложить искренние усилия, чтобы представить себе альтернативу вашему убеждению — именно так, как этого потребовал бы от вас самый лучший и благородный скептик. Подумайте, какие усилия пришлось бы приложить верующему, чтобы представить — не искажая ради собственного комфорта — атеистическую картину Вселенной.

Приложите экстраординарное усилие — Обратитесь к концепции иссёкэнмэй, отчаянному, судорожному усилию быть рациональным — усилию, которое потребуется, чтобы превзойти уровень Роберта Аумана и всех тех великих ученых в истории, которые так и не смогли отказаться от своей религии.

Генетическая эвристика — Вам следует быть крайне подозрительным, если у вас есть множество идей, подсказанных источником, который, как вы теперь знаете, не заслуживает доверия, но надо же — оказывается, все эти идеи до единой всё равно верны. (Например, когда человек признает, что Библия была написана людьми, но всё равно цепляется за мысль, что она содержит незаменимую этическую мудрость.)

Важность умения сказать «Ой» — Проглотить горькую пилюлю целиком, одним ужасным глотком, действительно менее болезненно.

Одномыслие — Противоположность двоемыслия. Замечайте мысли, от которых вы вздрагиваете, которые на мгновение возникают на задворках вашего разума, прежде чем вы откажетесь о них думать. Если вы осознаете то, о чем вы не думаете, вы сможете об этом подумать.

Аффективные спирали смерти и Сопротивление счастливой спирали смерти — Аффективные спирали смерти — главные генераторы ложных убеждений, для избавления от которых потребуется кризис веры. Но поскольку аффективные спирали смерти могут закручиваться и вокруг реальных вещей, которые действительно хороши, вам не обязательно признавать своё убеждение ложью, чтобы пытаться противостоять эффекту ореола на каждом шагу — отвергайте фальшивую похвалу даже в отношении действительно хороших вещей. Дебаты о решениях не должны казаться односторонними.

Отложите предложение решений — Не предлагайте никаких решений, пока проблема не будет обсуждена как можно более подробно. Заставьте свой разум повременить с окончательным ответом; и пробуйте в течение пяти минут, прежде чем сдаться — как в целом, так и особенно при отстаивании точки зрения адвоката дьявола.

И эти стандартные техники здесь особенно актуальны:

Цепочка статей про «Итоговую строку» и «Рационализацию», объясняющая, почему всегда неверно избирательно аргументировать в пользу только одной стороны дискуссии.

Положительное искажение, мотивированный скептицизм и мотивированная остановка, дабы вы не искали избирательно подтверждения, не искали избирательно контраргументы против контраргументов и не останавливали спор избирательно, прежде чем он станет опасным. Упущенные альтернативы — частный случай остановки. Частным случаем мотивированного скептицизма является ложная скромность, когда вы застенчиво признаетесь, что никто не может знать того, чего вы сами предпочли бы не знать. Не предъявляйте избирательно завышенных требований к авторитетности контраргументов.

Остерегайтесь семантических знаков «Стоп», светящихся табло «Аплодисменты» и вашего выбора между «Объяснять/Поклоняться/Игнорировать».

Ощутите тяжесть обременительных деталей; каждая деталь — это отдельное бремя, точка кризиса.

Но на самом деле подходящих материалов довольно много — и здесь, и на Overcoming Bias. Кризис веры — это лишь переломный момент и внезапное столкновение в рамках гораздо более длительного иссёкэнмэй — пожизненного бескомпромиссного стремления быть настолько невероятно рациональным, чтобы подняться выше уровня дурацких чертовых ошибок. Именно в этот момент вам выпадает шанс применить навыки, которые вы так долго оттачивали, в полную силу против самого себя.

Желаю вам удачи в борьбе с вашим противником. Прекрасного вам кризиса!

*

130. Ритуал.

Комната, в которой Джеффриссай принимал посетителей из числа не-бейсуцаев, отличалась сдержанной официальностью и была безупречно обставлена в самом консервативном вкусе. Солнечный свет и наружный воздух струились сквозь решетку из полированного серебра,