Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Если ваша цель — развить в себе общую способность формировать более точные убеждения, возможно, будет полезно не концентрироваться на столь эмоционально заряженных темах, как аборты или израильско-палестинский конфликт. Но дело не в том, будто рационалист слишком зрел, чтобы говорить о политике. И не в том, будто рационалист возвышается над этой глупой потасовкой, до участия в которой опускаются лишь обычные партийные активисты да юным энтузиастам.

Как пишет Робин Хансон, способность вести потенциально конфликтные разговоры — это ограниченный ресурс. Если вы видите способ потянуть канат в сторону, вы имеете полное право тратить свои ограниченные ресурсы на относительно менее популярные вопросы, где дополнительное обсуждение приносит относительно более высокую предельную отдачу.

Но тогда обязанности, которые вы отодвигаете на второй план, — это лишь вопрос ограниченности ваших ресурсов. А вовсе не следствие того, что вы парите высоко в небесах, безмятежный и Мудрый.

Мой ответ на комментарий Пола Грэма на Hacker News, пожалуй, заслуживает того, чтобы повторить его здесь в качестве резюме:

Есть разница между:

Вынесением нейтрального суждения;

Отказом от траты дополнительных ресурсов;

Притворством, будто любое из вышеперечисленного — признак глубокой мудрости, зрелости и превосходства вашей точки обзора, с сопутствующим намеком на то, что спорящие стороны занимают более низкие позиции, разница между которыми сверху кажется несущественной.

*

1. Паулу Фрейре, «Политика образования: культура, власть и освобождение» (Greenwood Publishing Group, 1985), 122.

16. Притязания религии на неопровержимость. Самое раннее из известных мне описаний научного эксперимента — это, как ни иронично, история об Илии и жрецах Ваала.

Народ Израиля колеблется между Иеговой и Ваалом, поэтому Илия объявляет, что проведет эксперимент, дабы разрешить спор — весьма новое слово для тех времен! Жрецы Ваала положат своего быка на жертвенник, а Илия положит на жертвенник быка Иеговы, но ни тому, ни другому не будет позволено разводить огонь. Тот Бог, который истинен, сам ниспошлет огонь на свою жертву. Жрецы Ваала служат Илии контрольной группой: те же дрова, тот же бык и те же жрецы, совершающие призывания, но к ложному богу. Затем Илия поливает свой жертвенник водой — нарушая симметрию эксперимента, но это было на заре науки, — дабы обозначить сознательное принятие бремени доказывания, подобно требованию уровня значимости в 0,05. Огонь нисходит на жертвенник Илии, что является результатом экспериментального наблюдения. Наблюдающий за этим народ Израиля восклицает: «Господь есть Бог!» — рецензирование.

А затем люди уводят 450 жрецов Ваала к потоку Киссону и перерезают им глотки. Сурово, но необходимо. Вы должны решительно отвергнуть опровергнутую гипотезу, и сделать это быстро, пока она не успела породить оправдания для собственной защиты. Если позволить жрецам Ваала выжить, они начнут лепетать о том, что религия — это отдельный магистериум, который нельзя ни доказать, ни опровергнуть.

В прежние времена люди действительно верили своим религиям, а не просто верили в них. Библейские археологи, отправлявшиеся на поиски Ноева ковчега, не думали, что тратят время впустую; они рассчитывали прославиться. Лишь после того, как им не удалось найти подтверждающих доказательств — а вместо них обнаружились опровергающие, — верующие совершили то, что Уильям Бартли назвал отступлением к приверженности: «Я верю, потому что верю».

В прежние времена не существовало концепции религии как отдельного магистериума. Ветхий Завет — это своего рода поток сознания культуры, свалка всего подряд: истории, законов, нравоучительных притч и, да, моделей устройства Вселенной. Ни в одном пассаже Ветхого Завета вы не найдете рассуждений о трансцендентном трепете перед сложностью Вселенной. Но зато там полно научных утверждений — например, о том, что Вселенная была создана за шесть дней (что является метафорой Большого взрыва), или о том, что зайцы жуют жвачку (что является метафорой...).

В прежние времена за слова о том, что местную религию «невозможно доказать», вас бы сожгли на костре. Одно из центральных верований ортодоксального иудаизма заключается в том, что Бог явился на горе Синай и громовым голосом произнес: «Да, всё это правда». С байесовской точки зрения это чертовски недвусмысленное доказательство существования сущности со сверхчеловеческим могуществом. (Хотя это и не доказывает, что данная сущность является Богом как таковым или что она доброжелательна — это вполне могли быть инопланетные подростки.) Подавляющее большинство религий в истории человечества — за исключением разве что изобретенных крайне недавно — рассказывают о событиях, которые, произойди они на самом деле, послужили бы абсолютно бесспорными доказательствами. Ортогональность религии и фактологических вопросов — это недавняя и сугубо западная концепция. Авторы оригинальных священных текстов даже не видели разницы.

Римская империя унаследовала философию от древних греков, насаждала закон и порядок в своих провинциях, вела бюрократический учет и принудительно поддерживала религиозную терпимость. Как следствие, Новый Завет, созданный во времена Римской империи, несет на себе некоторые следы современности. Вы не могли сочинить историю о том, как Бог полностью стер с лица земли город Рим (а-ля Содом и Гоморра), потому что римские историки уличили бы вас во лжи, а побить их камнями за это было нельзя.

Напротив, люди, сочинявшие истории Ветхого Завета, могли выдумывать практически все, что им вздумается. Первые египтологи были искренне потрясены, не обнаружив ни единого следа пребывания еврейских племен в Египте. Они не ожидали найти записи о Десяти казнях египетских, но рассчитывали найти хоть что-то. Как выяснилось, кое-что они все-таки нашли. Они выяснили, что в предполагаемый период Исхода Египет правил большей частью Ханаана. Это одна огромная историческая ошибка, но когда нет библиотек, уличить вас некому.

В Римской империи библиотеки были. Поэтому Новый Завет не заявляет о масштабных, зрелищных, геополитических чудесах, какими изобилует Ветхий Завет. Вместо этого Новый Завет описывает чудеса поменьше, которые, тем не менее, укладываются в ту же систему доказательств. Мальчик падает, и у него идет пена изо рта; причина тому — нечистый дух; резонно ожидать, что нечистый дух побежит от истинного пророка, но не побежит от шарлатана; Иисус изгоняет нечистого духа; следовательно, Иисус — истинный пророк, а не шарлатан. Это совершенно обычное байесовское рассуждение, если принять базовую посылку, что эпилепсия вызывается демонами (а прекращение эпилептического припадка доказывает, что демон сбежал).

Религия в прошлом не просто претендовала на истинность в фактологических и научных вопросах — она претендовала вообще на всё. Религия устанавливала свод законов —