Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Если вы предположите, что фотон исчезает, когда вы на него больше не смотрите, это будет добавочным законом в вашей модели Вселенной. А по закону бережливости дорого обходятся именно законы как «сущности». Дополнительные же кварки бесплатны.

Сводится ли всё к утверждению: «Я верю, что фотон продолжает существовать, уносясь в никуда, потому что мои априорные вероятности говорят, что продолжать существовать для него проще, чем исчезнуть»?

Сначала я думал именно так, но, поразмыслив, понял, что это не совсем верно. (И не только потому, что это открывает простор для очевидных злоупотреблений.)

Я бы свёл всё к различению между верой в подразумеваемое невидимое и верой в добавочное невидимое.

Когда вы верите, что фотон продолжает существовать, уносясь в бесконечность, вы не верите в это как в добавочный факт.

То, во что вы верите (чему присваиваете вероятность) — это набор простых уравнений; вы верите, что эти уравнения описывают Вселенную. Вы верите в эти уравнения, потому что это простейшие уравнения, которые вы смогли найти для описания имеющихся свидетельств. Эти уравнения в высокой степени проверяемы экспериментально; они объясняют колоссальные объёмы свидетельств, наблюдавшихся в прошлом, и предсказывают результаты многих наблюдений в будущем.

Вы верите в эти уравнения, и то, что фотон продолжает существовать, уносясь в никуда — это логическое следствие этих уравнений, так что вы верите и в это тоже.

Ваши априорные вероятности — или даже ваши вероятности вообще — не говорят о фотоне напрямую. Вы приписываете вероятность не фотону, а общим законам. Приписывая вероятность известным нам законам физики, вы автоматически переносите эту же вероятность на то, что фотон продолжит существовать на своём пути в никуда — если, конечно, вы признаёте логические следствия собственных убеждений.

Дело не в том, что вы верите в невидимое как таковое, исходя из рассуждений о невидимых вещах. Скорее, экспериментальные свидетельства подтверждают определённые законы, а вера в эти законы логически подразумевает существование определённых сущностей, с которыми вы не можете взаимодействовать. Это вера в подразумеваемое невидимое.

С другой стороны, если бы вы верили, что фотон был сожран до полного исчезновения Летающим Макаронным Монстром — возможно, лишь в этот единственный раз — или если бы вы без всяких причин верили, что фотон на пути вовне столкнулся с пылинкой, — тогда вы верили бы в конкретное добавочное невидимое событие само по себе. Если бы вы думали, что подобные вещи происходят в целом, вы верили бы в конкретный добавочный невидимый закон. Это вера в добавочное невидимое.

Чтобы прояснить, зачем вообще может понадобиться думать о подразумеваемом невидимом, представьте, что вы собираетесь запустить космический корабль на околосветовой скорости к далёкому сверхскоплению галактик. К тому времени, как корабль доберётся туда и оснует колонию, расширение Вселенной ускорится настолько, что колонисты никогда не смогут отправить сообщение обратно. Считаете ли вы, что чисто альтруистические усилия по основанию этой колонии стоят того — ради всех тех людей, которые будут там жить и будут счастливы? Или же вы думаете, что корабль просто исчезнет из бытия до того, как доберётся до цели? В какой-то момент это может стать весьма реальным вопросом.

Надо признать, всё было бы гораздо проще, если бы мы могли раз и навсегда исключить существование сущностей, с которыми не можем взаимодействовать — просто сделав так, чтобы Вселенная переставала существовать на границе видимости наших телескопов. Но для этого нам пришлось бы вести себя крайне глупо.

Утверждение, что вам никогда не должна требоваться отдельная и добавочная вера в невидимое — что вы верите лишь в то невидимое, которое является логическим следствием общих законов, которые сами по себе проверяемы, и даже в этом случае не имеете на его счёт никаких дальнейших убеждений, не являющихся логическими следствиями наглядно проверяемых общих правил, — действительно, похоже, исключает любые злоупотребления верой в невидимое при правильном применении.

Возможно, мне следовало бы сказать: «вам следует присваивать неизменную априорную вероятность добавочному невидимому», вместо того чтобы говорить: «не верьте в него». Но если вы думаете об убеждении как о чём-то добавочном с точки зрения свидетельств, о чём-то, что вы даёте себе труд отслеживать, о чём-то, для чего вы утруждаете себя подсчётом аргументов за или против, то сомнительно, стоит ли нам вообще иметь добавочные убеждения о добавочном невидимом.

Существуют экзотические случаи, нарушающие это в теории. (Например: эпифеноменальные демоны наблюдают за вами и будут пытать 3 ↑↑↑ 3 жертв в течение года где-то там, где вы никогда не сможете проверить это событие, если вы хоть раз произнесёте слово «Ниблик».) Но я не могу припомнить ни одного случая, когда бы этот принцип давал сбой в человеческой практике.

*

226. Зомби: Фильм.

ИЗ ЗАТЕМНЕНИЯ. Серьезного вида группа военных офицеров в форме сидит за столом. Во главе стола говорит пожилой, грузный мужчина, ГЕНЕРАЛ ФРЕД.

ГЕНЕРАЛ ФРЕД: Отчеты подтвердились. Нью-Йорк наводнен... зомби.

ПОЛКОВНИК ТОДД: Опять? Но ведь у нас только 28 дней назад было нашествие зомби!

ГЕНЕРАЛ ФРЕД: Эти зомби... другие. Они... философские зомби.

КАПИТАН МАДД: Они охвачены яростью и кусают людей?

ПОЛКОВНИК ТОДД: Они утратили всякую способность мыслить разумно?

ГЕНЕРАЛ ФРЕД: Нет. Они ведут себя... точно так же, как мы... за исключением того, что у них нет сознания.

(За столом воцаряется молчание.)

ПОЛКОВНИК ТОДД: Боже правый.

ГЕНЕРАЛ ФРЕД подходит к компьютерному дисплею.

ГЕНЕРАЛ ФРЕД: Это Нью-Йорк две недели назад.

На дисплее показаны толпы людей, снующих по улицам, посетители в ресторанах, мусоровоз, увозящий мусор.

ГЕНЕРАЛ ФРЕД: А это... Нью-Йорк... сейчас.

Изображение меняется: переполненный вагон метро, стайка смеющихся студентов в парке, пара, держащаяся за руки под лучами солнца.

ПОЛКОВНИК ТОДД: Это хуже, чем я воображал.

КАПИТАН МАДД: А как именно вы это определили?

ПОЛКОВНИК ТОДД: Никогда еще я не видел ничего настолько жестоко обыденного.

В конце стола поднимается УЧЕНЫЙ в белом халате.

УЧЕНЫЙ: Болезнь зомби уничтожает сознание, никак не меняя мозг. Мы пытались понять, как передается это заболевание. Наш вывод таков: поскольку болезнь атакует дуальные свойства обычной материи, сама она должна действовать за пределами нашей вселенной. Мы имеем дело с эпифеноменальным вирусом.

ГЕНЕРАЛ ФРЕД: Вы уверены?

УЧЕНЫЙ: Настолько, насколько можно быть уверенными при полном отсутствии доказательств.

ГЕНЕРАЛ ФРЕД: Хорошо. Составьте отчет по каждому когда-либо наблюдавшемуся эпифеномену. Что, где