Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

раньше это правило обычно давало хорошие результаты; и, используя простое предположение о простой Вселенной, я вижу, почему оно дает хорошие результаты; и я даже вижу, как мой мозг мог развиться в ходе эволюции так, чтобы быть способным наблюдать Вселенную с некоторой степенью точности, если мои наблюдения верны».

Но в таком случае... разве я только что не узаконил рассуждение по кругу?

На самом деле я лишь узаконил рефлексию над степенью надежности своего разума с помощью своего нынешнего разума, а не чего-то другого.

Подобная рефлексия — как раз та самая причина, по которой мы вообще отвергаем большинство рассуждений по кругу. Мы хотим иметь связную причинно-следственную историю о том, как наш разум приходит к знанию, историю, объясняющую, почему сам процесс, который мы использовали для формирования убеждений, заслуживает доверия. Это главное требование, стоящее за фундаментальным вопросом рационалиста: «Почему ты веришь в то, во что веришь?»

Теперь предположим, что вы пишете на листе бумаги: «(1) Все, что написано на этом листе бумаги, — правда, (2) Масса атома гелия равна 20 граммам». Если бы этот трюк действительно работал в реальной жизни, вы могли бы узнать истинную массу атома гелия просто на основании веры в утверждающее это круговое рассуждение. Что позволило бы вам составить верную карту Вселенной, сидя в своей гостиной с задернутыми шторами. Что нарушило бы второй закон термодинамики, создав информацию из ниоткуда. Что никак не назовешь правдоподобной историей о том, как ваш разум мог прийти к истинному убеждению.

Даже если бы вы изначально верили написанному на листке, у вас все равно не было бы никаких оснований полагать, что эта бумага соответствует реальности. Это было бы просто чудесным совпадением, что (а) масса атома гелия равна 20 граммам и (б) на бумаге написано именно это.

Вера в самоподтверждающиеся наборы утверждений в целом не кажется рабочим способом составления карты внешней реальности — когда мы рефлексируем над этим как над причинно-следственной историей о разуме — используя для этого, разумеется, наш нынешний разум.

Но как насчет эволюционной склонности оказывать больше доверия более простым убеждениям и верить, что алгоритмы, работавшие в прошлом, с большей вероятностью сработают в будущем? Даже когда мы рефлексируем над этим как над причинно-следственной историей происхождения разума, все равно кажется вполне правдоподобным, что это может работать для составления карты реальности.

А как насчет доверия к рефлексивной согласованности в целом? Разве большинство возможных разумов, если бы они были созданы случайным образом и пришли к состоянию рефлексивной согласованности, не ошибались бы? Ах, но ведь мы развились в результате естественного отбора; мы не были созданы случайно.

Если доверие к этому аргументу вызывает у вас беспокойство, то забудьте о проблеме философских обоснований и спросите себя, правда ли это на самом деле.

(Для этого вы, разумеется, будете использовать свой собственный разум.)

Не то же ли самое утверждает тот, кто говорит: «Я верю, что Библия — слово Божье, потому что так написано в Библии»?

Разве они не могут возразить, что их слепую веру тоже вложил в них Бог, а значит, ей можно доверять?

На самом деле, когда религиозные люди в конце концов приходят к отвержению Библии, они делают это не путём волшебного прыжка в нерелигиозное состояние чистой пустоты, оценки своих религиозных убеждений в этом нерелигиозном состоянии ума и последующего возвращения в новое состояние, из которого религиозные убеждения уже удалены.

Люди переходят от религиозности к нерелигиозности потому, что даже в религиозном состоянии ума закрадывается сомнение. Они замечают, что на их молитвы (и, что ещё хуже, на молитвы людей, которые кажутся куда более достойными) нет ответа. Они замечают, что Бог, который говорит с ними в их сердцах, давая, казалось бы, утешительные ответы об устройстве Вселенной, неспособен назвать им сотую цифру числа пи (что успокаивало бы куда сильнее, если бы целью Бога было успокоение). Они анализируют историю о сотворении мира Богом и проклятии неверующих, и она кажется нелогичной даже в рамках их собственных религиозных предпосылок.

Религиозность не лишает вас человеческих качеств. У вашего мозга остаются все способности человеческого мозга. Опасность в том, что религиозность может помешать вам применить эти врождённые способности к вашей религии — помешать вам в полной мере отрефлексировать самих себя. Люди исправляют свои ошибки не тем, что сбрасывают себя до состояния идеального философа чистой пустоты и заново переосмысливают весь свой чувственный опыт с нуля. Они исцеляются, обретая бóльшую готовность ставить под сомнение свои текущие убеждения, задействуя больше возможностей своего нынешнего разума.

Вот почему важно различать рефлексию над собственным разумом с помощью самого этого разума (вряд ли вы сможете использовать что-то другое) и наличие неоспоримого допущения, которое вы не можете отрефлексировать.

«Я верю, что Библия — слово Божье, потому что так написано в Библии». Что ж, если бы Библия была поразительно надёжным источником информации по всем остальным вопросам, если бы в ней не утверждалось, что у кузнечиков четыре ноги, а Вселенная была создана за шесть дней, а вместо этого приводилась периодическая система химических элементов за века до появления химии — если бы Библия приносила нам одну лишь пользу и сообщала только правду, — тогда мы, пожалуй, действительно были бы склонны серьёзно отнестись к дополнительному утверждению в Библии о том, что она была создана Богом. Мы могли бы не доверять ей полностью, ведь это могли быть и пришельцы, и Тёмные Владыки Матрицы, но это, по крайней мере, стоило бы принять во внимание.

Точно так же, если бы всё остальное, что говорили нам священники, оказывалось правдой, мы могли бы серьёзнее отнестись к их заявлению, что вера была вложена в нас Богом и является систематически надёжным источником — особенно если бы люди могли силой веры прозревать и сотую цифру числа пи.

Поэтому ценность осознания порочности круга в аргументе «Я верю, что Библия — слово Божье, потому что так написано в Библии» состоит не столько в том, что вы откажетесь от размышлений о собственном разуме с помощью этого же разума. Скорее вы понимаете, что всё, что ставит под сомнение надёжность Библии, также ставит под сомнение и её собственные заверения в этой надёжности.

Это применимо и к рациональности: если бы будущее перестало походить на прошлое — даже на самых низких, простых и стабильных из наблюдаемых уровней организации, — что ж, по большей части я был бы мёртв, поскольку процессы в моём мозгу требуют закономерной Вселенной, в которой продолжает работать химия.