Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

между рациональностью и рационализацией. Избиратели больше не могут основывать свои суждения только на фактах; им приходится учитывать и дополнительный факт их подачи, делая выводы о существовании скрытых свидетельств.

На самом деле вы перешли черту ещё в тот момент, когда начали взвешивать, выгоден опросник вашему кандидату или нет, прежде чем решить, стоит ли его публиковать. «Что?! — восклицаете вы. — Штаб должен публиковать факты, невыгодные для своего кандидата?» Но поставьте себя на место избирателя, который всё ещё пытается сделать выбор: зачем вам утаивать полезную информацию? Будь вы искренне любопытны, вы бы не стали этого делать. Если бы вы двигались вперёд — от свидетельств к ещё не сделанному выбору кандидата, а не назад — от уже выбранного кандидата к подбору аргументов.

«Логичный» аргумент — это аргумент, который следует из своих посылок. Таким образом, следующее рассуждение нелогично:

Все прямоугольники — четырёхугольники.

Все квадраты — четырёхугольники.

Следовательно, все квадраты — прямоугольники.

Этот силлогизм не спасает от логической несостоятельности ни истинность его посылок, ни даже истинность его вывода. Важно отличать логические умозаключения от нелогичных и отказываться оправдывать последние, даже если их выводы случайно оказались верными. Во-первых, это различие может повлиять на то, как мы пересматриваем свои убеждения в свете новых свидетельств. Во-вторых, небрежность входит в привычку.

Прежде всего, этот силлогизм не даёт истинного объяснения. Возможно, все квадраты и являются прямоугольниками, но если так, то вовсе не потому, что и те и другие — четырёхугольники. Его можно назвать лицемерным силлогизмом — таким, где заявленные причины оторваны от реальных.

Если вы действительно хотите представить честный, рациональный аргумент в пользу своего кандидата во время политической кампании, есть только один способ это сделать:

Ещё до того, как вас кто-либо наймёт, соберите все возможные сведения о различных кандидатах.

Составьте контрольный список критериев, по которому вы сами определите, какой кандидат кажется лучшим.

Пройдитесь по этому списку.

Придите к победившему кандидату.

Предложите стать руководителем его кампании.

Когда у вас попросят агитационные материалы, распечатайте свой контрольный список.

Только так вы сможете предложить рациональную цепочку аргументов — такую, чей итоговый вывод был записан при движении вперёд от строк над ним. Лишь то, что на самом деле определяет ваш итоговый вывод, вы и можете честно написать на строках выше.

*

74. Избегание реальных слабых мест своих убеждений.

Несколько лет назад умерла моя прабабушка. Ей было за девяносто, и смерть последовала за долгим, медленным и жестоким угасанием. Я не знал её как личность, но в моём далёком детстве она готовила для всей семьи; я помню её гефилте фиш, её лицо и то, как добра она была ко мне. На её похоронах выступал мой двоюродный дедушка, который ухаживал за ней долгие годы. Сдерживая слёзы, он сказал, что Бог забирал его мать по частям: сначала память, затем речь, а в самом конце — улыбку; и когда Бог наконец забрал её улыбку, он понял, что развязка близка, ведь это означало, что её самой уже почти не осталось.

Услышав это, я пришёл в недоумение: ведь это невообразимо ужасная участь для кого бы то ни было, и поэтому я никак не ожидал, что мой двоюродный дедушка припишет подобное Богу. Обычно иудей старается просто-не-думать о логическом следствии того, что Бог допустил трагедию. Согласно иудейской теологии, Бог непрерывно поддерживает существование Вселенной и определяет каждое событие в ней; но обычно подобные логические выводы приберегаются для более радостных поводов. Восклицая «Это совершил Бог!» только тогда, когда вас благословляют рождением дочери, и просто-не-думая «Это совершил Бог!» при выкидышах, мертворождениях и смертях младенцев в колыбели, можно составить весьма однобокое представление о благости вашего Бога.

Поэтому я и удивился, услышав, как двоюродный дедушка приписывает медленное угасание своей матери преднамеренному, стратегически спланированному деянию Бога. Это нарушало правила религиозного самообмана в том виде, в каком я их понимал.

Обрати я тогда внимание на собственное замешательство, я мог бы сделать успешное и неожиданное предсказание. Вскоре после этого мой двоюродный дедушка оставил иудейскую религию. (Насколько я знаю, он единственный, помимо меня, член нашей большой семьи, кто так поступил.)

Современный ортодоксальный иудаизм не похож ни на одну другую религию, о которой я когда-либо слышал, и я даже не знаю, как описать его тому, кого не заставляли изучать Мишну и Гемару. Там существует традиция задавать вопросы, но какого рода эти вопросы… Никого бы не удивило, если бы раввин в своей еженедельной проповеди указал на противоречие между семью днями творения и 13,7 миллиарда лет, прошедших со времён Большого взрыва, — просто потому, что он считает, будто нашёл очень хитроумное объяснение, включающее в себя три другие библейские отсылки, Мидраш и полупонятую статью из Scientific American. В ортодоксальном иудаизме разрешается замечать несоответствия и противоречия, но только ради того, чтобы их сгладить, и тот, кто придумает самое сложное объяснение, получает главный приз.

Существует традиция исследования. Но вы атакуете мишени только ради того, чтобы их защитить. Вы нападаете лишь на то, что заведомо можете отстоять.

В современном ортодоксальном иудаизме я не замечал, чтобы особо превозносили добродетель слепой веры. Сомневаться разрешено. Запрещено лишь сомневаться успешно.

Полагаю, подавляющее большинство образованных ортодоксальных иудеев в какой-то момент жизни сомневалось в своей вере. Но эти сомнения, скорее всего, выглядели примерно так: «Скептики утверждают, будто Тора говорит, что Вселенная была создана за семь дней, а это ненаучно. Но смогли бы древние израильтяне, собравшиеся у горы Синай, понять научную истину, даже если бы им её изложили? Было ли у них вообще слово „миллиард“? Проще смотреть на историю о семи днях как на метафору: сначала Бог создал свет, что символизирует Большой взрыв…»

Но разве это самое слабое место, с которого стоит атаковать собственный иудаизм? Прочтите Тору чуть дальше, и вы увидите, как Бог убивает египетских первенцев мужского пола, чтобы убедить невыборного фараона отпустить рабов, которых логически можно было бы просто телепортировать из страны. Ортодоксальный иудей, безусловно, знаком с этим эпизодом, ведь всю Тору целиком положено прочитывать в синагоге раз в год, а само это событие связано с важнейшим праздником. Название «Песах» происходит от того, что Бог миновал еврейские дома, убивая каждого первенца мужского пола в Египте.

Современные ортодоксальные иудеи в большинстве своём — добрые и цивилизованные люди, гораздо более цивилизованные, чем редакторы Ветхого Завета. Даже древние раввины были цивилизованнее. В Седере