Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Иными словами, Перри понимал, что каждую неделю на службе он рискует самим своим существованием. И дело не в том, будто он, подобно большинству людей в истории, знал, что волен выбирать лишь то, как умереть, и решил придать этой смерти смысл, — нет, Перри был трансгуманистом, у него была настоящая надежда. И всё же Перри выходил на службу и рисковал жизнью. Не потому, что ждал какой-то божественной награды. И не потому, что надеялся почувствовать хоть что-то после смерти. Но потому, что другие люди были в опасности, у них тоже не было бессмертных душ, а его надежда на жизнь стоила не больше, чем их собственная.

Я не знал Джона Перри лично. Не знаю, смотрел ли он на мир именно так. Но сам факт того, что атеист и трансгуманист может служить в полиции и вбежать в вестибюль горящего здания, говорит о величии человеческого духа куда больше, чем все мученики, когда-либо уповавшие на Царствие Небесное.

Итак, вот один конкретный полицейский...

...а теперь поговорим о супергерое.

Как рассказывают христиане, Иисус Христос мог ходить по воде, усмирять бури и изгонять бесов одним словом. Должно быть, это была весьма комфортная жизнь. Проблема с голодом? Отксерокопируй немного хлеба. Не нравится дерево? Прокляни его. Проблема с римлянами? Натрави на них своего папу. В конце концов эта сказочная жизнь закончилась, когда Иисус добровольно отдался на распятие. Быть прибитым к кресту — не самый приятный способ умереть. Но в христианском изложении Иисус пошел на это, зная, что через три дня воскреснет, а затем отправится на Небеса. Какая же угроза побудила Иисуса перенести эти временные страдания, за которыми следовала вечность в раю? Была ли это жизнь одного человека? Была ли это коррумпированность иудейской церкви или гнет Рима? Нет: в христианском изложении на кон была поставлена вечная судьба всего человечества, прежде чем Иисус позволил временно прибить себя к кресту.

Но я не хочу осуждать человека, который не совершал ничего столь предосудительного. Что, если Иисус — нет, давайте произносить его имя правильно: Йешу, — что, если Йешу из Назарета никогда не ходил по воде и тем не менее бросил вызов иудейской церкви, поддерживаемой властью Рима?

Разве это не заслуживает большего почтения, чем то, которое воздается Иисусу Христу, бывшему всего лишь мессией?

Увы, почему-то нам кажется более великим герой со стальной кожей и божественными силами. Почему-то кажется, что умереть на время ради спасения всего мира — это большее благородство, чем умереть навсегда, противостоя коррумпированной церкви. Это кажется столь обыденным, будто множество других людей в истории поступали так же.

Уютно устроившись две тысячи лет спустя в будущем, мы можем критиковать Йешу на все лады, но Йешу делал то, что считал правильным, противостоял церкви, которую считал коррумпированной, и умер за это. Не обладая послезнанием, он едва ли мог предсказать истинное влияние своей жизни на мир. По сравнению с большинством других пророков его эпохи он, вероятно, был относительно более честен, относительно менее склонен к насилию и относительно более смел. Если отбросить непреднамеренные последствия, то худшее, что можно сказать о Йешу, — это то, что другие исторические фигуры справились лучше. (На ум приходят Эпикур, Будда и Марк Аврелий.) Йешу умер навсегда, и — с определенной точки зрения — сделал это ради честности. За полторы тысячи лет до появления науки словосочетание «религиозная честность» не было оксюмороном.

Как писал Сэм Харрис:1

Недостаточно того, что Иисус был человеком, изменившим себя до такой степени, что Нагорная проповедь могла стать исповедью его сердца. Ему также надлежало быть Сыном Божьим, рожденным девой, которому суждено вернуться на землю в облаках славы. Подобная догма навсегда делает пример Иисуса недосягаемым. Его учение перестает быть набором эмпирических утверждений о связи этики и духовного прозрения, превращаясь вместо этого в беспочвенную и довольно жуткую сказку. Согласно догматам христианства, стать таким же, как Иисус, невозможно. Человеку остается лишь перечислять свои грехи, верить в невероятное и ждать конца света.

Я очень сильно сомневаюсь, что Йешу действительно произносил Нагорную проповедь. Тем не менее Йешу заслуживает почтения. Он заслуживает большего почтения, чем готовы выказать ему христиане.

Но поскольку Йешу, вероятно, ожидал, что его душа продолжит жить, он заслуживает не большего почтения, чем Джон Перри.

*

1. Сэм Харрис, Конец веры: религия, террор и будущее разума (W. W. Norton & Company, 2005).

106. Аффективные спирали смерти.

Много, невероятно много изъянов в человеческом мышлении заставляют нас переоценивать то, насколько хорошо наша любимая теория объясняет факты. Химическая теория флогистона могла объяснить практически всё, что угодно — при условии, что ей не требовалось предсказывать это заранее. И чем больше явлений вы объясняете с помощью любимой теории, тем более истинной она кажется — разве её не подтверждают все эти многочисленные наблюдения? По мере того как теория кажется всё более верной, вы с большей вероятностью начнёте подвергать сомнению свидетельства, которые ей противоречат. По мере того как любимая теория кажется всё более универсальной, вы будете стремиться использовать её для всё новых и новых объяснений.

Если вы знаете кого-то, кто верит, что Бельгия тайно контролирует банковскую систему США или что с помощью невидимой голубой духовной силы можно находить свободные места на парковке, — скорее всего, именно так всё у них и началось.

(Просто понаблюдайте, и вы заметите массу вещей, которые будто бы подтверждают эту теорию...)

Этот цикл положительной обратной связи между легковерием и подтверждением действительно страшен и повинен во множестве ошибок как в науке, так и в повседневной жизни.

Но всё это ничто по сравнению со спиралью смерти, которая начинается с заряда положительного аффекта — мысли, которая кажется невероятно приятной.

Новая политическая система, способная спасти мир. Великий лидер — сильный, благородный и мудрый. Потрясающий тоник, который лечит расстройство желудка и рак.

Чёрт возьми, почему бы не замахнуться на все три? Великому делу нужен великий лидер. А великий лидер наверняка сумеет сварить парочку волшебных тоников.

Эффект ореола заключается в том, что любая воспринимаемая положительная характеристика (например, привлекательность или сила) усиливает восприятие любой другой положительной характеристики (например, ума или мужества). Даже когда в этом нет никакого смысла — или когда это вообще лишено всякого смысла.

Положительные характеристики усиливают восприятие всех остальных положительных характеристик? Это очень похоже на