Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

из ноздрей, обладает рентгеновским слухом, а его кожа не просто отражает пули, а аннигилирует их при соприкосновении. Злодей засел в начальной школе и взял в заложники более двухсот детей; их родители плачут на улице, ожидая развязки.

В другой реальности герой — полицейский из Нью-Йорка, а заложники — три проститутки, которых злодей подобрал на улице.

Задумайтесь над этим вопросом очень серьезно: кто из них больший герой? И у кого больше шансов получить собственную серию комиксов?

Эффект ореола заключается в том, что восприятие всех положительных качеств взаимосвязано. Профили людей, получившие более высокие оценки по шкале привлекательности, также оцениваются выше по шкалам таланта, доброты, честности и интеллекта.

И поэтому персонажи комиксов, которые кажутся сильными и неуязвимыми (что само по себе положительные черты), также кажутся наделенными большей отвагой и героизмом. И тем не менее:

Насколько тяжело корчить из себя храбреца и смельчака, когда ты практически неуязвим?

— Адам Уоррен, Empowered, том 11

Не помню, прочитал ли я следующую мысль где-то или додумался до нее сам: известность, судя по всему, суммируется со всеми остальными чертами личности. Вспомните Ганди. Был ли Ганди самым альтруистичным человеком двадцатого века или просто самым известным альтруистом? Ганди противостоял полицейским с дубинками и солдатам с ружьями. Но Ганди был знаменитостью, и его защищала его слава. А как насчет остальных участников марша — людей, которые шли навстречу дубинкам и пулям, хотя их госпитализация или смерть от пуль не попали бы в международные заголовки?

Что думал Ганди о том, что получает все заголовки газет, известность, славу, место в истории, становясь архетипом ненасильственного сопротивления, в то время как он рисковал меньше, чем любой из шедших рядом с ним людей? Что он чувствовал, когда один из этих безымянных героев подходил к нему с горящими глазами и говорил Ганди, какой тот замечательный? Представлял ли Ганди когда-нибудь свой мир в таких терминах? Я не знаю, я не Ганди.

Это ни в коем случае не критика Ганди. Суть ненасильственного сопротивления не в том, чтобы хвастаться мужеством. Этого можно гораздо проще достичь, спустившись по Ниагарскому водопаду в бочке. Ганди не мог ничего поделать с тем, что слава в какой-то мере (пусть и не полностью) защищала его. И поступки Ганди действительно требовали мужества — пусть и не столь огромного, как безвестное участие в марше, но все же очень большого.

Искажение, на которое я хочу указать, заключается в том, что показатель славы Ганди в нашем восприятии как будто суммируется с его заслуженным показателем альтруизма. Когда вы думаете о ненасилии, вы вспоминаете Ганди, а не безымянную протестующую на одном из его маршей, которая шла навстречу полицейским дубинкам и оружию, была избита, попала в больницу, хромала всю оставшуюся жизнь — и чье имя никто никогда не вспоминал.

Аналогично: что величественнее — рискнуть жизнью ради спасения двухсот детей или рискнуть жизнью ради спасения троих взрослых?

Ответ зависит от того, что понимать под словом «величественнее». Если вам когда-нибудь придется выбирать между спасением двухсот детей и спасением троих взрослых, выбирайте первое. Изречение «Кто спасает одну жизнь, как будто спасает целый мир» может служить отличным лампочкой «Аплодисменты», но это ужасный этический совет, если вам действительно приходится выбирать одно из двух. Так что если под словом «величественнее» вы имеете в виду «Что важнее?», или «Какой исход предпочтительнее?», или «Что мне выбрать, если придется делать выбор?», то спасти двести человек величественнее, чем троих.

Но если вы спрашиваете о величии в смысле проявленной добродетели, то человек, готовый рискнуть жизнью ради спасения всего лишь троих, проявляет больше мужества, чем тот, кто рискнул бы жизнью ради спасения двухсот детей, но не стал бы рисковать ради троих.

Это не означает, что вы можете намеренно решить рискнуть жизнью ради спасения троих взрослых и бросить на произвол судьбы двести школьников просто потому, что хотите проявить больше добродетели. Человек, который рискует жизнью из желания быть добродетельным, проявляет гораздо меньше добродетели, чем тот, кто рискует жизнью из желания спасти других. Тот, кто решает спасти три жизни вместо двухсот, считая, что это демонстрирует большее величие его души, настолько эгоистично увлечен собственным «величием», что совершает моральный эквивалент непредумышленного убийства.

Это один из тех сценариев в духе у-вэй: вы не можете проявить добродетель, пытаясь ее проявить. Если у вас есть выбор между безопасным способом спасти мир без каких-либо личных жертв или неудобств и способом, который сопряжен с риском для жизни и требует от вас терпеть огромные лишения, вы не станете героем, если намеренно выберете второй путь. Нет ничего героического в желании казаться героем. Это было бы утратой истинной цели.

По-настоящему добродетельные люди, которые искренне стремятся спасать жизни, а не демонстрировать добродетель, будут постоянно искать способы спасти больше жизней с меньшими усилиями — а значит, их добродетель проявится в меньшей степени. Это может сбивать с толку, но здесь нет противоречия.

Однако мы не всегда можем выбрать неуязвимость для пуль. После того как мы сделали все возможное, чтобы снизить риск и увеличить масштаб, любой оставшийся героизм раскрывается во всей своей полноте.

Полицейский, который рискует своей жизнью, не обладая суперспособностями, рентгеновским зрением, суперсилой, способностью летать и, главное, неуязвимостью для пуль, проявляет гораздо большую добродетель, чем Супермен — всего лишь супергерой.

*

1. Адам Уоррен, Empowered, т. 1 (Dark Horse Books, 2007).

105. Всего лишь мессии.

Я писал о том, как эффект ореола — из-за которого люди склонны связывать между собой все положительные качества (например, более привлекательные люди кажутся нам также более добрыми, честными и умными) — заставляет нас сильнее восхищаться героями, если они сверхсильны и пуленепробиваемы. Хотя логически для того, чтобы быть героем, требуется куда больше мужества, если ты не пуленепробиваем. Кроме того, мужественный поступок ради спасения одной-единственной жизни свидетельствует о большем благородстве, чем спасение всего мира. (Хотя, конечно, если приходится выбирать, то спасать нужно мир.)

Но давайте поговорим более конкретно.

Джон Перри был нью-йоркским полицейским, который к тому же был экстропийцем и трансгуманистом — именно поэтому мне и знакомо его имя. Он должен был вот-вот выйти на пенсию и открыть собственную юридическую практику, когда пришло известие о том, что самолет врезался во Всемирный торговый центр. Джон погиб, когда рухнула Северная башня. Лично я его не знал, поэтому не могу утверждать наверняка, но очень немногие экстропийцы верят