Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

пользу нашего собственного предпочтительного способа ведения дел, оттачивалась в условиях общин охотников-собирателей, насчитывавших, например, человек 40, каждого из которых вы знали лично.

А если группа состоит из 1000 человек? Тогда ваши инстинкты охотника-собирателя недооценят инерцию столь большой группы и потребуют нереально высокой цены (в виде стратегических изменений) за ваше вступление. Существует предел организационных усилий и ограниченное число степеней свободы, которые можно потратить на то, чтобы устраивать всё так, как хочется какому-то одному человеку.

А если стратегия масштабна и сложна — из тех вещей, для которых, например, требуется недельная бумажная работа десяти человек, а не получасовое обсуждение у костра? Тогда ваши инстинкты охотника-собирателя недооценят инерцию группы на фоне ваших собственных требований.

А если вы живете в мире более широком, чем одно племя охотников-собирателей, так что вы видите только одного представителя группы, ведущего с вами переговоры, а не сотню других переговоров, которые уже состоялись? Тогда ваши инстинкты подскажут вам, что перед вами всего один человек, к тому же незнакомец, и вы двое равны; любые идеи, которые он предлагает, равны любым идеям, которые предлагаете вы, и точка компромисса должна находиться где-то посередине.

А если вы страдаете от слабости воли или акразии, или если на вас влияют мотивы, отличные от тех, в которых вы готовы признаться самому себе, то любой групповой альтруистический проект, который не сулит вам наград в виде статуса и контроля, может оказаться обделен вашим вниманием.

Конечно, я признаю, что говорю здесь прежде всего с позиции человека, который пытается пасти кошек, а не с противоположной стороны — человека, который тратит большую часть времени на то, чтобы придерживать свои силы ради шантажа этих проклятых идиотов, уже участвующих в проекте. Возможно, я немного предвзят.

Но мне кажется, что разумное эмпирическое правило могло бы звучать так:

Если в целом объединение ваших усилий с групповым проектом всё равно принесет чистый положительный эффект согласно вашей функции полезности —

(или больший положительный эффект, чем любое другое предельное использование, на которое вы могли бы направить эти ресурсы, хотя последний образ мышления кажется малоиспользуемым и нереалистичным с человеческой точки зрения по причинам, о которых я, возможно, напишу как-нибудь в другой раз)

— и эта ужасная, отвратительная, раздражающая проблема не настолько важна, чтобы вы лично погрузились в нее достаточно глубоко, чтобы потратить столько часов, недель или лет, сколько потребуется для ее решения, —

—то эта проблема не стоит того, чтобы вы лишали проект своего участия; будь то инстинктивно — в ожидании, пока люди обратят на вас внимание и проявят уважение, — или с сознательным намерением шантажом заставить группу её решить.

А если эта проблема действительно настолько важна для вас... тогда, конечно же, вступайте в группу и делайте всё возможное, чтобы всё исправить.

Что ж, если нынешние участники отказываются позволить вам это сделать, и разумный сторонний наблюдатель пришёл бы к выводу, что вы достаточно компетентны для этого, и ничьи другие интересы при этом не ущемляются, тогда, пожалуй, мы имеем дело с проблемой. И, возможно, пришло время для небольшого шантажа — если ресурсы, которые вы можете предоставить на определённых условиях, достаточно велики, чтобы привлечь их внимание.

Не слишком ли радикально это правило? О, пожалуй. У механизма принятия решений в проекте должен быть мотив быть подотчётным своим сторонникам; безусловная поддержка породила бы свои собственные проблемы.

Но обычно... я замечаю, что люди недооценивают издержки своих требований или, возможно, просто поддаются инстинктам и заламывают очень, очень, очень высокую цену. Если толпа нонконформистов вообще хочет когда-нибудь сделать что-то вместе, нам нужно двигаться в сторону того, чтобы вступать в группы и оставаться там хотя бы немного легче. Даже перед лицом досадных мелочей и несовершенств! Даже когда к нашим собственным лучшим идеям никто не прислушивается!

В эпоху интернета и в окружении нонконформистов уже немного утомляет читать 451-е публичное письмо от человека, заявляющего, что Общий Проект не стоит его ресурсов, пока на сайте не сделают шрифт без засечек.

Конечно, зачастую дело вовсе не в шрифтах. Возможно, дело в лени, акразии или скрытом неприятии. Но с точки зрения групповых норм... с точки зрения того, какие публичные заявления мы уважаем, а какие отговорки публично презираем... мы, пожалуй, действительно хотим поощрять такую групповую норму:

Если проблема не стоит того, чтобы вы лично взялись её исправлять, сколько бы усилий для этого ни потребовалось, и если она не вызвана откровенной недобросовестностью, то она не стоит и того, чтобы отказываться вносить свой вклад в дело, которое вы считаете стоящим.

*

320. Способен ли гуманизм сравниться с продуктивностью религии?

Пожалуй, крупнейший добровольный институт в нашем современном мире — связанный воедино не полицией и налогами, не зарплатами и менеджерами, а добровольно поступающими пожертвованиями его членов, — это католическая церковь.

Она слишком велика, чтобы удерживаться за счет индивидуальных договоренностей, как совместная задача в общине охотников-собирателей. Но в более масштабном мире с бо́льшим числом потенциальных носителей инфекции и более высокой скоростью передачи мы можем ожидать появления более вирулентных мемов. В Ветхом Завете нет ни слова об аде, а вот в Новом Завете он есть. Католическая церковь держится на аффективных спиралях смерти — вокруг идей, институтов и лидеров. На обещаниях вечного блаженства и вечного проклятия (теологи на самом деле во всё это не верят, но многие простые католики — вполне). На банальном конформизме людей, которые лично встречаются в церкви и подвергаются давлению окружения. И так далее.

Мы, имеющие дерзость называть себя «рационалистами», считаем себя выше подобных общинных уз.

И поэтому любому человеку с простым и очевидным благотворительным проектом — скажем, снабдить едой и кровом пострадавших от цунами в Таиланде — было бы куда лучше обратиться к Папе Римскому с просьбой мобилизовать католиков, чем к Ричарду Докинзу с просьбой мобилизовать атеистов.

До тех пор, пока это так, любой рост атеизма за счет католицизма будет своего рода пустой победой, независимо от всех остальных преимуществ.

Да, католическая церковь также активно выступает против использования презервативов в истерзанной СПИДом Африке. Да, они тратят огромные суммы собранных денег на всю эту религиозную чепуху. Потакание неясному мышлению не безобидно; у молитвы есть своя цена.

Воздерживаться от причинения вреда — это и есть настоящая победа для рационалиста...

Если только это не единственная ваша победа, — в таком случае она кажется несколько пустой.