Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

сокрушительная — и нет, в реальной жизни я вам этого не говорю. Но предположим, что я вам это действительно сказал. Предположим, что бы вы ни считали основой своей моральной философии — я убедительно разнёс её в пух и прах и к тому же показал вам, что ничто не способно занять её место. Предположим, я доказал, что все полезности равны нулю.

Я знаю, что Ваша-Моральная-Философия так же истинна и неопровержима, как 2 + 2 = 4. Но всё же я прошу вас приложить все усилия, чтобы провести этот мысленный эксперимент, и конкретно представить себе возможные варианты, даже если они кажутся болезненными, бессмысленными или логически не допускающими хорошего ответа.

Стали бы вы по-прежнему давать чаевые таксистам? Изменили бы вы своему партнёру? Если бы ребёнок лежал без сознания на железнодорожных путях, стали бы вы всё равно оттаскивать его?

Стали бы вы по-прежнему есть ту же еду — или питались бы только самой дешёвой, поскольку нет причин, почему вы должны получать удовольствие, — или же ели бы очень дорогую еду, поскольку нет причин, почему вы должны откладывать деньги на завтра?

Стали бы вы носить чёрное, писать мрачные стихи и объявлять всех альтруистов дураками? Но ведь нет причин, почему вы должны это делать, — это просто кэшированная мысль.

Остались бы вы в постели, потому что нет причин вставать? А когда вы наконец проголодаетесь и доплетётесь до кухни — что бы вы стали делать, закончив есть?

Продолжили бы вы читать Overcoming Bias, а если нет, то что бы вы читали вместо этого? Стали бы вы по-прежнему пытаться быть рациональным, а если нет, то как бы вы мыслили вместо этого?

Закройте глаза, уделите ответу столько времени, сколько потребуется:

Что бы вы стали делать, если бы ничто не было правильным?

*

271. Изменение вашей метаэтики.

Если вы говорите: «Убивать людей — это плохо», это мораль. Если вы говорите: «Нельзя убивать людей, потому что Бог запретил это» или «Нельзя убивать людей, потому что это идет вразрез с устремлением Вселенной», это метаэтика.

Точно так же, как в отношении специальной теории относительности согласия куда больше, чем по вопросу «Что такое наука?», людям гораздо проще согласиться с тем, что «убийство — это плохо», чем договориться о том, что именно делает его плохим или что вообще значит «быть плохим» для какого-то поступка.

Люди действительно привязываются к своей метаэтике. Более того, они часто настаивают, что если их метаэтика неверна, то вся мораль неизбежно рухнет. Было бы любопытно собрать круглый стол из метаэтиков — теистов, объективистов, платоников и так далее, — каждый из которых согласен, что убивать плохо, каждый из которых расходится во мнениях о том, что значит для поступка быть «плохим», и каждый из которых настаивает, что если его метаэтика ошибочна, то мораль рушится.

Очевидно, что многим людям, если они хотят расти в философском плане, в какой-то момент жизни придется сменить метаэтику. Возможно, вам тоже придется это сделать.

В такой момент может оказаться полезным иметь открытый путь для отступления — не отступления от морали, а отступления от Вашей-Текущей-Метаэтики. (Ну, той самой, которая, окажись она неправдой, якобы не оставит никаких оснований для того, чтобы не убивать людей.)

Поэтому ниже я набросал несколько возможных путей для отступления. Ибо я понял, что изменить метаэтические убеждения практически невозможно, если у вас сохраняется неразрешённая привязанность.

Если, например, кто-то верит, что авторитет заповеди «Не убий» исходит от Бога, то существуют некоторые вполне известные аргументы, которые помогут подготовить путь для отступления — вместо того, чтобы сразу атаковать саму вероятность существования Бога. Можно сказать: «Возьмите на себя личную ответственность! Даже если бы вы получили приказ от Бога, это было бы вашим личным решением — подчиниться ему. Даже если бы Бог не велел вам быть нравственным, вы всё равно могли бы им быть».

Этот аргумент легко обобщается на множество других метаэтик — нужно лишь заменить «Бога» на Их-Любимый-Источник-Морали или даже на само слово «мораль». Даже если ваш конкретный источник морального авторитета окажется несостоятельным, разве вы не сможете всё равно утащить ребёнка с рельсов? И действительно, кто, кроме вас самих, вообще решил изначально следовать этому источнику морального авторитета? Какую ответственность вы на самом деле пытаетесь переложить?

Поэтому важнейший путь для отступления таков: если ваша метаэтика перестает велеть вам спасать жизни, вы можете просто всё равно стащить ребёнка с рельсов. Перефразируя Пирса Энтони, только те, у кого есть мораль, беспокоятся о том, есть ли она у них. Если ваша метаэтика велит вам убивать людей, с какой стати вы вообще должны её слушать? Возможно, то, что вы делали бы, даже если бы никакой морали не существовало, и есть ваша мораль.

Суть, разумеется, не в том, что никакой морали не существует, а в том, что вы можете сохранять твёрдость воли и не бояться потерять из виду то, что вам дорого, пока меняются ваши представления о природе морали.

Я написал несколько эссе, чтобы подготовить пути для отступления специально для более натуралистических метаэтик. Работы «Радость в просто реальном» и «Объяснение и „объяснение“» утверждают, что не стоит разочаровываться в каких-либо сторонах жизни лишь потому, что они оказываются объяснимыми, а не таинственными по своей сути: ведь если мы не способны радоваться просто реальному, наша жизнь и впрямь окажется пустой.

Эссе «Нет универсально убедительных аргументов» готовит путь к отступлению от стремления сделать так, чтобы с нашими моральными аргументами согласился каждый. Существует сильная моральная интуиция, согласно которой, чёрт возьми, если наши моральные аргументы верны, мы должны быть способны объяснить их людям. Возможно, это и справедливо в отношении людей, но вы не сможете объяснить моральные аргументы камню. Не существует идеального, абсолютно пустого студента-философа, которого можно убедить применять modus ponens, если у него изначально нет этого самого modus ponens. Если разум не содержит в себе того, что приводится в движение вашими моральными аргументами, он на них не отреагирует.

Но разве тогда вся мораль не превращается в порочный круг, из-за чего она и рушится? Эссе «Где рекурсивное обоснование достигает дна» и «Мой способ рефлексии» объясняют разницу между внутренне непротиворечивой петлей, проходящей через метауровень, и настоящим порочным кругом. Вы не должны ловить себя на том, что говорите «Вселенная проста, потому что она проста» или «Убийство — это плохо, потому