Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

class="p">Я рассказывал о своем разговоре с номинально ортодоксальной иудейкой, которая рьяно защищала утверждение, будто она верит в Бога, хотя, судя по всему, на самом деле в Него не верила совсем.

Расспрашивая ее о пользе, которую, по ее мнению, приносит вера в Бога, я привел Литанию Тарского — которая на самом деле представляет собой бесконечное семейство литаний; вот конкретный пример:

Если небо голубое,

я желаю верить, что «небо голубое».

Если небо не голубое,

я желаю верить, что «небо не голубое».

— Это не моя философия, — сказала она мне.

— Я так и думал, — ответил я. — Я просто спрашиваю: если предположить, что Бог не существует и это доподлинно известно, то стоит ли вам всё равно в Него верить?

Она помедлила. Похоже, она действительно пыталась обдумать это, что меня удивило.

— То есть это контрфактический вопрос… — медленно произнесла она.

Тогда я подумал, что ей трудно позволить себе представить мир, где Бога не существует, из-за ее привязанности к миру, содержащему Бога.

Сейчас, однако, я подозреваю, что ей было трудно представить разницу в том, как выглядел бы мир, если бы Бог существовал или не существовал, потому что все её мысли крутились вокруг веры в Бога, а её причинно-следственная сеть, моделирующая мир, не содержала Бога в качестве узла. Поэтому она легко могла ответить на вопрос «Как иначе выглядел бы мир, если бы я не верила в Бога?», но не на вопрос «Как иначе выглядел бы мир, если бы Бога не было?».

На тот вопрос она тогда так и не ответила. Но зато она привела контрпример к Литании Тарского:

Она сказала: «Я верю, что люди добрее, чем они есть на самом деле».

Я попытался объяснить, что если вы говорите «люди плохие», это значит, вы верите, что люди плохие, а если вы говорите «я верю, что люди добрые», это значит, вы верите, что верите, будто люди добрые. Таким образом, слова «люди плохие, а я верю, что люди добрые» означают: вы верите, что люди плохие, но верите, что верите, будто они добрые.

Я процитировал ей:

Если бы существовал глагол со значением «ошибочно полагать», у него не было бы сколько-нибудь осмысленной формы первого лица настоящего времени изъявительного наклонения.

— Людвиг Витгенштейн1

Она улыбнулась и сказала: «Да, я верю, что люди добрее, чем они есть на самом деле. Я просто подумала, что для вас это стоит сформулировать именно так».

— Сдается мне, Матушке надо бы хорошенько тебя осмотреть, Вальтер, — сказала Нянюшка. — По-моему, у тебя в голове всё перепуталось, как в упавшем клубке ниток.

— Терри Пратчетт, «Маскарад»2

И я могу написать слова: «Ну, полагаю, она не считала, что её рассуждения должны оставаться непротиворечивыми при рефлексии», но мне всё ещё трудно уложить это в голове.

Я вижу логику в словах, слетающих с ее губ, но не могу на эмпатическом уровне понять стоящий за ними разум. Я могу вообразить себя на месте инопланетян, пожирающих младенцев, или леди 3-й Кирицугу, но не могу представить, каково это — быть ей. Или, может быть, я просто не хочу этого?

Вот почему у умных людей есть лишь ограниченное время (измеряемое субъективным временем, потраченным на размышления о религии), чтобы стать атеистами. После определенного момента, если вы умны, провели немало времени в размышлениях о своей религии и ее защите, но так и не вырвались из тисков Эпистемологии Темной Стороны, то изнутри ваш разум превращается в картину Эшера.

(Еще один из немногих моментов, заставивших ее задуматься, — упоминаю об этом на случай, если вам представится повод это использовать, — произошел, когда она говорила о том, как хорошо верить, будто кому-то не все равно, поступаете вы правильно или неправильно. Речь, конечно же, не шла о том, что Бог, которому не все равно, на самом деле существует, — это утверждение не входит в ее религию.

И я сказал: «Но мне не все равно, правильно ли вы поступаете. Значит, вы хотите сказать, что этого недостаточно и вам также нужно верить в кого-то выше человечества, кому не все равно?» Это ненадолго поставило ее в тупик, потому что она, конечно же, никогда не думала об этом в таких категориях. Обычное применение нестандартного набора инструментов.)

Позже я спросил ее, следовало ли бы делать хоть что-то иначе, если бы Бога точно не существовало, и на этот раз она ответила: «Нет».

— То есть, — недоверчиво спросил я, — существует Бог или нет, это абсолютно никак не влияет на то, как людям стоит думать или действовать? Полагаю, даже раввин посмотрел бы на это косо.

Ее религия теперь, похоже, состоит целиком из поклонения поклонению. Подобно тому как истинно верующие былых времен верили, что их спасет всевидящий Отец, она теперь верит, что ее спасет сама вера в Бога.

После того как она сказала «я верю, что люди добрее, чем они есть на самом деле», я спросил: «Значит, вы постоянно удивляетесь, когда люди не дотягивают до ваших ожиданий?» Наступила долгая пауза, а затем медленно: «Ну… удивляюсь ли я, когда люди… не дотягивают до моих ожиданий?»

В тот момент я не понял этой паузы. Я хотел намекнуть, что если она постоянно разочаровывается в реальности, то это обратная сторона ложных убеждений. Но она, напротив, казалась ошеломленной выводами, которые следовали из того, что она не удивляется.

Теперь я понимаю, что вся суть ее философии заключалась в ее вере в то, что она обманула саму себя, и возможность того, что ее оценки других людей на самом деле точны, угрожала Эпистемологии Темной Стороны, которую она выстроила вокруг убеждений вроде «Мне полезно верить, что люди добрее, чем они есть на самом деле».

Она свергла старого идола с трона и заменила его открытым поклонением Эпистемологии Тёмной Стороны, некогда изобретённой для его защиты; она поклоняется собственной попытке самообмана. Попытка провалилась, но она искренне этого не осознаёт.

И теперь номинальные стражи здравомыслия человечества (девиз: «портим вашу безумную маленькую вечеринку со времён Эпикура») должны бороться с активным поклонением самообману — поклонением предполагаемой пользе веры вместо Бога.

На самом деле это объясняет кое-что во мне самом, чего раньше я не вполне понимал — причину, по которой меня раздражает, когда люди рассуждают так, будто самообман даётся легко, и почему я пишу целые эссе, доказывая, что принять сознательное решение поверить, будто небо зелёное, гораздо