Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

неделю, год. А потом — авария, и остаток жизни проведёте, мечтая почесать зудящую фантомную конечность. Или будете парализованы ниже шеи. Или мертвы. Это не неизбежно, но возможно; какова вероятность? Вы не можете рационально пойти на этот компромисс, пока не узнаете свои реальные водительские навыки, чтобы оценить степень опасности, которой вы себя подвергаете. Вы не можете рационально пойти на этот компромисс, если не знаете о таких искажениях, как игнорирование вероятности.

Неважно, сколько дней пройдёт в блаженном неведении, достаточно одной-единственной ошибки, чтобы перечеркнуть человеческую жизнь, перевесив каждую монетку, которую вы подобрали на железнодорожных путях глупости.

Один из главных советов, которые я даю начинающим рационалистам: «Не мудрите». И ещё: «Прислушивайтесь к тихим, грызущим сомнениям». Если вы не знаете, вы не знаете, чего именно вы не знаете, вы не знаете, как много вы не знаете, и вы не знаете, как много вам нужно было знать.

Рациональности второго порядка не существует. Есть лишь слепой прыжок в то, что может оказаться (или не оказаться) ямой с пылающей лавой. Как только вы узнаете, выбирать слепоту будет уже поздно.

Но люди пренебрегают этим, потому что не знают того, чего не знают. Неизвестные неизвестные недоступны для их ума. Они не обращают внимания на белое пятно на карте, а относятся к нему так, словно оно соответствует пустой территории. Задумываясь о слепом прыжке, они ищут в своей памяти опасности и не находят на пустой карте никаких ям с пылающей лавой. Почему бы и не прыгнуть?

Проходили. Пробовали. Обжигались. Не мудрите.

Однажды я сказал подруге, что, по моему подозрению, счастье глупости сильно переоценено. Она серьёзно покачала головой и ответила: «Нет, вовсе нет. На самом деле нет».

Возможно, где-то и есть глупые счастливые люди. Возможно, они счастливее вас. Жизнь несправедлива, и вы не станете счастливее, если будете завидовать тому, чего не можете получить. Я подозреваю, что подавляющее большинство читателей Overcoming Bias не смогли бы обрести «счастье глупости», даже если бы попытались. Этот путь для вас закрыт. Вам никогда не достичь такой степени невежества; вы не можете забыть то, что уже знаете, не можете развидеть то, что уже увидели.

Счастье глупости для вас закрыто. Вы никогда его не обретёте, разве что в случае реального повреждения мозга — да и то не факт. Думаю, вам стоит задуматься, является ли счастье глупости оптимальным — действительно ли это наибольшее счастье, к которому может стремиться человек, — но это не имеет значения. Этот путь для вас закрыт, если он вообще когда-либо был открыт.

Всё, что вам теперь остается, — это стремиться к такому счастью, какое доступно рационалисту. Думаю, в конечном счете оно может оказаться бóльшим. Есть ограниченные пути и открытые пути; плато, на которых можно бездельничать, и горы, на которые нужно взбираться; и пусть восхождение требует больше усилий, в конечном счете гора все равно возносится выше.

К тому же жизнь не сводится к одному лишь счастью; и от ваших решений может зависеть не только ваше собственное счастье, но и счастье других.

Но все это уже не имеет значения. К тому времени, как вы понимаете, что у вас есть выбор, выбора уже нет. Вы не можете развидеть то, что уже увидели. Другой путь закрыт.

*

1. Оруэлл, 1984.

83. Нет, правда, я себя обманул.

Недавно я разговаривал с одной женщиной... её трудно описать. Номинально она была ортодоксальной иудейкой. При этом она была очень умна, хорошо знакома с некоторыми археологическими свидетельствами против её религии и с теми поверхностными стандартными аргументами против религии, о которых верующие обычно знают. Например, она знала, что Мардохея, Эсфири, Амана и Вашти нет в персидских исторических хрониках, но что существует аналогичная древнеперсидская легенда о вавилонских богах Мардуке и Иштар и соперничавших с ними эламских богах Хуммане и Вашти. Она знает это — и всё равно празднует Пурим. Одна из тех высокоинтеллектуальных религиозных людей, которые годами варятся в собственных противоречиях, усложняя и подкручивая их, пока их разум изнутри не начинает напоминать картину М. К. Эшера.

Большинство подобных людей делают вид, будто они слишком мудры, чтобы снисходить до разговоров с атеистами, но она охотно проговорила со мной несколько часов.

В результате теперь я понимаю о самообмане как минимум на одну вещь больше, чем явно осознавал ранее, а именно: вам вовсе не обязательно на самом деле обманывать себя, пока вы верите, что обманули себя. Назовём это «верой в самообман».

Когда эта женщина училась в старших классах, она считала себя атеисткой. Но тогда она решила, что должна вести себя так, будто верит в Бога. И затем — как она искренне меня уверяла — со временем она действительно пришла к вере в Бога.

Насколько я могу судить, в этом она абсолютно неправа. На протяжении всего нашего разговора она снова и снова повторяла: «Я верю в Бога», и ни разу — «Бог есть». Когда я спросил её, почему она религиозна, она ни разу не заговорила о последствиях существования Бога — только о последствиях веры в Бога. Никогда: «Бог мне поможет», всегда: «моя вера в Бога мне помогает». Когда я заметил ей: «Тот, кто просто стремился бы к истине и смотрел на нашу Вселенную, даже не изобрёл бы Бога в качестве гипотезы», она сразу же согласилась.

Она на самом деле не обманула себя настолько, чтобы поверить в существование Бога или в истинность иудаизма. И близко нет, насколько я могу судить.

С другой стороны, я думаю, она действительно верит, что обманула себя.

Так что, хотя она и не получает никакой пользы от веры в Бога — потому что не верит, — она искренне верит, что обманом заставила себя поверить в Бога, и потому искренне ожидает получить ту пользу, которую связывает с самообманом, приводящим к вере в Бога; а это, полагаю, должно давать примерно такой же эффект плацебо, как и настоящая вера в Бога.

И это вполне объясняет, почему она так искренне стремилась защищать утверждение, что она верит в Бога, от моих скептических вопросов, но при этом ни разу не обронила: «О, кстати, Бог ведь и правда существует» — и даже, похоже, ни капли не интересовалась самой этой идеей.

*

84. Вера в самообман.