Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Вспомните всех тех людей, которые утверждают, будто без Бога мораль невозможна. (И да, эта тема действительно всплывала в том разговоре, так что я не воюю с соломенным чучелом.) Если бы верующие могли представить себе свою реальную реакцию на принятие как факта того, что Бога нет, они бы поняли, что вовсе не бросились бы убивать младенцев. Они бы поняли, что атеисты реагируют на отсутствие Бога примерно так же, как реагировали бы они сами, если бы сами в это поверили. Я говорю это, чтобы показать: представить себе то, как вы на самом деле отреагировали бы, поверив в противоположное вашему глубоко укоренившемуся убеждению, — это действительно непростая задача.

Think of all the people who say that, without God, morality was impossible. (And yes, this topic did come up in the conversation; so I am not offering a strawman.) If theists could visualize their real reaction to believing as a fact that God did not exist, they could realize that, no, they wouldn’t go around slaughtering babies. They could realize that atheists are reacting to the nonexistence of God in pretty much the way they themselves would, if they came to believe that. I say this, to show that it is a considerable challenge to visualize the way you really would react, to believing the opposite of a tightly held belief.

К тому же всегда контринтуитивно осознавать, что люди действительно оправляются от любых потрясений. Люди, только что ставшие квадриплегиками, через шесть месяцев чувствуют себя далеко не такими несчастными, какими они ожидали быть, и так далее. Столь же контринтуитивным может быть и осознание того, что если пугающее убеждение окажется правдой, вы всё-таки как-нибудь с этим примиритесь. Квадриплегики справляются, и вы справитесь.

См. также Литанию Джендлина и Литанию Тарского. То, что истинно, уже реально; признание этого не делает ситуацию хуже. Вам не следует бояться просто представить пугающий вас мир. Если этот мир уже реален, то от его представления хуже не станет; а если он не реален, то его представление не причинит вреда. И помните, когда представляете это: если пугающие вещи, которые вы воображаете, действительно истинны — а это может быть и не так! — то вы, безусловно, захотели бы в это поверить, и это вам тоже следует представить; неверие вам ничем не поможет.

Сколько верующих людей сохранили бы свою веру в Бога, если бы они могли в точности представить тот гипотетический мир, в котором Бога нет, а сами они стали атеистами?

Оставить себе путь к отступлению — мощная техника, но она даётся нелегко. Честная визуализация не требует столько сил, сколько признание напрямую, что Бога не существует, но усилий она всё же требует.

*

1. Сунь-цзы, Искусство войны (Cloud Hands, Inc., 2004).

2. Лоис Макмастер Буджолд, Комарр, Приключения Майлза Форкосигана (Baen, 1999).

129. Кризис веры. Кризис веры не настоящий, если всё не может с одинаковой лёгкостью повернуться в любую сторону. — Тор Шенкель.

Многие в этом мире сохраняют убеждения, на изъяны которых мог бы указать десятилетний ребёнок, если бы этот ребёнок услышал о них впервые. Мы говорим вовсе не о каких-то тонких ошибках. Отказаться от них для непредвзятого ума было бы детской забавой, примени он скептицизм десятилетки без всяких увёрток. Как выразился Премис Чекер: «Если бы идея бога возникла только в научную эпоху, лишь исключительно странный человек стал бы выдумывать нечто подобное и делать вид, будто это что-то объясняет».

И тем не менее высококлассные учёные, даже величайшие новаторы в своих областях, даже в наш век, не могут успешно применить этот скептицизм. Лауреат Нобелевской премии Роберт Ауман (автор теоремы согласия Аумана) — ортодоксальный иудей. Я с достаточной долей уверенности могу предположить, что в тот или иной момент Ауман наверняка подвергал свою веру сомнению. И всё же его сомнения не увенчались успехом. Мы меняем своё мнение гораздо реже, чем нам кажется.

От этого должно становиться жутко до мозга костей. Это значит, что можно быть учёным мирового класса, и прекрасно разбираться в байесовской математике, и всё равно оказаться неспособным отвергнуть убеждение, абсурдность которого очевидна десятилетке с незамыленным взглядом. Это показывает, какую несокрушимую линию обороны способно выстроить убеждение, если оно давно пустило корни у вас в голове.

Что требуется, чтобы одолеть ошибку, воздвигшую вокруг себя крепость?

Но к тому времени, когда вы уже знаете, что это ошибка, она уже побеждена. Дилемма заключается не в том, «как мне отвергнуть давнее ложное убеждение X?», а в том, «как мне узнать, ложно ли давнее убеждение X?» Честность перед собой наиболее уязвима тогда, когда мы не уверены, какой путь истинен. И тогда вопрос приобретает иной вид:

Как нам вызвать в себе настоящий кризис веры, при котором всё с одинаковой лёгкостью может повернуться в любую сторону?

Религия — это наглядный пример, который мы все можем себе представить. (Читатели, родившиеся у родителей-атеистов, упустили это фундаментальное жизненное испытание и вынуждены довольствоваться его слабым подобием — размышлениями о своих верующих друзьях.) Но если вы лишились всякого сочувствия и теперь считаете верующих злобными мутантами, то вы не сможете представить те реальные внутренние испытания, с которыми они сталкиваются. Вы не сможете задаться вопросом:

«Какой общей стратегии должен придерживаться верующий человек, чтобы вырваться из своей религии?»

Я уверен, что некоторые, глядя на эту задачу, уже вовсю тараторят стандартные аргументы атеистов: «Им придётся признать, что нет никаких байесовских свидетельств в пользу существования Бога», «Им придётся увидеть, на какие моральные увёртки они идут, чтобы оправдать поведение Бога в Библии», «Им нужно научиться пользоваться бритвой Оккама»...

НЕВЕРНО! НЕВЕРНО, НЕВЕРНО, НЕВЕРНО! Подобное повторение заученного, когда вы просто выплёвываете аргументы, которые обдумали ещё давным-давно, — это именно тот стиль мышления, который удерживает людей в их нынешней религии. Если вы будете полагаться на кэшированные мысли, если ваш мозг выдаёт очевидный ответ так быстро, что вы теряете способность видеть вещи непосредственно, вы гарантированно не сможете пройти через кризис веры.

Может быть, всё дело в том, что слишком немногие читали «Гёдель, Эшер, Бах» в достаточно юном возрасте, но я заметил, что у значительной части населения — даже у людей с техническим складом ума — возникают