Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

бы переосмыслил свою ошибку как проявление добродетели, если бы из гордости настаивал на том, что я прав хотя бы немного, я бы не отпустил эту ситуацию. Я бы продолжил искать изъян в диагональном методе. И рано или поздно я бы его, пожалуй, нашел.

Пока вы не признаете свою неправоту, вы не сможете двигаться дальше; ваш образ себя по-прежнему будет привязан к старой ошибке.

Всякий раз, когда у вас возникает соблазн цепляться за мысль, которая никогда не пришла бы вам в голову, будь вы умнее, вам предлагают стать фриком. Даже если вы никогда не напишете ни одного гневного письма зелеными чернилами. Если никто не станет с вами спорить или если вы вообще никому не расскажете о своей идее, вы все равно можете оставаться фриком. Суть именно в цеплянии за неё.

Это неправда. Это неправда даже в глубине души. Это не полуправда и даже не капля правды. Это всего лишь мысль, которая никогда не должна была приходить вам в голову. Не во всякой неудаче есть свои плюсы. Люди совершают ошибки, и далеко не каждая из них — это замаскированный успех. Люди совершают ошибки; так бывает, только и всего. Скажите «ой» и живите дальше.

*

123. Да потеряйте вы уже надежду.

Кейси Серин, 24-летний веб-программист без опыта работы с недвижимостью, должен банкам 2,2 миллиона долларов после того, как соврал в ипотечных заявках, чтобы одновременно купить восемь разных домов в разных штатах. Он обналичивал часть ипотеки (запрашивал суммы, превышающие стоимость домов) и тратил эти деньги на жизнь и семинары по недвижимости. Похоже, он рассчитывал на рост рынка.

И это ещё не самое печальное. Самое печальное — то, что он до сих пор не сдался. Кейси Серин не признает поражения. Он отказывается объявлять о банкротстве или устраиваться на работу; он всё ещё думает, что может крупно преуспеть в недвижимости. Он продолжал тратить деньги на семинары. Он попытался взять ипотеку на девятый дом. Видите ли, он вовсе не потерпел неудачу, он просто приобрел ценный опыт.

Вот что происходит, когда вы отказываетесь терять надежду.

Хотя такое поведение может показаться просто глупым, оно также напоминает мне о двух лауреатах Нобелевской премии по экономике…

…а именно о Мертоне и Шоулзе из Long-Term Capital Management.

Хотя в первые три года LTCM получала гигантские прибыли, в 1998 году рыночные неэффективности, которые она использовала, начали исчезать — о трюке прознали другие, и он перестал работать.

LTCM отказалась терять надежду. Подсевшие на 40% годовых, они всё сильнее наращивали кредитное плечо, чтобы зарабатывать на всё более крошечной марже. Когда у LTCM всё пошло наперекосяк, их собственный капитал составлял 4,72 миллиарда долларов, объем заемных средств — 124,5 миллиарда долларов, а объем позиций по деривативам — 1,25 триллиона долларов.

В каждой профессии ум проявляется по-своему — везде свои навыки, которые нужно освоить, и правила, которым нужно следовать. Поэтому можно подумать, что изучение «рациональности» как общей дисциплины мало что дает для успеха в реальной жизни. И все же мне кажется, что умение не быть глупым имеет очень много общего в самых разных профессиях. Если вы зададитесь целью научить кого-то тому, как не превращать мелкие ошибки в большие, то окажется, что это практически одно и то же искусство — хоть в хедж-фондах, хоть в любви, и один из главных секретов здесь таков: будьте готовы признать, что проиграли.

*

124. Правильное использование сомнения.

Однажды, разглагольствуя о Пути, я заметил, что большинство организованных систем убеждений существуют для того, чтобы бежать от сомнений. Один из слушателей возразил мне, что иезуиты, должно быть, застрахованы от этой критики, поскольку они практикуют организованное сомнение: их послушникам, по его словам, велят сомневаться в христианстве, сомневаться в существовании Бога, сомневаться в истинности своего призвания, сомневаться в том, что они подходят для принесения вечных обетов целомудрия и бедности. И я сказал: «А, но они ведь должны преодолеть эти сомнения, верно?» Он ответил: «Нет, они должны сомневаться, что их сомнения могут вырасти и окрепнуть».

Поиск в Google не позволил ни подтвердить, ни опровергнуть эти утверждения. (Если кто-то из аудитории сможет помочь, буду премного благодарен.) Но я нахожу этот сценарий интригующим, заслуживающим обсуждения независимо от того, правда это в отношении иезуитов или нет. Если иезуиты практиковали намеренное сомнение, как описано выше, были бы они тем самым добродетельны как рационалисты?

Полагаю, мне придется признать, что поведение иезуитов в описанном выше (возможно, гипотетическом) сценарии нельзя в полной мере охарактеризовать как «бегство от сомнений». Однако это (возможно, гипотетическое) поведение все равно кажется мне крайне подозрительным. Для истинно добродетельного рационалиста сомнение не должно быть пугающим. Описанная практика больше напоминает мне программу десенсибилизации к чему-то очень страшному — вроде демонстрации пауков арахнофобу в строго контролируемых условиях.

Но даже в этом случае они побуждают своих послушников сомневаться, верно? Имеет ли значение, что их основания ошибочны? Разве это все равно не достойное рационалиста деяние?

Всякое любопытство стремится уничтожить само себя; нет такого любопытства, которое не хотело бы получить ответ. Но если вы получаете ответ, если вы удовлетворяете свое любопытство, то великолепная тайна перестает быть тайной.

Точно так же любое сомнение существует для того, чтобы уничтожить какое-то конкретное убеждение. Если сомнение не уничтожает свою цель, оно умирает неисполненным — но это все же разрешение, финал, пусть и более печальный. Сомнение, которое не уничтожает ни себя, ни свою цель, с тем же успехом могло бы вообще никогда не существовать. Именно разрешение сомнений, а не сам акт сомнения, толкает храповик рациональности вперед.

Каждое улучшение — это изменение, но не каждое изменение — это улучшение. Каждый рационалист сомневается, но не все сомнения рациональны. Ношение сомнений делает вас рационалистом не больше, чем ношение белого медицинского халата делает вас врачом.

Рациональное сомнение возникает по конкретной причине — у вас есть веские основания подозревать, что убеждение ошибочно. Эта причина, в свою очередь, указывает направление исследования, которое либо уничтожит целевое убеждение, либо уничтожит само сомнение. Это справедливо даже для весьма абстрактных сомнений вроде: «Интересно, нет ли более простой гипотезы, которая также объясняет эти данные?». В таком случае вы исследуете вопрос, пытаясь придумать более простые гипотезы. Чем дольше этот поиск продолжается бесплодно,