Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Третья добродетель — легкость. Позвольте ветрам свидетельств нести вас, словно вы — лист, не имеющий собственного направления. Берегитесь вести арьергардные бои, отступая перед свидетельствами, с неохотой уступая каждую пядь земли лишь под принуждением и чувствуя себя обманутым. Сдавайтесь истине так быстро, как только можете. Делайте это в то же мгновение, когда осознаёте, чему именно сопротивляетесь, — как только увидите, с какой стороны дуют против вас ветры свидетельств. Будьте неверны своему делу и предайте его более сильному врагу. Если вы воспринимаете свидетельства как ограничение и стремитесь освободиться от них, вы отдаете себя в оковы собственных капризов. Ибо невозможно составить верную карту города, сидя в спальне с закрытыми глазами и чертя линии на бумаге по наитию. Вы должны обойти город и провести на бумаге линии, соответствующие тому, что вы видите. Если же, видя город нечетко, вы полагаете, будто можете сдвинуть линию чуть правее или чуть левее по своему капризу, это точно такая же ошибка.

Четвертая добродетель — беспристрастность. Тот, кто хочет верить, спрашивает: «Позволяют ли мне свидетельства верить?» Тот, кто хочет не верить, спрашивает: «Заставляют ли меня свидетельства верить?» Берегитесь возлагать тяжелое бремя доказательства лишь на те суждения, которые вам не нравятся, защищаясь при этом словами: «Но ведь быть скептиком хорошо». Если вы обращаете внимание лишь на благоприятные свидетельства, выборочно сортируя собранные данные, то чем больше данных вы собираете, тем меньше вы знаете. Если вы избирательны в том, какие доводы проверять на наличие изъянов и насколько тщательно их искать, то каждый изъян, который вы научитесь обнаруживать, сделает вас настолько же глупее. Если вы сначала пишете внизу листа бумаги: «И следовательно, небо зеленое!», то уже не важно, какие доводы вы приведете выше; вывод уже написан, и он уже изначально верен или неверен. Умение искусно спорить — это не рациональность, а рационализация. Чтобы приносить пользу, интеллект должен использоваться для чего-то иного, нежели для победы над самим собой. Выслушивайте гипотезы, когда они излагают свои доводы перед вами, но помните, что вы — не гипотеза; вы — судья. А потому не стремитесь защищать ту или иную сторону, ведь если бы вы знали конечную точку своего пути, вы бы уже были там.

Пятая добродетель — спор. Желающие потерпеть неудачу должны первым делом помешать друзьям помочь им. Те, кто мудро улыбается и говорит: «Я не стану спорить», лишают себя помощи и устраняются от общих усилий. В споре стремитесь к предельной честности — ради других, но также и ради себя самого: та часть вашей личности, которая искажает ваши слова, обращенные к другим, искажает и ваши собственные мысли. Не думайте, будто делаете одолжение другим, соглашаясь с их аргументами; одолжение делают вам. Не думайте, будто справедливость по отношению ко всем сторонам означает необходимость балансировать строго посередине между ними; истину не раздают равными частями перед началом дискуссии. Продвинуться в решении фактологических вопросов с помощью кулаков или оскорблений невозможно. Ищите испытание, которое позволит самой реальности рассудить вас.

Шестая добродетель — эмпиризм. Корни знания лежат в наблюдении, а его плод — предсказание. Какое дерево вырастет без корней? Какое дерево насытит нас без плодов? Если дерево падает в лесу и никто этого не слышит, издает ли оно звук? Один говорит: «Да, издает, ведь оно создает колебания воздуха». Другой говорит: «Нет, не издает, ведь ни в одном мозгу не происходит обработки слуховых сигналов». Хотя они спорят — один говорит «да», а другой — «нет», — оба они не ожидают никаких различий в своем восприятии этого леса. Спрашивайте не о том, какие убеждения исповедовать, а о том, какие ощущения предвосхищать. Всегда четко понимайте, о каком именно различии в ощущениях вы спорите. Не позволяйте спору уклоняться в сторону и переключаться на что-то иное — например, на чьи-то добродетели как рационалиста. Джерри Кливер сказал: «Губит вас не неумение применить какую-то высокоуровневую, тонкую, сложную технику. Губит невнимание к основам. То, что вы упускаете мяч из виду»2. Не позволяйте словам ослепить себя. Если вычесть слова, останется лишь предвосхищение.

Седьмая добродетель — простота. Антуан де Сент-Экзюпери писал: «Совершенство достигается не тогда, когда нечего добавить, а тогда, когда нечего отнять»3. Простота — это добродетель в убеждениях, проектировании, планировании и обосновании. Когда вы заявляете о масштабном убеждении со множеством деталей, каждая дополнительная деталь — это еще один шанс для всего убеждения оказаться неверным. Каждое уточнение увеличивает ваше бремя; если вы можете облегчить свое бремя, вы обязаны это сделать. Нет такой соломинки, которая не могла бы переломить вам хребет. О рукотворных вещах говорят: самая надежная деталь — та, которую исключили из конструкции машины. О планах: запутанная паутина рвется. Цепочка из тысячи звеньев приведет к верному выводу, если верен каждый шаг; но если ошибочен хотя бы один шаг, вас может унести куда угодно. В математике гора добрых дел не искупит ни единого греха. Поэтому будьте осторожны на каждом шагу.

Восьмая добродетель — смирение. Быть смиренным — значит предпринимать конкретные действия, предвосхищая собственные ошибки. Признать свою склонность к ошибкам и ничего с этим не сделать — это не смирение; это бахвальство своей скромностью. Кто смиреннее всех? Те, кто умелее всех готовятся к самым глубоким и катастрофическим ошибкам в собственных убеждениях и планах. Поскольку в этом мире полно людей, чье понимание рациональности чудовищно слабо, начинающие ученики легко выигрывают споры и получают преувеличенное представление о собственных способностях. Но быть лучше других бесполезно: жизнь не выставляет оценки по кривой распределения. Лучший физик Древней Греции не мог рассчитать траекторию падения яблока. Нет никаких гарантий, что вы добьетесь адекватности даже при максимальных усилиях; поэтому не думайте о том, справляются ли другие еще хуже. Сравнивая себя с другими, вы не заметите когнитивных искажений, общих для всех людей. Быть человеком — значит совершать десять тысяч ошибок. Никто в этом мире не достигает совершенства.

Девятая добродетель — перфекционизм. Чем больше ошибок вы в себе исправляете, тем больше замечаете. По мере того как ваш разум становится все тише, вы слышите все больше шума. Когда вы замечаете в себе ошибку, это сигнализирует о вашей готовности стремиться к переходу на следующий уровень. Если вы миритесь с ошибкой вместо того, чтобы исправить ее, вы не продвинетесь на следующий уровень и не обретете навык замечать новые ошибки. В любом искусстве, если вы не стремитесь к совершенству, вы остановитесь, не сделав и первых шагов.