Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Даже в то время обе горы были слишком велики, чтобы предположить, будто какая-то из теорий была попросту ошибочной. Такие огромные горы доказательств нельзя стравливать в борьбе, будто одна опровергает другую. Значит, вы либо неверно применяете одну из теорий, либо используете модель за пределами той области, которую она хорошо предсказывает.

Поэтому не стоит обязательно смотреть свысока на теорию только потому, что она полутехническая. Полутехнические теории могут набрать достаточно высокое количество очков по сравнению со всеми имеющимися альтернативами, чтобы вы поняли: эта теория как минимум приблизительно верна. Когда-нибудь полутехническую теорию может заменить или даже опровергнуть более точный конкурент, но это верно и для чисто технических теорий. Вспомните, как общая теория относительности Эйнштейна поглотила ньютоновскую теорию тяготения.

Но истинность полутехнической теории — теории, у которой на данный момент нет точных, вычислительно реализуемых моделей, проверяемых осуществимыми экспериментами, — может быть гораздо менее очевидной, чем истинность теории технической. Требуются мастерство, терпение и тщательный анализ, чтобы отличить хорошие полутехнические теории от тех, в которых царит полнейшая путаница. Люди не умеют делать это интуитивно, вот почему у нас есть Наука.

Люди охотно спешат с выводами и хватаются за любой повод, чтобы отвергнуть несимпатичную им теорию. Вот почему я привел в пример эволюционизм девятнадцатого века — чтобы показать, почему не следует спешить и с ходу отвергать «нетехнические» теории. С точки зрения моральных устоев науки, эволюционизм девятнадцатого века был повинен не в одном грехе. Эволюционизм девятнадцатого века не делал количественных предсказаний. Его было нелегко подвергнуть фальсификации. По большей части он лишь объяснял то, что уже было известно. У него отсутствовал базовый механизм, поскольку о ДНК тогда никто еще не знал. Он даже противоречил законам физики девятнадцатого века. И все же естественный отбор был настолько потрясающе хорошим объяснением постфактум, что люди массово его приняли, и в итоге оказались правы. Наука как человеческая деятельность требует заблаговременных предсказаний. Теория вероятностей как математическая дисциплина не делает различий между предсказаниями постфактум и заблаговременными, поскольку предполагает, что вероятностные распределения — это фиксированные свойства гипотезы.

Правило о заблаговременных предсказаниях — это правило социального процесса науки, моральный устой, а не теорема. Этот моральный устой существует для того, чтобы уберечь людей от сугубо человеческих ошибок, которые трудно даже описать на языке теории вероятностей, — например, от подгонки задним числом того, что, как вы утверждаете, предсказывает ваша гипотеза. Люди пришли к выводу, что эволюционизм девятнадцатого века был отличным объяснением, пусть даже и постфактум. С точки зрения теории вероятностей это рассуждение было верным, именно поэтому оно сработало, вопреки всем научным грехам. Теория вероятностей — это математика. Социальный процесс науки — это свод юридических правил, призванных не позволить людям жульничать с математикой.

Однако верно и то, что по сравнению с современным эволюционистом, теоретики эволюции конца девятнадцатого — начала двадцатого века часто, к сожалению, сбивались с пути. Дарвин, ума которого хватило на то, чтобы изобрести эту теорию, оказался поразительно точен в огромном множестве вещей. Но преемники Дарвина, ума которых хватило лишь на то, чтобы принять теорию, понимали эволюцию превратно, часто и самым серьезным образом. Чтобы исправить их ошибки, потребовался обычный научный процесс. Просто невероятно, как мало логических ошибок допустил Дарвин14 в «Происхождении видов» и «Происхождении человека» по сравнению с теми, кто шел за ним.

В этом же кроется и опасность полутехнических теорий. Даже после того как гениальное озарение подтверждено, рядовые ученые в отсутствие формальных моделей могут оказаться неспособны применять его идеи правильно. Еще в 1960-х годах биологи говорили о том, что эволюция работает «на благо вида», или предполагали, что отдельные особи сдерживают свое размножение, дабы предотвратить перенаселение среды обитания. Лучшие эволюционисты понимали, что к чему, но средние теоретики — нет.15

Поэтому гораздо лучше иметь техническую теорию, чем полутехническую. К сожалению, Природа далеко не всегда настолько любезна, чтобы позволить описать Себя изящными, формальными, вычислительно реализуемыми моделями, и не всегда Она снабжает Своих исследователей измерительными приборами, способными напрямую зондировать Ее явления. Иногда это лишь вопрос времени. Эволюционизм девятнадцатого века был полутехническим, но позже появилась математика популяционной генетики и, в конце концов, секвенирование ДНК. Природа не всегда подбрасывает вам явление, которое вы можете описать с помощью технических моделей спустя пятнадцать секунд после того, как к вам пришло базовое озарение.

И все же передний край науки, область полемики, чаще всего касается именно полутехнических теорий или же чепухи, которая под них маскируется. К тому времени как теория обретает технический статус, она обычно перестает быть спорной (среди ученых). Так что вопрос о том, как отличить хорошие полутехнические теории от бессмыслицы, чрезвычайно важен для ученых, и решить его не так просто, как огульно отвергнуть любую нетехническую теорию. Ради того, чтобы отличать истину от лжи, и существует вся дисциплина рациональности. Это искусство невозможно свести к контрольному списку — во всяком случае, к такому, который средний ученый сможет надежно применять после часовой подготовки. Будь все так просто, наука нам бы не понадобилась.

Зачем вы вообще следите за научными спорами? Зачем пастись на том скудном и подгнившем корме, который предлагают СМИ, когда в учебниках вас ждет столько полноценной пищи? Наука из учебников прекрасна! Наука из учебников постижима, в отличие от просто завораживающих слов, которые никогда не смогут стать по-настоящему красивыми. Без математики у завораживающих слов нет ни силы, ни даже смысла. Завораживающие слова — это не знание, а лишь иллюзия знания, именно поэтому знание о том, что «гравитация возникает из-за искривления пространства-времени», приносит так мало удовлетворения. Наука заключается не в завораживающих словах, хотя в горячих новостях вы только их и прочитаете.

Следить за научными спорами бывает оправданно. Возможно, вы эксперт в этой области, и тогда эти споры — ваша законная пища. Или же эти научные споры — то, что вам необходимо знать прямо сейчас, потому что это влияет на вашу жизнь. Представьте, что на дворе девятнадцатый век, вы с вожделением разглядываете представителя подходящего пола в купальном костюме девятнадцатого века, и вам крайне важно знать: ваше сексуальное влечение — следствие психологии, сформированной естественным отбором, или искушение, подстроенное дьяволом, дабы завлечь вас в адское пламя?

Нельзя полностью исключать, что мы столкнемся с научным спором, который затрагивает нас лично, и обнаружим, что нам до зареза нужна правильная разгадка. Поэтому я рассмотрю некоторые тревожные признаки, которые исторически отличали расплывчатые гипотезы, оказавшиеся в итоге антинаучной галиматьей, от расплывчатых гипотез, которые со временем переросли в