Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Но если мы отменим требование выдавать новые предсказания, то останемся в состоянии научного хаоса. К старым теориям можно будет добавлять любые непроверяемые усложнения и получать экспериментально эквивалентные предсказания. Если мы отвергнем то, что вы называете «гистерезисом», то как мы защитим наши текущие теории от любого чудака, который заявит, что электроны обладают новым свойством под названием «запах», прямо как у кварков есть «аромат»?

Прежде всего скажу, что я совершенно согласен: вы должны отвергнуть того, кто придёт к вам и скажет: «Эй, у меня тут блестящая новая идея! Может, заряженные частицы притягивает вовсе не электромагнитное поле. Может, на самом деле частицы толкают крошечные ангелы, а электромагнитное поле просто указывает им, как это делать. Смотрите, у меня есть куча успешных экспериментальных предсказаний — тех самых, которые вы привыкли считать своими!»

Так что да, я согласен, что нам не стоит покупаться на эту потрясающую новую теорию, но проблема вовсе не в её новизне.

Представьте, что человеческая история пошла лишь немного по-другому, и Церковь оказалась главным грантодателем для Науки. И представьте, что, когда законы электромагнетизма только разрабатывались, явление магнетизма сочли доказательством существования невидимых духов, ангелов. Джеймс Клерк становится святым Максвеллом, описавшим законы, которые управляют действиями ангелов.

Пару веков спустя, когда власть Церкви сжигать людей на кострах была ограничена, кто-то приходит и спрашивает: «Слушайте, а нам правда нужны ангелы?»

«Да, — говорят все. — Как иначе одни лишь числа электромагнитного поля могли бы преобразовываться в реальное движение частиц?»

«Это может быть фундаментальным законом, — говорит новичок, — или чем-то отличным от ангелов, что мы откроем позже. Я лишь предлагаю признать, что интерпретация чисел как действий ангелов на самом деле ничего не даёт, и нам следует просто оставить числа, а часть с ангелами выбросить».

И они переглядываются и в конце концов говорят: «Но ваша теория не даёт никаких новых экспериментальных предсказаний, так с чего бы нам её принимать? Как нам проверить ваши утверждения об отсутствии ангелов?»

С нормативной точки зрения мне кажется, что если мы должны отвергнуть бредовых ангелов в первом сценарии, даже не имея возможности различить эти две теории экспериментально, то мы также должны отвергнуть ангелов официальной науки во втором сценарии, даже без возможности различить эти две теории экспериментально.

Обычно именно чудак добавляет новые бесполезные усложнения, а не учёные случайно встраивают их в самом начале. Но проблема не в том, что эти усложнения новые, а в том, что они бесполезны независимо от того, новые они или нет.

Байесовец сказал бы, что лишние усложнения в виде ангелов в теории приводят к штрафам для её априорной вероятности. Если две теории дают эквивалентные предсказания, мы оставляем ту, которую можно описать самым коротким сообщением, самой маленькой программой. Если вы оцениваете априорную вероятность каждой гипотезы путём подсчёта битов кода, а затем применяете правила байесовского обновления ко всем имеющимся свидетельствам, то нет никакой разницы, о какой гипотезе вы услышали первой или в каком порядке вы учитывали свидетельства.

В реальной жизни обычно невозможно применять формальную теорию вероятностей — точно так же, как нельзя предсказать победителя теннисного матча с помощью квантовой теории поля. Но если теория вероятностей и может служить практическим руководством, то говорит она следующее: отвергайте бесполезные усложнения вообще, а не только тогда, когда они новые.

Да ведь множество миров декогеренции как раз и бесполезно! Предполагается, что наряду с нашим миром существуют все эти миры, и они ничего не делают с нашим миром, но я всё равно должен в них верить?

Нет, согласно декогеренции, верить вы должны в общие законы, управляющие волновыми функциями, — а эти общие законы очень даже наблюдаемы и проверяемы.

В других работах я утверждал, что статус научности должен ассоциироваться с общими законами, а не с конкретными событиями, поскольку именно общие законы, в принципе, каждый может пойти и проверить самостоятельно. Уверяю вас, что прямо сейчас, когда я пишу эти строки, на мне надеты белые носки. Поэтому у вас, вероятно, есть рациональные основания верить, что это исторический факт. Но это не то особо сильное утверждение, которое мы канонизируем как временное научное убеждение, поскольку вы не можете провести никакой самостоятельный эксперимент, чтобы установить его истинность; вам приходится полагаться на мой авторитет. А вот если бы я назвал вам массу электрона вообще, вы могли бы пойти и найти свой собственный электрон для проверки и тем самым лично убедиться в истинности общего закона в этом конкретном случае.

Возможность для каждого пойти и самостоятельно проверить общий научный закон, воссоздав какой-то конкретный случай, — это именно то, что делает нашу веру в общий закон особенно надежной.

Сторонники декогеренции говорят, что они верят в дифференциальное уравнение, которое, как показывают наблюдения, управляет эволюцией волновых функций, — его вы можете пойти и проверить сами в любое время, достаточно взглянуть на атом водорода.

Вера в существование обособленных частей универсальной волновой функции не является дополнительной, и она не призвана объяснять цену золота в Лондоне; это просто дедуктивное следствие эволюции волновой функции. Если свидетельства множества конкретных случаев дают вам повод поверить, что X → Y — это общий закон, а свидетельства какого-то конкретного случая дают вам повод поверить в X, то у вас должно быть P(Y) ≥ P(X и (X → Y)).

Или, если взглянуть на это иначе, если P(Y|X) ≈ 1, то P(X и Y) ≈ P(X).

Иными словами, вера в дополнительные детали не обходится вам в лишнюю вероятность, если они являются логическими следствиями общих убеждений, которые у вас уже есть. Впрочем, сами эти общие убеждения, по всей видимости, должны быть фальсифицируемыми, иначе зачем вообще беспокоиться?

Вот почему мы не верим, что космические корабли мгновенно прекращают свое существование, когда они пересекают космологический горизонт относительно нас. Верно, дальнейшее существование космического корабля не оказывает влияния на наш мир. Дальнейшее существование корабля не помогает объяснить цену золота в Лондоне. Но невидимый корабль достается нам даром как следствие общих законов, подразумевающих сохранение массы и энергии. Если бы дальнейшее существование корабля не было дедуктивным следствием законов физики в том виде, как мы моделируем их в настоящее время, тогда оно было бы дополнительной деталью, обходилось бы в дополнительную вероятность, и нам пришлось бы задаться вопросом, почему наша теория должна содержать это утверждение.

Проверяемая часть декогеренции — это