Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

«Ну да, конечно, — скажете вы, — физики напортачили с многомировой интерпретацией, но пощади их, Элиезер! Никто никогда и не утверждал, что наука как социальный процесс безупречна. Люди есть люди, они совершают ошибки».

Но физики, отказывающиеся признать многомировую интерпретацию, вовсе не нарушают правила Науки. Они соблюдают правила Науки.

Традиция, передающаяся из поколения в поколение, гласит, что новая физическая теория должна давать новые экспериментальные предсказания, которые отличают её от старой теории. Вы проводите проверку, и новая теория либо подтверждается, либо опровергается. Если она подтверждается, вы устраиваете грандиозное празднование, звоните в газеты и раздаете всем нобелевские премии; а дряхлым почётным профессорам, которые отказываются переходить в новую веру, лишь снисходительно потакают. Если теория опровергается, её главный сторонник публично отрекается от неё и зарабатывает репутацию честного человека.

В жизни наука на самом деле работает иначе; скорее, именно так всё должно быть устроено в Науке. Это идеал, к которому стремятся все хорошие ученые.

И вот появляется многомировая интерпретация, и кажется, что она не дает никаких новых предсказаний по сравнению со старой теорией. Это подозрительно. А еще есть все эти другие миры, но вы их не видите. Это крайне подозрительно. Это просто не кажется научным.

Если вы зашли так же далеко, как Recovering_irrationalist, так что многомировая интерпретация теперь кажется вам совершенно логичной, очевидной и естественной, и при этом вы начинали как традиционный рационалист, то вы должны уметь переключаться туда-сюда между научным и байесовским взглядами, подобно кубу Неккера.

Так что наденьте теперь Научные очки — они же у вас еще где-то завалялись, верно? Забудьте все, что вы знаете о колмогоровской сложности, индукции Соломонова или минимальной длине описания. Это не входит в традиционную подготовку. Вы просто прикидываете на глаз, насколько «простым» что-то выглядит. Слово «проверяемый» не вызывает в воображении образ теоремы Байеса, управляющей потоками вероятностей; оно вызывает образ лаборатории, проведения эксперимента и последующего празднования (или публичного отречения).

Научные очки: вкл: Текущая квантовая теория на данный момент прошла все экспериментальные проверки. Многомировая интерпретация не дает новых проверяемых предсказаний — все удивительные новые явления, которые она предсказывает, спрятаны там, где мы их не видим. Вполне можно обойтись без предположений о других мирах, и именно так вам и следует поступить. Все это попахивает научной фантастикой. Но надо признать, что квантовая физика — очень глубокая и запутанная тема, и кто знает, какие открытия нас ждут впереди? Позвоните мне, когда многомировая интерпретация даст проверяемое предсказание.

Снимаем научные очки, снова надеваем байесовские:

Байесовские очки: вкл: Простейшие квантовые уравнения, охватывающие все известные свидетельства, не делают особого исключения для масс человеческого масштаба. Нет даже причин задаваться подобным вопросом. Следующий!

Ладно, так можно ли решить эту проблему за пять минут с помощью изоленты и суперклея?

Нет.

А? Почему бы просто не обучать новые поколения выпускников-ученых индукции Соломонова и правилу Байеса?

Века назад было широко распространено представление о том, что Мудрецы могут раскрыть тайны Вселенной, просто размышляя о них, тогда как выйти и посмотреть на вещи считалось занятием низшим, второсортным, наивным и в конечном счёте лишь вводящим в заблуждение. Нельзя было доверять тому, как вещи выглядели, — только мысль могла служить проводником.

Наука зародилась как восстание против этой Глубокой Мудрости. В её основе лежит прагматичное убеждение, что люди, которые сидят в креслах и пытаются быть Глубоко Мудрыми, просто улетают в заоблачные дали. Нельзя было доверять собственным мыслям. Нужно было делать предварительные экспериментальные предсказания — предсказания, которых никто раньше не делал, — проводить проверку и подтверждать результат. Это и было свидетельством. Если вы сидели в кресле и размышляли о том, что казалось разумным... это не должно было дискредитировать вашу теорию, ведь Наука была не идеалистической верой в прагматизм или необходимость пачкать руки. Скорее, она была догмой о том, что решать должен только эксперимент. Только эксперименты могли судить вашу теорию — а не ваша национальность, вероисповедание или тот факт, что вы придумали эту теорию в своем кресле. Только эксперименты! Если вы сидели в кресле и придумали теорию, которая сделала новое предсказание, и эксперимент подтвердил это предсказание, то нас интересовал бы результат эксперимента, а не то, откуда взялась ваша гипотеза.

Это и есть Наука. И если вы утверждаете, что многомировая интерпретация должна заменить чрезвычайно успешную копенгагенскую интерпретацию, добавляя все эти ненаблюдаемые Земли-двойники просто потому, что это звучит более разумно и элегантно — а не потому, что она разгромила старую теорию благодаря более сильному экспериментальному предсказанию, — то вы подрываете базовое научное правило, которое удерживает людей от того, чтобы броситься заселять все теории ангелами на том основании, что ангелы — это более разумно и элегантно.

Вы думаете, что обучение нескольких людей индукции Соломонова решит эту проблему? Нобелевский лауреат Роберт Ауман — первый, кто доказал, что байесовские агенты с одинаковыми априорными вероятностями не могут согласиться не соглашаться друг с другом, — верующий ортодоксальный иудей. Ауман помогал проекту по проверке Торы на наличие «библейских кодов» — скрытых пророчеств от Бога — и пришел к выводу, что проекту не удалось подтвердить существование кодов. Вы хотите, чтобы Ауман думал, будто освоив индукцию Соломонова, можно забыть об экспериментальном методе? Как вы думаете, это ему поможет? А ведь большинство ученых даже не поднимутся до уровня Роберта Аумана.

Ладно, возвращаем байесовские очки на место. Неужели вы действительно собираетесь верить, что огромные части волновой функции исчезают, когда вы перестаете их видеть? И всё это в результате единственного во всей физике нелинейного, неунитарного, недифференцируемого, не CPT-симметричного, апричинного, сверхсветового, неформально заданного явления? Просто потому, что по чистой исторической случайности глупая версия теории была предложена первой?

Собираетесь ли вы внести существенные изменения в научную модель и поверить в бесчисленное множество других миров, которых не можете видеть, без решающего момента экспериментального триумфа над старой моделью?

Или же вы отвергнете теорию вероятностей?

Кому вы присягнете на верность — Науке или Байесу?

Майкл Вассар однажды (полушутя) заметил, что это даже хорошо, что большинство человечества верит в Бога, потому что иначе ему было бы очень трудно отвергнуть мажоритаризм. Но поскольку мнение большинства о существовании Бога попросту неправдоподобно, у нас нет иного выбора, кроме как отвергнуть чрезвычайно сильные философские аргументы в пользу мажоритаризма.

Теперь вы видите (одну из причин), почему я приложил столько усердия, чтобы объяснить квантовую теорию. Те, кто силен в математике,