Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

газообразного водорода содержится шестьсот миллиардов триллионов атомов водорода. Это поразительное утверждение, но набралось достаточно свидетельств, чтобы убедить физиков вообще и вас в частности в его истинности.

А теперь спросите себя, сколько свидетельств потребовалось бы, чтобы убедить вас в истинности теории, содержащей шестьсот миллиардов триллионов отдельно сформулированных физических законов.

Почему же априорная вероятность программы в соломоновском формализме не включает в себя оценку того, сколько оперативной памяти она использует или каково её общее время работы?

Простой ответ таков: «Потому что пространственные и временные ресурсы, используемые программой, не являются взаимоисключающими возможностями». Это не спецификация программы, которая в каждом конкретном месте может содержать только 1 или 0.

Но ещё более простой ответ звучит так: «Потому что, если судить по истории науки, эта эвристика не работает».

Бритву Оккама приводили в качестве возражения против гипотезы о том, что туманности на самом деле являются далекими галактиками — казалось, это колоссально увеличивает количество сущностей во Вселенной. Все эти звёзды!

Снова и снова в истории человечества Вселенная становилась всё больше. Вариант Бритвы Оккама, который в каждом подобном случае помечал бы более обширную Вселенную как менее вероятную, показал бы себя гораздо хуже с точки зрения исторического опыта человечества.

Это часть тех самых «экспериментальных свидетельств», на которые я намекал ранее. Хотя теории простоты можно обосновать соображениями математического толка, желательно также, чтобы они действительно работали на практике. (Другая часть «экспериментальных свидетельств» исходит от статистиков, специалистов по компьютерным наукам и исследователей искусственного интеллекта, которые проверяют, какие именно определения «простоты» позволяют создавать компьютерные программы, эмпирически успешно предсказывающие будущие данные на основе прошлых. Вероятно, парадигма минимальной длины описания оказалась здесь наиболее продуктивной, поскольку она предлагает очень гибкий способ размышления о реальных проблемах.)

Представьте себе космический корабль, запуск которого вы наблюдаете с огромной помпой; он ускоряется, удаляясь от вас, и вскоре летит со скоростью 0,9c. Если расширение Вселенной продолжится — как считает современная космология, — наступит момент, когда, согласно вашей модели реальности, вы не сможете взаимодействовать с этим кораблем даже в принципе: он пересечёт космологический горизонт относительно вас, и испускаемые им фотоны уже не смогут обогнать расширение Вселенной.

Должны ли вы верить, что космический корабль буквально, физически исчезает из Вселенной в тот момент, когда пересекает космологический горизонт относительно вас?

Если вы считаете, что Бритва Оккама подсчитывает количество объектов в модели, то да, должны. Как только корабль пересекает ваш космологический горизонт, модель, в которой он мгновенно исчезает, и модель, в которой он продолжает лететь дальше, дают неразличимые предсказания; ни одна из них не имеет байесовского доказательного преимущества перед другой. Однако одна модель содержит гораздо меньше «сущностей»: ей не нужно говорить обо всех кварках, электронах и полях, из которых состоит корабль. Следовательно, проще предположить, что корабль исчезает.

С другой стороны, вы можете сказать: «В ходе многочисленных экспериментов я вывел определённые законы, управляющие наблюдаемыми частицами. Космический корабль состоит из таких частиц. Применяя эти законы, я делаю вывод, что корабль должен продолжать движение после пересечения космологического горизонта с тем же импульсом и той же энергией, что и прежде, иначе нарушатся законы сохранения, которые, насколько я мог судить, соблюдаются во всех поддающихся проверке случаях. Чтобы предположить, будто корабль исчезает, мне пришлось бы добавить новый закон: „Вещи исчезают, как только пересекают мой космологический горизонт“».

Декогерентная (она же многомировая) версия квантовой механики утверждает, что измерения подчиняются тем же квантовомеханическим правилам, что и все остальные физические процессы. Применяя эти правила к макроскопическим объектам точно так же, как к микроскопическим, мы получаем наблюдателей в состоянии суперпозиции. Здесь возникает множество вопросов, например: «Но почему тогда все бинарные квантовые измерения не кажутся имеющими вероятность 50/50, раз разные версии нас видят оба исхода?»

Однако возражение, будто декогеренция нарушает Бритву Оккама за счёт умножения объектов в модели, попросту неверно.

Декогеренция не требует, чтобы волновая функция принимала какое-то сложное точное начальное состояние. Многомировая интерпретация не задаёт все свои миры вручную, а генерирует их с помощью компактных законов квантовой механики. Компьютерная программа, напрямую симулирующая квантовую механику для получения экспериментальных прогнозов, потребовала бы огромного объёма оперативной памяти — но симуляция волновой функции экспоненциально затратна в любой версии квантовой механики! Декогеренция — просто в ещё большей степени. Многие физические открытия в истории человечества, от звёзд до галактик, от атомов до квантовой механики, колоссально увеличили кажущуюся вычислительную нагрузку того, что мы считаем Вселенной.

Многомировая интерпретация не становится сложнее от того, что в ней целый зиллион миров, так же как и атомная гипотеза не усложняется из-за зиллиона атомов. Для каждого, кто понимает Бритву Оккама количественно, слово «сложный» означает совершенно не это.

Как и в историческом случае с галактиками, возможно, люди приняли свой шок от мысли о столь огромной вселенной за штраф к вероятности и сослались в оправдание на Бритву Оккама. Но даже если для декогеренции и существуют штрафы к вероятности, огромность предполагаемой вселенной сама по себе определённо не является их источником!

Представление о том, что декогерентные миры — это дополнительные сущности, штрафуемые Бритвой Оккама, попросту ошибочно. Оно не «в какой-то мере верно». Это не аргумент, пусть и слабый, но всё же имеющий право на существование. Это не заслуживающая защиты позиция, которую можно было бы укрепить дальнейшими доводами. Оно совершенно несостоятельно с точки зрения теории вероятностей. Его не исправить. Это плохая математика. 2 + 2 = 3.

*

235. Декогеренция фальсифицируема и проверяема.

Слова «фальсифицируемый» и «проверяемый» иногда используются как взаимозаменяемые; эта неточность — цена общения на английском языке. Здесь я хочу обсудить два разных теоретико-вероятностных свойства, и одно из них я буду называть «фальсифицируемым», а другое — «проверяемым», поскольку это кажется мне наиболее подходящим вариантом.

Что касается математики, то она начинается, как и очень многое другое, с:

Это теорема Байеса. У меня есть как минимум две разные вещи с принтом этой теоремы, так что она наверняка важна.

Кратко напомню: B здесь означает свидетельство, Ai — некоторая рассматриваемая гипотеза, а Aj — конкурирующие, взаимоисключающие гипотезы. Выражение P(B|Ai) означает «вероятность увидеть B, если гипотеза Ai истинна», а P(Ai|B) означает «вероятность того, что гипотеза Ai истинна, если мы видим B».

Математический феномен, который я назову «фальсифицируемостью» — это научно желательное свойство гипотезы концентрировать свою вероятностную массу на предпочтительных исходах. Из