Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Тот факт, что «вам» кажется, будто вы видите кота только живым или только мертвым, — это как раз то, что предсказывают простейшие квантовые законы. Таким образом, исходя из нашего текущего опыта, у нас нет никаких причин полагать, будто квантовые законы на макроуровне чем-то отличаются от законов микроуровня.

И физики подтверждают суперпозицию на все более крупных масштабах. Судя по всему, сейчас предпринимаются попытки проверить суперпозицию на 50-микронном объекте, который по размеру больше большинства нейронов.

Существование других версий нас самих и даже других Земель не предполагается дополнительно. Мы просто предполагаем, что на всех уровнях действуют одни и те же законы, поскольку у нас нет причин считать иначе, а все экспериментальные тесты до сих пор проходили успешно. Существование других декогерировавших Земель — это логическое следствие простейшего обобщения, соответствующего всем известным фактам. Если вы думаете, будто бритва Оккама утверждает, что другие миры — это «лишние сущности», которые плодятся без необходимости, то вам стоит проверить математику теории вероятностей; бритва Оккама работает совершенно иначе.

И все же есть одна конкретная загадка, которая кажется странной при попытке распространить микроскопические законы на все уровни, включая людей в состоянии суперпозиции:

Если мы попытаемся получить вероятности, подсчитывая число отдельных наблюдателей, то нет очевидной причины, по которой интеграл от квадрата модуля волновой функции должен коррелировать с результатами статистических экспериментов. Не существует известной причины для вероятностей Борна, и даже кажется, что априори, если бы мы просто считали наблюдателей, мы бы ожидали вероятности 50/50 для любого бинарного квантового эксперимента, развивающегося по обоим сценариям.

Робин Хансон предполагает, что если экспоненциально меньшие, чем в среднем, декогерировавшие сгустки амплитуды («миры») испытывают интерференцию со стороны экспоненциально малых утечек из более крупных сгустков, мы снова получим вероятности Борна. Я считаю это интересной возможностью, потому что она столь естественна.

(У меня самого недавно были мысли в другом направлении: если я попытаюсь подсчитать наблюдателей очевидным способом, то получу странные на вид результаты в целом, а не только в случае квантовой физики. Если, к примеру, я разделю свой мозг на триллион аналогичных частей при условии выигрыша в лотерею под анестезией; позволю моим «я» проснуться и, возможно, слегка отличаться друг от друга; а затем снова объединю их все в одно «я»; то подсчет наблюдателей очевидным способом говорит, что я должен быть в состоянии заставить себя выиграть в лотерею (если я могу разделять свой мозг и объединять его обратно, как мог бы делать загруженный разум).

В связи с этим мне кажется очень интересным, что у правила Борна нет проблемы разделения-объединения. В рамках унитарной квантовой физики правило Борна — это единственное правило, которое не позволяет «наблюдателям» обладать экстрасенсорными способностями — что не объясняет правило Борна, но, безусловно, является интересным фактом. При наличии правила Борна даже разделение и объединение миров все равно приводило бы к непротиворечивым вероятностям. Возможно, физика использует лучший антропный подход, чем я!

Возможно, мне стоит руководствоваться физикой, вместо того чтобы пытаться логически вывести это априори, и посмотреть, куда это меня приведет? Но меня пока никуда не привело, так что это вряд ли можно назвать «ответом».)

Уоллес, Дойч и другие пытаются вывести правило Борна из теории принятия решений. Я отношусь к этому довольно подозрительно, поскольку кажется, будто здесь присутствует элемент «Что со мной будет?», который я не могу изменить, скорректировав свою функцию полезности. Даже если бы мне были совершенно безразличны миры, где я не выиграл в квантовую лотерею, мне все равно кажется, что в некотором смысле я бы «в основном» просыпался в мире, где я лотерею проиграл. Именно это, как мне кажется, и требует объяснения.

Суть в том, что было предложено множество гипотез о борновских вероятностях. Не так много, как следовало бы, потому что эта загадка долгое время ошибочно помечалась как «решенная». Но все же предложений было немало.

Есть обоснованная надежда решить загадку Борна без новых фундаментальных законов. Ваш мир не расщепляется ровно на два новых подпроцесса в тот самый момент, когда вы видите надпись «ПОГЛОЩЕН» или «ПРОПУЩЕН» на ЖК-экране датчика фотонов. Мы постоянно находимся в состоянии суперпозиции и декогеренции, все время, иногда по непрерывным измерениям — хотя мозг дискретен и в его работе участвует активация целых нейронов, а состояние «сработал/не сработал» было бы крайне декогерентным состоянием даже для одного нейрона... Похоже, есть место для чего-то неожиданного, что могло бы объяснить статистику Борна — лучшего понимания антропного веса наблюдателей или лучшего понимания суперпозиций мозга — без новых фундаментальных законов.

Впрочем, мы не можем исключать и того, что в статистике Борна замешан какой-то новый фундаментальный закон.

Как пишет Джесс Ридель:

Если из истории физики и можно извлечь какой-то урок, то он состоит в том, что каждый раз, когда исследуются новые экспериментальные «режимы» (например, большие скорости, малые размеры, большая плотность массы, высокие энергии), наблюдаются явления, которые приводят к новым теориям (соответственно Специальной теории относительности, квантовой механике, Общей теории относительности и Стандартной модели).

«Каждый раз» — это слишком сильно сказано. Придирка, конечно, но также и важный момент: нельзя просто предполагать, что какой-то конкретный закон перестанет работать в новом режиме. Но вполне возможно, что в статистике Борна замешан новый фундаментальный закон, и этот закон проявляется только в двадцатом знаке после запятой на микроскопическом уровне (поэтому до сих пор и оставался незамеченным), но при суммировании дает существенные эффекты на макроскопическом уровне.

Может ли существовать какой-то еще не открытый закон, приводящий к тому, что существует только один мир?

Это ошеломляющая идея; она подразумевает, что все наши двойники в других мирах — все те различные версии нас самих, которые постоянно отпочковываются не только из-за проводимых людьми квантовых измерений, но и вследствие обычных энтропийных процессов — на самом деле исчезли, оставив нас в одиночестве! Эта версия Земли была бы единственной версией, существующей в локальном пространстве! Если инфляционный сценарий в космологии окажется ошибочным, а топология Вселенной — конечной и сравнительно небольшой, так что у Земли не будет далеких дубликатов, существование которых предполагала бы экспоненциально огромная Вселенная, тогда эта Земля могла бы оказаться единственной Землей, существующей где бы то ни было. Довольно тревожная мысль!

Но опасно слишком сильно концентрироваться на конкретных гипотезах, для размышлений о которых у вас нет конкретных оснований. Это в точности