Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

УЧЕНИК: «Но что же тогда происходит?»

БЕЗАЛАБЕРНЫЙ: (Бульканье. Шипение.) «Никогда не задавай этот вопрос».

УЧЕНИК: «А как насчёт того, что мы измеряем поляризацию этого фотона здесь, а за световой год отсюда вероятность запутанного фотона оказаться поляризованным вертикально меняется с 50% до 25%?»

БЕЗАЛАБЕРНЫЙ: «Да, и что с того?»

УЧЕНИК: «Разве это не нарушает специальную теорию относительности?»

БЕЗАЛАБЕРНЫЙ: «Нет, ведь вы просто выясняете поляризацию другого фотона. Помните: амплитуды не реальны.»

УЧЕНИК: «Но теорема Белла показывает, что не существует никаких локальных скрытых параметров, которые могли бы описывать поляризацию другого фотона до того, как мы её измерим...»

БЕЗАЛАБЕРНЫЙ: «Вот именно! Бессмысленно рассуждать о поляризации фотона до того, как мы её измерили».

УЧЕНИК: «Но ведь вероятность внезапно меняется...»

БЕЗАЛАБЕРНЫЙ: «Бессмысленно рассуждать об этом до того, как мы это измерили!»

Что вообще имеет в виду Безалаберный? Неважно, насколько правдоподобны его слова; какому состоянию реальности соответствовала бы их истинность?

Какой реальность могла бы быть, чтобы рассуждения о нарушении специальной теории относительности оказывались бессмысленными из-за несуществования подверженного влиянию свойства, притом что вы могли бы рассчитать его изменения?

Но знаете что? Забудьте об этом. Я хочу знать ответ на куда более важный вопрос:

Откуда Безалаберный вообще берёт всё это?

Предположим, вы берёте уравнение Шрёдингера и заявляете как непреложный факт:

Это уравнение даёт хорошие предсказания, но оно ничего не значит!

Серьёзно? Откуда вы знаете?

Я иногда повторяю, что фундаментальный вопрос рациональности звучит так: «Почему вы верите в то, во что верите?»

Вы утверждаете, что уравнение Шрёдингера «ничего не значит». Как эта крупица определённого знания оказалась в вашем распоряжении, если это не просто невежество, ошибочно принятое за знание?

Был ли какой-то эксперимент, который вам об этом поведал? Я вполне допускаю мысль, что эксперименты могут сообщать нам вещи, кажущиеся философски невозможными. Но в данном случае мне хотелось бы увидеть решающие данные. Был ли момент, когда вы тщательно подготовили экспериментальную установку и просчитали, что ожидаете увидеть, если (1) уравнение Шрёдингера имеет смысл, или (2) уравнение Шрёдингера бессмысленно — и получили результат (2)?

БЛАГОРАЗУМНЫЙ: «Если я измеряю поляризацию фотона под углом 90°, затем измеряю под углом 45°, а затем снова под углом 90°, история моих экспериментов показывает, что в 100 испытаниях фотон поглощался 47 раз и пропускался 53 раза».

БЕЗАЛАБЕРНЫЙ: «Поляризация под углом 90° и поляризация под углом 45° — это несовместимые свойства; они не могут существовать одновременно, и если вы измеряете одно, то бессмысленно рассуждать о другом».

Откуда ты знаешь?

Как ты приобрёл это знание, Безалаберный? Я знаю, откуда Благоразумный взял своё, но откуда взялось твоё?

Моё отношение к вопросам существования и смысла прекрасно иллюстрирует дискуссия о текущих доказательствах того, конечна или бесконечна Вселенная в пространстве, в которой Джеймс Д. Миллер пожурил Робина Хэнсона:

Робин, ты страдаешь от предвзятости чрезмерной уверенности, предполагая, что Вселенная вообще существует. Наверняка есть какая-то вероятность того, что размер Вселенной равен нулю.

На что я ответил:

Джеймс, даже если Вселенная не существует, всё равно было бы неплохо узнать, какая именно Вселенная не существует — бесконечная или конечная.

Ха! Думаете, этот старый трюк в духе «Вселенной не существует» меня остановит? Он меня даже не замедлит!

Не то чтобы я исключал возможность того, что Вселенная не существует. Просто даже если ничего не существует, я всё равно хочу понять это «ничего» как можно лучше. Знаете ли, моё любопытство не испаряется только оттого, что реальности нет!

Природа «реальности» — это нечто, в чём я до сих пор путаюсь, так что остаётся вероятность, что её вообще нет. Но закон Игана по-прежнему в силе: «Всё сходится к норме». Яблоки не перестали падать, когда Эйнштейн опроверг теорию гравитации Ньютона.

Конечно, когда пыль уляжется, может оказаться, что яблок не существует, Земли не существует, реальности не существует. Но несуществующие яблоки всё равно будут падать на несуществующую землю с бессмысленным ускорением 9,8 м/с2.

Вы говорите, что Вселенная не существует? Хорошо, допустим, я в это верю — хотя и непонятно, во что именно я должен верить, кроме самого повторения этих слов.

И всё же, что произойдёт, если я нажму вот эту кнопку?

В эссе «Простая истина» я писал:

Честно говоря, я и сам не вполне уверен, откуда берётся вся эта штука под названием «реальность». Я не могу создать собственную реальность в лаборатории, так что я, должно быть, её ещё не понимаю. Но время от времени я твёрдо верю, что произойдёт одно, а вместо этого происходит нечто совсем другое... Поэтому мне нужны разные названия для штуковин, которые определяют мои предсказания, и для штуковины, которая определяет результаты моих экспериментов. Первые штуковины я называю «убеждениями», а вторую штуковину — «реальностью».

Вы хотите сказать, что квантовомеханические уравнения «не реальны»? Буду великодушен и предположу, что это что-то значит. Что же это могло бы значить?

Возможно, это означает, что уравнения, определяющие мои предсказания, существенно отличаются от той штуковины, которая определяет результаты моих экспериментов. Но что тогда действительно определяет результаты моих экспериментов? Если вы ответите мне «ничего», я хотел бы знать, что это за «ничего» такое, и почему это «ничего» демонстрирует столь очевидную закономерность при определении, например, экспериментальных измерений массы электрона.

Мне не очень-то нравятся люди, которые велят мне прекратить задавать вопросы. Если вы заявляете, что нечто совершенно точно бессмысленно, я хочу знать, что именно вы под этим подразумеваете и откуда вы это узнали. В противном случае вы не дали мне ответа, а лишь велели перестать спрашивать.

В «Простой истине» описывается жизнь пастуха и его подмастерья, которые научились считать овец, бросая камешки в вёдра. Однажды к ним приезжает придворный посланник, желающий узнать, как работают «волшебные камешки». Пастух пытается объяснить: «Пустое ведро волшебно тогда и только тогда, когда на пастбищах нет овец», но вскоре его голос тонет в возбуждённых спорах подмастерья и посланника о том, как именно магия проникает в камешки.

Здесь же мы имеем квантовые уравнения, которые дают отличные экспериментальные предсказания. Что именно означает утверждение, что они «бессмысленны»? Это похоже на ведро с камешками, которое позволяет считать овец, но не содержит никакой магии?

Ещё до того, как теорема Белла исключила локальные скрытые параметры, казалось возможным (как думал Эйнштейн), что существует некое более полное описание реальности, которым мы не располагаем, а квантовая теория лишь подытоживает неполное знание об этом