Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

Или, возможно, мне стоит сказать так: «Если бы будущее не определялось реальностью, оно не могло бы определяться вами» или «Если бы будущее не определялось чем-то, оно не могло бы определяться вами». Не нужны ни нейробиология, ни физика, чтобы показать несостоятельность наивных определений свободы воли. Если бы разум не был воплощён в мозге, он был бы воплощён в чём-то другом; существовала бы `какая-то реальная вещь`, которая была бы разумом. Если бы будущее не определялось физикой, оно определялось бы `чем-то` ещё — каким-то законом, каким-то порядком, какой-то великой реальностью, включающей вас в себя.

Но если нами управляют законы физики, то как мы можем говорить, что управляем собой сами?

Посмотрите на это иначе: если бы законы физики нами `не` управляли, как вообще мы могли бы управлять собой?

Как могли бы одни мысли судить другие мысли, как могли бы конфликтовать между собой эмоции, как мог бы один образ действий казаться наилучшим, как могли бы мы переходить от неопределённости к уверенности в собственных планах посреди абсолютного хаоса?

Если бы нас не было в реальности, где бы мы могли быть?

Будущее определяется физикой. Какой физикой? Такой физикой, которая включает в себя действия людей.

Выбор людей определяется физикой. Какой физикой? Такой физикой, которая включает в себя взвешивание решений, рассмотрение возможных исходов, их оценку, испытание соблазнами, следование морали, оправдание проступков, стремление стать лучше...

Нет такого момента, когда какой-нибудь кварк прилетает с Плутона и перечёркивает всё это.

Мысли в процессе принятия вами решений — все они `реальны`, все они `материальны`. Но мысль слишком велика и сложна, чтобы быть атомом. Поэтому мысли состоят из вещей поменьше, а то, из чего всё сделано, мы называем «физикой».

Физика лежит в основе наших решений и включает их в себя. Она не сводит их к `иллюзии`.

Помните: физика сводится к нормальности; путаницу порождают ваши когнитивные алгоритмы.

*

242. Много миров, одна лучшая догадка.

Если рассмотреть множество микроскопических физических явлений — фотон, электрон, атом водорода, лазер — и миллион других известных экспериментальных установок, то можно вывести простые законы, которые, судя по всему, управляют всеми малыми объектами (если только не спрашивать о гравитации). Эти законы описывают эволюцию крайне абстрактного математического объекта, который я называл «распределением амплитуды», но который чаще называют «волновой функцией».

И тут возникают жуткие вопросы о правильном обобщении, охватывающем все эти микрослучаи. Назовем объект «зелубым», если он выглядит зеленым до 1 января 2020 года, а после этой даты выглядит синим. Если все изученные к настоящему моменту изумруды казались зелеными, то какое обобщение будет верным: «Изумруды зеленые» или «Изумруды зелубые»?

Ответ таков: правильное обобщение — «Изумруды зеленые». Сейчас я не буду вдаваться в аргументацию. Это не тема данного эссе, к тому же очевидный ответ в данном случае оказывается верным. Истинный Путь не глуп: насколько бы изощренной ни была ваша логика, в конечном итоге она должна приводить к правильному ответу, а не к ошибочному.

В аналогичном смысле простейшие обобщения, которые охватывали бы только наблюдаемые микроскопические явления, принимают форму «Все электроны имеют спин 1/2», а не «Все электроны имеют спин 1/2 до 1 января 2020 года» или «Все электроны имеют спин 1/2, если только они не являются частью запутанной системы весом более 1 грамма».

Когда мы переносим внимание на макроскопические явления, картина затуманивается. Мы не можем ставить эксперименты над волновой функцией человека так же, как над волновой функцией атома водорода. Вам ни в коем случае не удастся просто считать волновую функцию каким-нибудь маленьким квантовым сканером. Но в случае, скажем, человека размеры всего организма сводят на нет нашу способность проводить точные расчеты или точные эксперименты — мы не можем подтвердить, что квантовые уравнения соблюдаются до мельчайших деталей.

Мы знаем, что явления, которые принято считать «квантовыми», не исчезают просто так при объединении множества микрообъектов. Лазеры испускают поток когерентных фотонов, а не делают, скажем, что-то совершенно иное. Атомы обладают именно теми химическими свойствами, которые предписывает им квантовая теория, что позволяет им объединяться в стабильные молекулы, из которых состоит человек.

Так что, в некотором смысле, у нас есть масса доказательств того, что квантовые законы масштабируются до макроуровня без особых изменений. Макроскопическая химия по-прежнему работает.

Но мы не можем напрямую проверить, ведет ли себя совокупная волновая функция составляющих человека частиц именно так, как предписывают простейшие квантовые законы. О, мы знаем, что молекулы и атомы не распадаются, мы знаем, что макроскопические зеркала по-прежнему отражают свет своей серединой. Мы можем получить множество высокоуровневых предсказаний из предположения, что микро- и макромир управляются одними и теми же законами, и каждое проверенное предсказание подтвердилось.

Но если кто-то станет утверждать, что макроскопическая квантовая картина отличается от микроскопической в какой-то пока еще не поддающейся проверке детали — в чем-то таком, что проявляется лишь в неизмеримом двадцатом знаке после запятой в микроскопических взаимодействиях, но перерастает во что-то большее в макроскопических масштабах, — что ж, мы не можем доказать, что они неправы. Именно бритва Оккама говорит нам: «Существует бесчисленное множество новых фундаментальных законов, которые можно постулировать в двадцатом знаке после запятой; с чего вы вообще думаете именно об этом?»

Если мы проведем расчеты на основе простейших законов, управляющих всеми известными случаями, мы обнаружим, что люди оказываются в состояниях квантовой суперпозиции — точно так же, как фотоны в суперпозиции отражения от полупрозрачного зеркала и прохождения сквозь него. В мысленном эксперименте с котом Шрёдингера нестабильный атом переходит в суперпозицию распада и нераспада. Детектор, настроенный на атом, переходит в суперпозицию срабатывания и несрабатывания. (На самом деле суперпозиция теперь представляет собой совместное состояние [распад-атома × срабатывание-детектора] + [стабильный-атом × несрабатывание-детектора].) Заряд взрывчатки, подключенный к детектору, переходит в суперпозицию взрыва и невзрыва; кот в коробке переходит в суперпозицию мертвого и живого; а человек, заглядывающий в коробку, — в суперпозицию тошноты и спокойствия. Один и тот же закон на всех уровнях.

Люди, взаимодействующие с суперпонированными системами, сами эволюционируют в суперпозиции. Но в мозге, который видит взорвавшегося кота, и в мозге, который видит живого кота, множество нейронов будет возбуждаться по-разному, и, следовательно, много, много частиц окажется в разных положениях. Они крайне далеки друг от друга в конфигурационном пространстве и будут взаимодействовать в экспоненциально ничтожной степени. Речь идет