Рациональность: от ИИ до зомби - Элиезер Шломо Юдковски

есть радиоактивная частица, которая переходит в суперпозицию распавшейся и нераспавшейся. Затем частица взаимодействует с датчиком, и датчик переходит в суперпозицию сработавшего и несработавшего. Датчик взаимодействует со взрывчаткой, которая переходит в суперпозицию взорвавшейся и невзорвавшейся; взрывчатка взаимодействует с котом, так что кот переходит в суперпозицию живого и мёртвого. Затем человек смотрит на кота», и на этом месте Шрёдингер останавливается и говорит: «Надо же, я просто не могу представить, что произойдёт дальше». Шрёдингер показывает это всем остальным, и они тоже такие: «Ого, понятия не имею, что тут может произойти, какой поразительный парадокс!» Пока, наконец, ты не слышишь об этом и не говоришь: «Слушайте, а может, именно в этот момент половина суперпозиции просто исчезает, случайным образом, быстрее скорости света?», а все остальные такие: «Ого, какая отличная идея!»

— Именно так, — снова говорит Хьюв. — Где-то это должно было случиться.

— Хьюв, это мир, где каждый отдельно взятый физик — да и, пожалуй, всё чёртово человечество — слишком глуп, чтобы записаться на крионику! Мы говорим о Земле, где президент — Джордж Буш-младший.

*

240. Где философия встречается с наукой.

Вглядываясь в раннюю квантовую физику — не ради того, чтобы поучать её ключевых создателей или заявлять, будто мы справились бы лучше, родись мы в ту эпоху, а ради попытки извлечь урок и поступить умнее в следующий раз, — так вот, оглядываясь на эти темные века квантовой физики, главной, «самой базовой» ошибкой я бы, пожалуй, назвал...

... не то, что они попытались повернуть вспять три тысячи лет развития науки, указывавшей, что разум — это сложная система внутри физики, а не её фундаментальная основа. Это Наука, и здесь случаются революции. Время от времени тренды приходится разворачивать. Будущее всегда абсурдно и никогда не нарушает законов.

В качестве базовой ошибки, которую не следует повторять в будущем, я бы выделил то, что ранние учёные забыли: они сами состоят из частиц.

Я имею в виду, в теории-то они наверняка это знали.

И тем не менее они не заметили, что установка датчика для обнаружения пролетающего электрона или даже просто знание о предыстории этого электрона — всего лишь пример «частиц в разных местах». Соответственно, они не заметили, что квантовая теория различных конфигураций уже объясняла результаты эксперимента без какой-либо необходимости привлекать сознание.

В среде наших предков перед людьми часто стояла эволюционно значимая задача предсказывать поведение других людей. Для этого вы воспринимали своих собратьев как существ, которые думают, знают и чувствуют, а не как конгломераты частиц. На самом деле многие племена охотников-собирателей могли даже не догадываться о существовании каких-либо частиц. Гораздо интуитивнее — и субъективно проще — думать о ком-то, что он что-то «знает», чем представлять, как частицы в его мозгу переходят в другое состояние. Проще формулировать свои объяснения через то, что люди знают; это кажется более естественным и быстрее приходит на ум.

Точно так же когда-то было легче представить Тора, мечущего молнии, чем уравнения Максвелла — хотя уравнения Максвелла можно описать компьютерной программой, которая будет в разы меньше, чем программа разумного агента вроде Тора.

Поэтому древним физикам казалось естественным думать: «Я знаю, где был фотон... на что это может повлиять?», а не «Текущее состояние частиц моего мозга коррелирует с предысторией фотона... на что может повлиять это?»

И точно так же, из-за того что моделировать реальность через человеческие знания было просто и интуитивно, а разложение знания на состояния мозга не напрашивалось само собой, теория о том, что конфигурация может иметь амплитуду только «если вы не знали наверняка», казалась простой.

Чтобы превратить дуалистическую квантовую гипотезу в формальную теорию — такую, которую можно записать в виде компьютерной программы, где ученым-людям не приходилось бы самим решать, когда именно произошло «наблюдение», — вам пришлось бы определить, что значит для «наблюдателя» что-то «знать», причем в терминах, доступных для вычисления этой программой.

И что же, ваша фундаментальная физическая теория будет исследовать все частицы в человеческом мозге и определять, когда эти частицы что-то «знают», чтобы рассчитать движение частиц? Но как тогда рассчитать движение самих частиц в мозге? Не возникнет ли здесь потенциально бесконечной рекурсии?

Но пока понятия теории интерпретировались самими учёными, они просто знали, когда произошло «наблюдение». Вы утверждали, что «наблюдение» происходило всякий раз, когда это требовалось, чтобы экспериментальные предсказания сходились с реальностью, — утончённая форма постоянной подгонки.

(Помните, что основы квантовой теории были сформулированы до того, как Алан Тьюринг вообще заговорил о машинах Тьюринга, и задолго до того, как концепция вычислений стала широко известна. Различие между вычислимой формальной теорией и теорией, требующей человеческой интерпретации, тогда было далеко не столь очевидным, как сейчас. Задним умом легко находить проблемы; не стоит делать вывод, будто при взгляде в будущее они обычно столь же очевидны.)

Оглядываясь назад, может показаться, что один из мета-уроков истории состоит в том, что философия действительно важна для науки, а не просто является каким-то придатком к сторонней академической дисциплине.

В конце концов, физики ранней квантовой эпохи ставили правильные эксперименты. Ошибочной была именно их интерпретация. И проблемы интерпретации возникли вовсе не из-за того, что они где-то ошиблись в статистике.

Оглядываясь назад, кажется, что совершённые ими ошибки относились к тому типу мышления, который мы назвали бы, ну, «философским».

Когда мы оглядываемся назад и спрашиваем: «Как физики той поры могли бы справиться лучше, хотя бы в принципе?», кажется, что прозрения, в которых они нуждались, были философскими.

И тем не менее вовсе не профессиональные философы прилетели на помощь, разгадали загадку и вернули всё на круги своя. Это сделали, ну, физики.

Пожалуй, Лейбниц был столь же прозорлив в отношении квантовой физики, как некогда Демокрит — в отношении атомов. Но это легко утверждать задним числом. Это результат того, что мы смотрим на готовое решение, оглядываемся назад и говорим: «О, Лейбниц ведь писал что-то подобное!»

Даже если отдельный философ оказывается прав заранее, в итоге именно наука говорит нам, кто из философов прав, а вовсе не предшествующий консенсус философского сообщества.

Мне кажется, это говорит кое-что фундаментальное о природе самой философии и о стыке между философией и наукой.

Когда-то говорили, что всякая наука начинается как философия, но затем взрослеет и покидает лоно философии, так что в любой конкретный момент «Философия» — это то, что мы ещё не успели превратить в науку.

Полагаю, когда